Vorige week schreven we over Claude Fable 5, het zwaarste model van Anthropic, dat na drie dagen alweer op zwart ging door een besluit van de Amerikaanse overheid. Inmiddels is er flink wat meer bekend over wat er achter de schermen speelde, en het beeld is een stuk rommeliger dan een gewone modelrelease met een beveiligingsprobleempje.
Uit verschillende berichten komt naar voren dat het balletje begon te rollen bij Amazon. Onderzoekers daar zouden een manier hebben gevonden om de vangrails van Fable 5 te omzeilen, waarna de top van het bedrijf aan de bel trok in Washington. Anthropic houdt vol dat het om een smal en weinig schokkend lek gaat, dat alleen een paar al bekende, kleine kwetsbaarheden blootlegde die andere modellen net zo goed vinden. De Amerikaanse overheid zag het anders en vreesde vooral dat zo’n krachtig model bruikbaar zou zijn voor buitenlandse inlichtingendiensten, met China en Rusland als belangrijkste zorgpunten.
Daar komt een tweede verhaallijn bij, die naar Zuid-Korea wijst. Volgens berichtgeving had een Koreaans telecombedrijf met vermoedelijke banden met China toegang gekregen tot het zwaardere Mythos 5, via het besloten programma waarmee Anthropic dat model bij geselecteerde partners neerzet. Dat voedde de twijfel of die selectie wel streng genoeg gebeurt. De verhouding tussen Anthropic en de regering lag toch al gevoelig, nadat het bedrijf eerder weigerde zijn modellen open te stellen voor bepaalde militaire toepassingen en daarop door het Pentagon werd bestempeld als veiligheidsrisico.
En juist dat maakt het volgende detail zo wrang. Ook de Amerikaanse veiligheidsdienst NSA heeft het model getest en raakte naar verluidt onder de indruk van het tempo. Bij die proeven spoorde Mythos in zeer korte tijd grote aantallen kwetsbaarheden op in software die jarenlang als veilig gold. Het eerste werkende aanvalsscript had het model in iets minder dan een uur klaar. Dezelfde overheid die buitenlanders nu de toegang ontzegt en het bedrijf eerder een veiligheidsrisico noemde, blijkt het model dus zelf graag te willen gebruiken.
Wat vooral blijft hangen is hoe centraal AI inmiddels staat. Dat bleek vorige week op de G7-top in het Franse Evian, waar de bazen van de grote AI-bedrijven op de slotdag aanschoven bij een werklunch met de wereldleiders en daar werden behandeld als staatshoofden onder elkaar. Een analist verwoordde het treffend: om geloofwaardige afspraken over AI te maken hebben regeringsleiders tegenwoordig de medewerking, en eigenlijk de zegen, nodig van een handvol bazen die de techniek bouwen. Voor het onderwijs keert diezelfde vraag een maatje kleiner terug. Op welke gereedschappen wil je je lessen en je leerlingen laten leunen, als die knoppen ver buiten je eigen lokaal zitten en een partij ze van de ene op de andere dag kan uitzetten?
