Wanneer gaat AI zichzelf verbeteren? Dat is de vraag die Anthropic, het bedrijf achter Claude, deze week op tafel legt in een rapport met de titel “When AI builds itself“. De centrale term is recursieve zelfverbetering: het moment waarop een AI-systeem zelfstandig een betere opvolger kan ontwerpen en trainen. Volgens Anthropic is dat punt nog niet bereikt en ook niet onvermijdelijk, maar het zou sneller kunnen komen dan de meeste organisaties en overheden voorzien.
Het opvallende aan het rapport is dat Anthropic interne cijfers deelt die het normaal voor zich houdt. Inmiddels schrijft Claude meer dan tachtig procent van de code die in de eigen systemen terechtkomt. Twee jaar geleden was dat een paar procent. Ook in benchmarks gaat het hard. Waar een model in 2024 nog taken van enkele minuten aankon, gaat het nu om taken die een mens uren of zelfs een werkdag zouden kosten. De grens zit volgens Anthropic nog steeds bij het menselijk oordeel: bepalen welk probleem de moeite waard is om aan te werken, en inschatten welke uitkomst je kunt vertrouwen. Dat blijft voorlopig mensenwerk.
De conclusie die Anthropic eraan verbindt is een oproep tot voorzichtigheid. Het bedrijf wil dat er internationaal een mogelijkheid komt om de ontwikkeling van de krachtigste AI tijdelijk te vertragen of te pauzeren, zodat wetgeving, onderwijs en veiligheidsonderzoek kunnen bijbenen. Ze vergelijken het met afspraken rond kernwapens, inclusief een systeem om te controleren of iedereen zich er ook aan houdt.
