Na een week vol tumult over veiligheidsincidenten in de AI-sector heeft de medeoprichter van Anthropic (van chatbot Claude) in een nieuw essay<\/a> opgeroepen tot het vertragen van AI-ontwikkeling. Het essay van Dario Amodei kreeg bijval uit onverwachte hoek: zijn grootste concurrent Sam Altman<\/a> (OpenAI) \u00e9n Elon Musk<\/a> (SpaceX) schaarden zich achter het voorstel, evenals Google Deepminds medeoprichter Demis Hassabis<\/a>.<\/p>\n In zijn essay schrijft Amodei dat hij vreest dat AI-agents over zes tot twaalf maanden het hele internet kunnen overnemen, als AI-bedrijven hun modellen op de huidige voet blijven ontwikkelen.<\/p>\n Amodei is het zelfbenoemde geweten van de AI-industrie, en staat bekend om zijn angstaanjagende waarschuwingen over de mogelijke gevolgen van het product dat hij ontwikkelt. In zijn nieuwe essay (We Must Pace the Frontier<\/em>) schrijft hij dat hij AI-ontwikkeling vanwege de theoretische voordelen weliswaar nog altijd ziet als een morele verantwoordelijkheid, maar dat hij ook steeds meer doordrongen is geraakt van de risico\u2019s. AI-modellen zullen nauwelijks meer te begrijpen en te controleren zijn naarmate de grote AI-labs het ontwikkelen van nieuwe modellen in toenemende mate uitbesteden aan AI zelf, een praktijk die bekendstaat als \u2018recursieve zelfverbetering\u2019.<\/p>\n De smeekbede om regulering volgt op een aantal verontrustende veiligheidsincidenten<\/a> in de AI-industrie. Afgelopen zomer bleek dat autonoom opererende AI-agents van OpenAI software van andere bedrijven hadden gehackt, waaronder AI-platform Hugging Face. Dit alles is volledig buiten het zicht van OpenAI gebeurd. Agents van andere AI-bedrijven, zoals Anthropic en Meta, vertoonden de afgelopen maanden eveneens ongewenst gedrag, hetzij op kleinere schaal. De hoofdwetenschapper van OpenAI schreef in een essay<\/a>: \u201eAls je de ernst van wat er op het spel staat tot je laat doordringen, lijkt het idee dat we koste wat kost verder moeten racen absurd.\u201d<\/p>\n \n\t\t\t\tLees ook\n\t\t\t<\/p>\n De machtsovername: hoe AI-agents \u2018samenzweren\u2019 tegen hun makers<\/span>\n<\/div>\n Amodei verwijst in zijn essay expliciet naar het Hugging Face-incident als motivatie voor zijn urgente boodschap. \u201eHet is makkelijk om dit incident weg te wuiven omdat niemand gewond is geraakt en de economische schade meeviel, maar een \u2018zwerm\u2019 van betere AI-agents had catastrofale schade kunnen aanrichten\u201d, schrijft hij. \u201eHet is de verantwoordelijkheid van elk vooroplopend AI-bedrijf om te doen alsof dit incident bij hen is gebeurd.\u201d<\/p>\n Als het aan Anthropic ligt, krijgen vooraanstaande AI-bedrijven doorlopend onafhankelijke onderzoekers over de vloer die hun AI-technologie testen en evalueren. Amodei noemt hierbij specifiek het Amerikaanse AI-onderzoeksbedrijf METR, dat de hack bij Hugging Face op uitnodiging van OpenAI reconstrueerde. Ook Anthropic heeft onlangs afgesproken dat het bedrijf langs mag komen om een recent veiligheidsincident te onderzoeken. Amodei schrijft dat hij bedrijven als METR permanent toegang tot zijn bedrijf wil geven, met eigen bureaus en laptops. De Anthropic-topman wil dat overheden andere AI-labs dwingen om hetzelfde te doen. Sam Altman vindt het alvast \u201eeen geweldig idee\u201d en zegt dat OpenAI \u201ehetzelfde zal doen\u201d.<\/p>\n Critici beschuldigen Anthropic, OpenAI en SpaceX ervan dat ze met strenge veiligheidsregels de concurrentie willen uitschakelen. Kleinere AI-ontwikkelaars, maar ook open-source-aanbieders, zullen niet de budgetten tot hun beschikking hebben om aan strenge regels te voldoen. \u201eAls jullie deze technologie zo eng vinden dat jullie willen afremmen, steun ik jullie besluit om verantwoordelijk te zijn\u201d, schrijft voormalig \u2018AI-tsaar\u2019 van het Witte Huis David Sacks op X<\/a>. \u201eMaar dat jullie het door jullie gewenste regelgevingskader daarvoor als voorwaarde eisen, komt over als chantage.\u201d<\/p>\n Bovendien is het nog maar de vraag in hoeverre METR daadwerkelijk onafhankelijk is: een belangrijk deel van de onderzoekers van het bedrijf heeft een verleden bij een grote AI-ontwikkelaar. Zo hebben meerdere bezorgde medewerkers van grote AI-ontwikkelaars de afgelopen weken de overstap naar het AI-onderzoeksbedrijf gemaakt. Tegelijkertijd maakte de Financial Times<\/em> bekend<\/a> dat Anthropic voor het eerst de Britse AI-toezichthouder toegang had geweigerd voor veiligheidstests van zijn nieuwste model. Het UK Security Institute\u00a0staat bekend als \u00e9\u00e9n van de meest gerenommeerde AI-onderzoeksinstituten ter wereld.<\/p>\n Dit weekend werd bekend dat OpenAI zijn plannen voor een beursgang toch maar heeft uitgesteld tot volgend jaar. In een interview<\/a> met het Amerikaanse zakenblad Fortune<\/em> zegt Altman dat \u201edit een ongelukkig moment voor een beursgang zou zijn\u201d. OpenAI \u201eheeft veel te doen\u201d op veiligheidsgebied en Altman is \u201eblij om dat als privaat bedrijf te kunnen doen\u201d. Het interview werd op vrijdag al opgenomen, voor Amodei zijn essay publiceerde. Van Anthropic wordt de beursgang wel dit jaar nog verwacht, hoewel het bedrijf nog altijd geen prospectus heeft gepubliceerd.<\/p>\n
\n![\"\"](\"https:\/\/images.nrc.nl\/lEVItYi2Xa_NLFt7kHdOkPhyKA0=\/160x96\/smart\/filters:no_upscale():format(webp)\/s3\/static.nrc.nl\/wp-content\/uploads\/2026\/09\/11134258\/110926ECO_2036531717_-splash.jpg\")
\n<\/a><\/p>\nOnafhankelijk onderzoek<\/h2>\n
![\"Enkele](\"https:\/\/images.nrc.nl\/7ksLOwxbXXk658xqj2iPgd9QJ_0=\/160x96\/smart\/filters:no_upscale():format(webp)\/s3\/static.nrc.nl\/wp-content\/uploads\/2026\/06\/18145941\/web-240626WET_2033813215_groep_2.jpg\")