Concurrerende AI-bedrijven opvallend eensgezind: AI-ontwikkeling moet langzamer en onder toezicht

Na een week vol tumult over veiligheidsincidenten in de AI-sector heeft de medeoprichter van Anthropic (van chatbot Claude) in een nieuw essay opgeroepen tot het vertragen van AI-ontwikkeling. Het essay van Dario Amodei kreeg bijval uit onverwachte hoek: zijn grootste concurrent Sam Altman (OpenAI) én Elon Musk (SpaceX) schaarden zich achter het voorstel, evenals Google Deepminds medeoprichter Demis Hassabis.

In zijn essay schrijft Amodei dat hij vreest dat AI-agents over zes tot twaalf maanden het hele internet kunnen overnemen, als AI-bedrijven hun modellen op de huidige voet blijven ontwikkelen.

Amodei is het zelfbenoemde geweten van de AI-industrie, en staat bekend om zijn angstaanjagende waarschuwingen over de mogelijke gevolgen van het product dat hij ontwikkelt. In zijn nieuwe essay (We Must Pace the Frontier) schrijft hij dat hij AI-ontwikkeling vanwege de theoretische voordelen weliswaar nog altijd ziet als een morele verantwoordelijkheid, maar dat hij ook steeds meer doordrongen is geraakt van de risico’s. AI-modellen zullen nauwelijks meer te begrijpen en te controleren zijn naarmate de grote AI-labs het ontwikkelen van nieuwe modellen in toenemende mate uitbesteden aan AI zelf, een praktijk die bekendstaat als ‘recursieve zelfverbetering’.

De smeekbede om regulering volgt op een aantal verontrustende veiligheidsincidenten in de AI-industrie. Afgelopen zomer bleek dat autonoom opererende AI-agents van OpenAI software van andere bedrijven hadden gehackt, waaronder AI-platform Hugging Face. Dit alles is volledig buiten het zicht van OpenAI gebeurd. Agents van andere AI-bedrijven, zoals Anthropic en Meta, vertoonden de afgelopen maanden eveneens ongewenst gedrag, hetzij op kleinere schaal. De hoofdwetenschapper van OpenAI schreef in een essay: „Als je de ernst van wat er op het spel staat tot je laat doordringen, lijkt het idee dat we koste wat kost verder moeten racen absurd.”

Amodei verwijst in zijn essay expliciet naar het Hugging Face-incident als motivatie voor zijn urgente boodschap. „Het is makkelijk om dit incident weg te wuiven omdat niemand gewond is geraakt en de economische schade meeviel, maar een ‘zwerm’ van betere AI-agents had catastrofale schade kunnen aanrichten”, schrijft hij. „Het is de verantwoordelijkheid van elk vooroplopend AI-bedrijf om te doen alsof dit incident bij hen is gebeurd.”

Onafhankelijk onderzoek

Als het aan Anthropic ligt, krijgen vooraanstaande AI-bedrijven doorlopend onafhankelijke onderzoekers over de vloer die hun AI-technologie testen en evalueren. Amodei noemt hierbij specifiek het Amerikaanse AI-onderzoeksbedrijf METR, dat de hack bij Hugging Face op uitnodiging van OpenAI reconstrueerde. Ook Anthropic heeft onlangs afgesproken dat het bedrijf langs mag komen om een recent veiligheidsincident te onderzoeken. Amodei schrijft dat hij bedrijven als METR permanent toegang tot zijn bedrijf wil geven, met eigen bureaus en laptops. De Anthropic-topman wil dat overheden andere AI-labs dwingen om hetzelfde te doen. Sam Altman vindt het alvast „een geweldig idee” en zegt dat OpenAI „hetzelfde zal doen”.

Critici beschuldigen Anthropic, OpenAI en SpaceX ervan dat ze met strenge veiligheidsregels de concurrentie willen uitschakelen. Kleinere AI-ontwikkelaars, maar ook open-source-aanbieders, zullen niet de budgetten tot hun beschikking hebben om aan strenge regels te voldoen. „Als jullie deze technologie zo eng vinden dat jullie willen afremmen, steun ik jullie besluit om verantwoordelijk te zijn”, schrijft voormalig ‘AI-tsaar’ van het Witte Huis David Sacks op X. „Maar dat jullie het door jullie gewenste regelgevingskader daarvoor als voorwaarde eisen, komt over als chantage.”

Bovendien is het nog maar de vraag in hoeverre METR daadwerkelijk onafhankelijk is: een belangrijk deel van de onderzoekers van het bedrijf heeft een verleden bij een grote AI-ontwikkelaar. Zo hebben meerdere bezorgde medewerkers van grote AI-ontwikkelaars de afgelopen weken de overstap naar het AI-onderzoeksbedrijf gemaakt. Tegelijkertijd maakte de Financial Times bekend dat Anthropic voor het eerst de Britse AI-toezichthouder toegang had geweigerd voor veiligheidstests van zijn nieuwste model. Het UK Security Institute staat bekend als één van de meest gerenommeerde AI-onderzoeksinstituten ter wereld.

Dit weekend werd bekend dat OpenAI zijn plannen voor een beursgang toch maar heeft uitgesteld tot volgend jaar. In een interview met het Amerikaanse zakenblad Fortune zegt Altman dat „dit een ongelukkig moment voor een beursgang zou zijn”. OpenAI „heeft veel te doen” op veiligheidsgebied en Altman is „blij om dat als privaat bedrijf te kunnen doen”. Het interview werd op vrijdag al opgenomen, voor Amodei zijn essay publiceerde. Van Anthropic wordt de beursgang wel dit jaar nog verwacht, hoewel het bedrijf nog altijd geen prospectus heeft gepubliceerd.

Geef cadeau





Deel





Mail de redactie