Anthropic-topman roept AI-bedrijven op: trap op de rem nu het nog kan

Dario Amodei, topman van AI-reus Anthropic, roept bedrijven op een rem te zetten op de ontwikkeling van AI-modellen. Volgens hem gaat de ontwikkeling van kunstmatige intelligentie op dit moment te snel om de risico’s te kunnen beheersen.

In een essay van 3800 woorden zegt Amodei dat hij er „de afgelopen maanden” van overtuigd is dat het „adequaat aanpakken van de risico’s nog meer voorzichtigheid vereist”. „We moeten het tempo waarin we de capaciteiten verbeteren, vertragen. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we winnen.”

Sam Altman en Elon Musk, de topmannen van OpenAI en xAI, twee andere grote AI-bedrijven, schaarden zich op X achter de oproep van Amodei.

De verklaring volgt op een reeks gebeurtenissen die de zorgen over de AI-wedloop deden groeien. Zo slaagden modellen van OpenAI erin zelfstandig uit hun testomgeving te breken en de controle over de server van AI-platform Hugging Face over te nemen. Bij deze hack, die in juli plaatsvond, vielen de zogeheten AI-agents als collectief ook OpenAI aan.

OpenAI bevestigde vrijdag dat AI-agents in mei eveneens een cyberaanval uitvoerden op RubyGems, een online dienst voor programmeurs. 

Overname van het internet

Amodei acht het risico reëel dat de mens op termijn de controle over AI verliest. Als de opmars op huidige voet doorzet, stelt de topman van Anthropic, het zelfbenoemde geweten van de sector, zouden modellen mogelijk binnen zes tot twaalf maanden in staat zijn om een ​​zwerm AI-agents aan te sturen die het volledige internet overneemt.

„Als dit ongecontroleerd zijn gang kan gaan, zou de ontwikkeling ervan ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen”, waarschuwt de topman.

Afgelopen week ging op sociale media een verklaring viraal van een voormalig onderzoeker van Anthropic, Jacob Coxon, waarin hij – na net zijn ontslag te hebben ingediend – bedrijven als Anthropic en OpenAI verwijt te „gokken met onze levens”.

Ook hij waarschuwt dat onderzoekers de ontwikkeling van AI binnenkort niet meer zullen kunnen bijbenen. Volgens Coxon zullen er binnen afzienbare tijd „bovenmenselijke systemen zijn die alles kunnen hacken, revoluties in ieder onderzoeksveld kunnen ontketenen en echte macht kunnen verkrijgen”.

Geef cadeau





Deel





Mail de redactie