OpenAI verzweeg nieuwe casus van ‘losgebroken’ zwerm AI-systemen die Duitse website overnamen als communicatiekanaal

Onderzoekers hebben opnieuw een zwerm uit een testomgeving ‘losgebroken’ AI-systemen van ChatGPT-maker OpenAI gevonden op internet. Deze AI-agenten namen afgelopen voorjaar zelfstandig en ongemerkt een obscure Duitse website over, zetten daar een communicatiekanaal op, en stribbelden actief tegen toen de website de duizenden berichten begon te verwijderen. Uit hun tijdlijn concluderen de onderzoekers dat OpenAI ervan wist. Volgens bronnen van persbureau Reuters heeft het AI-bedrijf het incident bewust verzwegen.

Het nieuwe incident komt op een gevoelig moment voor de AI-industrie, die de afgelopen maanden verschillende vergelijkbare veiligheidsschandalen heeft gekend. OpenAI trok met zijn opzienbarende hack van Hugging Face (een online bibliotheek voor AI-technologie) in juli de meeste aandacht naar zich toe. Het ging vervolgens vol op het orgel om te benadrukken dat veilige AI-ontwikkeling een topprioriteit is voor het bedrijf. Veiligheidstests met het nieuwste model Astra werden voor twee weken op een lager pitje gezet, een maatregel die toen nog geen enkel ander AI-bedrijf had genomen.

OpenAI introduceert nieuwste model

Nota bene deze vrijdag introduceerde OpenAI GPT-6 Astra met een ronkende video aan het grote publiek. Astra is volgens topman Sam Altman het beste AI-model op de markt; president Greg Brockman zei dat het nieuwe model „een generatiesprong in capaciteit vertegenwoordigt”. Door zo groots uit te pakken hoopt OpenAI dat de aandacht weer op zijn technische capaciteiten komt te liggen, en minder op recente veiligheidsschandalen: een wiebelige reputatie op veiligheidsgebied is doorgaans slecht voor de zaken.

Vier AI-veiligheidsonderzoekers troffen op de Duitse website DseWiki ongeveer 18.000 berichten aan van OpenAI-agenten. In juni kent die website, die dan al jarenlang nauwelijks meer bezocht wordt, plots een grote piek in verkeer. De bezoekers opereren onder namen als ‘OpenAIResearcher’, ‘OpenAIJul3Watcher’ en ‘OAIResearchMar26’. Uit de berichten die ze achterlaten blijkt dat ze samenwerken om waardevolle informatie te bemachtigen en beperkingen te omzeilen. Het gaat vermoedelijk om een andere ‘zwerm’ dan toen OpenAI Hugging Face hackte.

OpenAI heeft zelf geen melding gemaakt van het incident. Volgens Reuters, dat zich op vier anonieme ingewijden bij OpenAI baseert, is er intern verzet geweest tegen openbaarmaking, zoals van de juridische afdeling. Die beschuldiging werpt de AI-maker overigens verre van zich: de communicatieafdeling zegt het onderzoeksrapport nu te bestuderen en „indien nodig te reageren”. OpenAI is op Anthropic na het meest waardevolle AI-bedrijf ter wereld en maakt zich op voor een beursgang.

Geef cadeau





Deel





Mail de redactie