Geopolitieke rivaliteit staat internationale afspraken over AI in de weg

In het hoog opgelaaide debat over de risico’s van verdere ontwikkeling van kunstmatige intelligentie, maakte de Amerikaanse president Donald Trump in een paar woorden duidelijk wat voor hem in deze kwestie prioriteit heeft. De geopolitieke rivaliteit met China. De rest is voor hem bijzaak.

Natuurlijk kun je praten over maatregelen die de risico’s beperken, zei Trump zondag tegen journalisten. „Maar kijk, met AI lopen we voor op China. En eerlijk gezegd wil ik dat zo houden. Want wie wint op het gebied van AI, die wint.”

Oftewel: geen steun uit het Witte Huis voor het idee om de ontwikkeling van AI uit veiligheidsoverwegingen te vertragen. Tot zo’n vertraging had Dario Amodei, topman van het toonaangevende Amerikaanse AI-bedrijf Anthropic, zaterdag opgeroepen in een inmiddels veelbesproken essay. Andere topmannen van Amerikaanse AI-bedrijven sloten zich meteen bij die oproep aan. Amodei schreef onder meer dat hij vreest dat een autonoom opererende zwerm AI-assistenten (agents) „in zes tot twaalf maanden in staat zal zijn het hele internet over te nemen”.

Het mag lijken alsof de president de sector nu heeft teruggefloten, door uit de losse pols korte metten te maken met het idee meer greep te krijgen op de risico’s van AI, door de ontwikkeling ervan enigszins te vertragen. Maar in feite formuleerde Trump iets diplomatieker wat Amodei zélf in zijn oproep een stuk directer ook al schrijft: „Ik ben het eens met minister van Financiën Bessent dat een voorsprong van China op AI-gebied een ernstig gevaar voor de Verenigde Staten en de wereld zou betekenen.”

Kortom: de Amerikaanse AI-bedrijven zéggen wel dat ze bereid zijn iets minder snel voort te razen op de weg naar nóg geavanceerdere AI. Maar als ze in hun achteruitkijkspiegel zien dat China dichterbij komt, willen ze toch weer vol gas vooruit kunnen. Met een beroep op de nationale veiligheid.

In het debat over AI staan dus niet alleen technologische vooruitgang en financiële belangen tegenover morele afwegingen over de toekomst van de mensheid, zeker zo belangrijk is voor alle betrokkenen de machtsstrijd die ermee uitgevochten wordt op het geopolitieke speelveld. China is zich daarvan terdege bewust. De Chinese nationalistische tabloid Global Times vestigde de aandacht van zijn lezers maandag precies op de zin waarin Amodei over het vermeende gevaar spreekt van een China dat de VS op AI-gebied heeft ingehaald. Een Chinese expert noemt die opmerking in het stuk „ongepast, ongefundeerd en vijandig”.

Killer robots

Naar verwachting zullen Trump en zijn Chinese ambtsgenoot Xi Jinping elkaar op 24 september treffen in de VS, ook al heeft Beijing dat nog niet officieel bevestigd. Of de twee presidenten bij die gelegenheid over AI zullen spreken, is nog onduidelijk. Maar de kans dat ze tot afspraken zullen komen om de ontwikkeling van AI gezamenlijk af te remmen of te reguleren, lijkt niet groot.

In de Amerikaanse politiek is Chinese vooruitgang op het gebied van AI al lang een effectief schrikbeeld. Het argument dat China de VS niet mag inhalen, wordt onder meer gebruikt om Amerikaanse burgers ervan te overtuigen de bouw van datacenters in hun buurt te accepteren. De Republikeinse senator Ted Cruz, uit Texas, zei dit weekend – „en dit is niet helemaal een grap” – dat als er met behulp van AI „killer robots” komen, hij liever heeft dat het Amerikaanse killer robots zijn dan Chinese.

En een door de Democraten opgerichte denktank publiceerde vorige maand een rapport met een lijstje beleidsopties voor het geval China eerder dan de VS kunstmatige intelligentie ontwikkelt die de mens in alle cognitieve taken overtreft, wat bekendstaat als Artificial General Intelligence (AGI). Het rapport waarschuwt onder meer voor de door AGI-aangestuurde wapensystemen die China dan kan ontwikkelen.

De Amerikaanse regering zou moeten oefenen, stelt het rapport, met een scenario waarin het intervenieert en zo verhindert dat China AGI als eerste bereikt. Als dat te laat blijkt te zijn, zou overwogen moeten worden de technologie te stelen, en ook het bombarderen van datacenters wordt als optie gesuggereerd.

Anthropic-topman Amodei gaat niet zo ver. Hij stelt zijn hoop op internationale overeenkomsten, vooral tussen China en de VS, die veilige ontwikkeling van AI moeten garanderen. Daar zouden „waterdichte afspraken” bij horen om te verifiëren of beide supermachten zich wel houden aan de overeengekomen regels.

Maar hoe zo’n verificatie er in de praktijk uit moet zien, blijft onduidelijk. Al enkele jaren weerklinkt af en toe de vraag of de onderhandelingen en afspraken over nucleaire wapenbeheersing tijdens de Koude Oorlog niet als voorbeeld kunnen dienen. Ook daarbij speelde immers een doemscenario mee: was het destijds de ondergang van een groot deel van de mensheid door een kernoorlog, nu is het de door sommige gevreesde ondergang van de mensheid door losgeslagen AI-agents die zich aan menselijke opdrachtgevers en menselijke waarden niets gelegen laten liggen.

Nog complexer

Maar in de Koude Oorlog werden de onderhandelingen over wapenbeheersing grotendeels gevoerd door twee staten, de Sovjet-Unie en de Verenigde Staten. De raketten en kernkoppen waarover het ging stonden onder controle van die twee staten en hun militaire apparaat. Dat zorgde voor een zekere helderheid.

In de huidige situatie is moeilijk voorstelbaar hoe China en de VS over de voortgang van AI-ontwikkeling kunnen spreken zonder dat in de VS de particuliere AI-bedrijven daarbij betrokken zijn. Dat maakt onderhandelingen nog complexer dan ze tijdens de Koude Oorlog al waren.

Dat komt vooral omdat het de bedrijven zijn, veel meer dan de overheidsinstellingen, die de kennis hebben over wat er in hun gesloten ondernemingen gebeurt. De loyaliteit van hun topmannen ligt bij het eigen bedrijf, de aandeelhouders en misschien hun eigen geweten. Een erg stevige basis voor vertrouwen in de duurzaamheid van eventuele afspraken is dat niet. Ook al omdat de bedrijven tot nu toe vrijwel gevrijwaard zijn gebleven van regulering door de overheid en weinig geneigd zijn tot gehoorzaamheid aan de overheid. Nog steeds is niet duidelijk of ze bereid zijn meer te accepteren dan zelfregulering.

Over een kleine twee maanden zijn er in de VS verkiezingen voor het Huis van Afgevaardigden en een deel van de Senaat. Sommige politici lijken de afgelopen weken wakker te zijn geschrokken door de waarschuwingen uit de AI-sector zelf voor hun producten. Anthropic beschreef vorige week in een rapport op wat voor gevaarlijke manieren er dit jaar misbruik gemaakt is van zijn AI-modellen. Zo was er een poging om met behulp van AI onderzoek te doen dat tot de ontwikkeling van biologische wapens kon leiden. Ook zou geprobeerd zijn met Anthropics Claude software te ontwikkelen voor het ontwerpen van „vuurwapens, raketten, gewapende drones, bommen en andere munitie, alsmede de systemen om die wapens de gebruiken en doelwitten te selecteren”.

Maar ook als de AI-bedrijven daarmee het gevoel van urgentie hebben overgebracht op de politici, betekent dat nog niet dat het diep verdeelde Congres tot actie zal overgaan, laat staan in de korte tijd die rest tot de verkiezingen in november. Het signaal van Trump aan zijn partij was zondag duidelijk: laten we niet op de rem gaan staan, in de strijd met China op het terrein van AI staat het nationale belang op het spel en dat moet voorrang hebben.

Een sprankje hoop op ten minste het begin van een akkoord tussen de VS en China over de ontwikkeling van AI, zo opperde meer dan een expert dit weekend, biedt de aanstaande top van Trump en Xi. „De top volgende week is een kans voor Trump om zijn koers te wijzigen en te helpen om de meest explosieve risico’s van AI te bezweren, en zo zijn begeerde Nobelprijs voor de Vrede in de wacht te slepen”, schrijft Gary Marcus, auteur van onder meer Rebooting AI, deze maandag in The Economist. „De prijs ligt dan voor het oprapen.”

Geef cadeau





Deel





Mail de redactie