In het hoog opgelaaide debat over de risico\u2019s van verdere ontwikkeling van kunstmatige intelligentie, maakte de Amerikaanse president Donald Trump in een paar woorden duidelijk wat voor hem in deze kwestie prioriteit heeft. De geopolitieke rivaliteit met China. De rest is voor hem bijzaak.<\/p>\n
Natuurlijk kun je praten over maatregelen die de risico\u2019s beperken, zei Trump zondag tegen journalisten. \u201eMaar kijk, met AI lopen we voor op China. En eerlijk gezegd wil ik dat zo houden. Want wie wint op het gebied van AI, die wint.\u201d <\/p>\n
Oftewel: geen steun uit het Witte Huis voor het idee om de ontwikkeling van AI uit veiligheidsoverwegingen te vertragen. Tot zo\u2019n vertraging had Dario Amodei, topman van het toonaangevende Amerikaanse AI-bedrijf Anthropic, zaterdag opgeroepen in een inmiddels veelbesproken essay<\/a>. Andere topmannen van Amerikaanse AI-bedrijven sloten zich meteen bij die oproep aan. Amodei schreef onder meer dat hij vreest dat een autonoom opererende zwerm AI-assistenten (agents<\/em>) \u201ein zes tot twaalf maanden in staat zal zijn het hele internet over te nemen\u201d.<\/p>\n Het mag lijken alsof de president de sector nu heeft teruggefloten, door uit de losse pols korte metten te maken met het idee meer greep te krijgen op de risico\u2019s van AI, door de ontwikkeling ervan enigszins te vertragen. Maar in feite formuleerde Trump iets diplomatieker wat Amodei z\u00e9lf in zijn oproep een stuk directer ook al schrijft: \u201eIk ben het eens met minister van Financi\u00ebn Bessent dat een voorsprong van China op AI-gebied een ernstig gevaar voor de Verenigde Staten en de wereld zou betekenen.\u201d<\/p>\n Kortom: de Amerikaanse AI-bedrijven z\u00e9ggen wel dat ze bereid zijn iets minder snel voort te razen op de weg naar n\u00f3g geavanceerdere AI. Maar als ze in hun achteruitkijkspiegel zien dat China dichterbij komt, willen ze toch weer vol gas vooruit kunnen. Met een beroep op de nationale veiligheid.<\/p>\n In het debat over AI staan dus niet alleen technologische vooruitgang en financi\u00eble belangen tegenover morele afwegingen over de toekomst van de mensheid, zeker zo belangrijk is voor alle betrokkenen de machtsstrijd die ermee uitgevochten wordt op het geopolitieke speelveld. China is zich daarvan terdege bewust. De Chinese nationalistische tabloid Global Times<\/em> vestigde de aandacht van zijn lezers maandag precies op de zin waarin Amodei over het vermeende gevaar spreekt van een China dat de VS op AI-gebied heeft ingehaald. Een Chinese expert noemt die opmerking in het stuk \u201eongepast, ongefundeerd en vijandig\u201d.<\/p>\n Naar verwachting zullen Trump en zijn Chinese ambtsgenoot Xi Jinping elkaar op 24 september treffen in de VS, ook al heeft Beijing dat nog niet officieel bevestigd. Of de twee presidenten bij die gelegenheid over AI zullen spreken, is nog onduidelijk. Maar de kans dat ze tot afspraken zullen komen om de ontwikkeling van AI gezamenlijk af te remmen of te reguleren, lijkt niet groot.<\/p>\n In de Amerikaanse politiek is Chinese vooruitgang op het gebied van AI al lang een effectief schrikbeeld. Het argument dat China de VS niet mag inhalen, wordt onder meer gebruikt om Amerikaanse burgers ervan te overtuigen de bouw van datacenters in hun buurt te accepteren. De Republikeinse senator Ted Cruz, uit Texas, zei dit weekend \u2013 \u201een dit is niet helemaal een grap\u201d \u2013 dat als er met behulp van AI \u201ekiller robots\u201d komen, hij liever heeft dat het Amerikaanse killer robots zijn dan Chinese.<\/p>\n En een door de Democraten opgerichte denktank publiceerde vorige maand een rapport<\/a> met een lijstje beleidsopties voor het geval China eerder dan de VS kunstmatige intelligentie ontwikkelt die de mens in alle cognitieve taken overtreft, wat bekendstaat als Artificial General Intelligence (AGI). Het rapport waarschuwt onder meer voor de door AGI-aangestuurde wapensystemen die China dan kan ontwikkelen.<\/p>\n De Amerikaanse regering zou moeten oefenen, stelt het rapport, met een scenario waarin het intervenieert en zo verhindert dat China AGI als eerste bereikt. Als dat te laat blijkt te zijn, zou overwogen moeten worden de technologie te stelen, en ook het bombarderen van datacenters wordt als optie gesuggereerd.<\/p>\n \n\t\t\t\tLees ook\n\t\t\t<\/p>\n De machtsovername: hoe AI-agents \u2018samenzweren\u2019 tegen hun makers<\/span>\n<\/div>\n Anthropic-topman Amodei gaat niet zo ver. Hij stelt zijn hoop op internationale overeenkomsten, vooral tussen China en de VS, die veilige ontwikkeling van AI moeten garanderen. Daar zouden \u201ewaterdichte afspraken\u201d bij horen om te verifi\u00ebren of beide supermachten zich wel houden aan de overeengekomen regels.<\/p>\n Maar hoe zo\u2019n verificatie er in de praktijk uit moet zien, blijft onduidelijk. Al enkele jaren weerklinkt af en toe de vraag<\/a> of de onderhandelingen en afspraken over nucleaire wapenbeheersing tijdens de Koude Oorlog niet als voorbeeld kunnen dienen. Ook daarbij speelde immers een doemscenario mee: was het destijds de ondergang van een groot deel van de mensheid door een kernoorlog, nu is het de door sommige gevreesde ondergang van de mensheid door losgeslagen AI-agents die zich aan menselijke opdrachtgevers en menselijke waarden niets gelegen laten liggen.<\/p>\n Maar in de Koude Oorlog werden de onderhandelingen over wapenbeheersing grotendeels gevoerd door twee staten, de Sovjet-Unie en de Verenigde Staten. De raketten en kernkoppen waarover het ging stonden onder controle van die twee staten en hun militaire apparaat. Dat zorgde voor een zekere helderheid.<\/p>\n In de huidige situatie is moeilijk voorstelbaar hoe China en de VS over de voortgang van AI-ontwikkeling kunnen spreken zonder dat in de VS de particuliere AI-bedrijven daarbij betrokken zijn. Dat maakt onderhandelingen nog complexer dan ze tijdens de Koude Oorlog al waren.<\/p>\n Dat komt vooral omdat het de bedrijven zijn, veel meer dan de overheidsinstellingen, die de kennis hebben over wat er in hun gesloten ondernemingen gebeurt. De loyaliteit van hun topmannen ligt bij het eigen bedrijf, de aandeelhouders en misschien hun eigen geweten. Een erg stevige basis voor vertrouwen in de duurzaamheid van eventuele afspraken is dat niet. Ook al omdat de bedrijven tot nu toe vrijwel gevrijwaard zijn gebleven van regulering door de overheid en weinig geneigd zijn tot gehoorzaamheid aan de overheid. Nog steeds is niet duidelijk of ze bereid zijn meer te accepteren dan zelfregulering.<\/p>\n Over een kleine twee maanden zijn er in de VS verkiezingen voor het Huis van Afgevaardigden en een deel van de Senaat. Sommige politici lijken de afgelopen weken wakker te zijn geschrokken door de waarschuwingen uit de AI-sector zelf voor hun producten. Anthropic beschreef vorige week in een rapport<\/a> op wat voor gevaarlijke manieren er dit jaar misbruik gemaakt is van zijn AI-modellen. Zo was er een poging om met behulp van AI onderzoek te doen dat tot de ontwikkeling van biologische wapens kon leiden. Ook zou geprobeerd zijn met Anthropics Claude software te ontwikkelen voor het ontwerpen van \u201evuurwapens, raketten, gewapende drones, bommen en andere munitie, alsmede de systemen om die wapens de gebruiken en doelwitten te selecteren\u201d.<\/p>\n Maar ook als de AI-bedrijven daarmee het gevoel van urgentie hebben overgebracht op de politici, betekent dat nog niet dat het diep verdeelde Congres tot actie zal overgaan, laat staan in de korte tijd die rest tot de verkiezingen in november. Het signaal van Trump aan zijn partij was zondag duidelijk: laten we niet op de rem gaan staan, in de strijd met China op het terrein van AI staat het nationale belang op het spel en dat moet voorrang hebben.<\/p>\n Een sprankje hoop op ten minste het begin van een akkoord tussen de VS en China over de ontwikkeling van AI, zo opperde meer dan een expert dit weekend, biedt de aanstaande top van Trump en Xi. \u201eDe top volgende week is een kans voor Trump om zijn koers te wijzigen en te helpen om de meest explosieve risico\u2019s van AI te bezweren, en zo zijn begeerde Nobelprijs voor de Vrede in de wacht te slepen\u201d, schrijft Gary Marcus, auteur van onder meer Rebooting AI<\/em>, deze maandag in The Economist<\/em><\/a>. \u201eDe prijs ligt dan voor het oprapen.\u201d<\/p>\n \n\t\t\tBij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Killer robots<\/h2>\n
\n![\"\"](\"https:\/\/images.nrc.nl\/lEVItYi2Xa_NLFt7kHdOkPhyKA0=\/160x96\/smart\/filters:no_upscale():format(webp)\/s3\/static.nrc.nl\/wp-content\/uploads\/2026\/09\/11134258\/110926ECO_2036531717_-splash.jpg\")
\n<\/a><\/p>\nNog complexer <\/h2>\n
Maak NRC jouw voorkeursbron op Google<\/h2>\n
\n\t\t\t\tMeer informatie<\/a>\n<\/p>\n