Microsoft, Google en xAI zullen de overheid hun AI-modellen laten testen vóór de lancering

Google, Microsoft en xAI zullen nog niet uitgebrachte versies van hun AI-modellen met de overheid delen om cyberveiligheidsbedreigingen te beteugelen, zo maakte het National Institute of Standards and Technology dinsdag bekend.

Het partnerschap komt daarna Het krachtige nieuwe Mythos AI-model van Anthropic De zorgen over de impact van AI op cyberveiligheid hebben de afgelopen maand tot een omslagpunt geleid, wat het Witte Huis ertoe heeft aangezet een formeel beoordelingsproces voor AI te overwegen.

Dankzij de nieuwe overeenkomsten kan het Center for AI Standards and Innovation, binnen het Amerikaanse ministerie van Handel, nieuwe AI-modellen en hun potentiële impact op de nationale veiligheid en de openbare veiligheid evalueren vóór de lancering ervan. Het centrum zal ook onderzoek en tests uitvoeren nadat AI-modellen zijn ingezet en heeft al meer dan 40 AI-modelevaluaties voltooid.

“Onafhankelijke, rigoureuze meetwetenschap is essentieel voor het begrijpen van grensverleggende AI en de implicaties ervan voor de nationale veiligheid”, zei CAISI-directeur Chris Fall in een verklaring. “Deze uitgebreide industriële samenwerkingen helpen ons ons werk op een cruciaal moment in het publieke belang op te schalen.”

Mythos, dat volgens Anthropic “ver voorloopt” op andere modellen op het gebied van cyberveiligheid, heeft de afgelopen maand geleid tot een golf van zorgen onder overheden, banken en nutsbedrijven. Het bedrijf zegt dat het het nog niet prettig vindt om het model openbaar te maken en beperkt de toegang tot een selecte groep goedgekeurde organisaties. Het heeft ook hoge Amerikaanse regeringsfunctionarissen geïnformeerd over zijn capaciteiten.

Open AI ook zei vorige week dat het zijn meest geavanceerde AI-modellen beschikbaar stelt aan alle doorgelichte niveaus van de overheid met als doel de door AI mogelijk gemaakte bedreigingen voor te zijn.

De partnerschappen zouden het voor CAISI gemakkelijker kunnen maken om AI te testen door meer middelen te verstrekken, zegt Jessica Ji, senior onderzoeksanalist bij Georgetown’s Center for Security and Emerging Technology.

“Ze beschikken simpelweg niet over dezelfde hoeveelheid middelen (als grote technologiebedrijven), zoals mankracht, technisch personeel en ook toegang tot computers, om deze modellen uit te werken, om rigoureuze tests uit te voeren,” zei ze.

Het Witte Huis is momenteel op zoek naar overleg met een groep experts om te adviseren over een mogelijk overheidsbeoordelingsproces voor nieuwe AI-modellen, heeft CNN bevestigd. Dit zou een afwijking betekenen van de luchtige benadering van de AI-regulering door de regering-Trump tot nu toe.

De New York Times Dat meldde de werkgroep maandag voor het eerst.

“Elke beleidsaankondiging zal rechtstreeks van de president komen. Discussies over mogelijke uitvoerende bevelen zijn speculatie”, vertelde een woordvoerder van het Witte Huis aan CNN.

Terwijl Microsoft regelmatig zijn eigen modellen test, biedt CAISI aanvullende “technische, wetenschappelijke en nationale veiligheidsexpertise”, zei Microsoft Chief Responsible AI Officer Natasha Crampton in een stelling

Google weigerde verder commentaar te geven op de overeenkomst. xAI reageerde niet op verzoeken om commentaar.

Lisa Eadicicco van CNN heeft bijgedragen aan dit rapport.