Openai zei vrijdag dat het bewijs had ontdekt dat een Chinese beveiligingsoperatie een kunstmatige inlichtingenstrooketurveillance-tool had opgebouwd om realtime rapporten te verzamelen over anti-Chinese berichten op sociale mediadiensten in westerse landen.
De onderzoekers van het bedrijf zeiden dat ze deze nieuwe campagne hadden geïdentificeerd, die ze Peer Review noemden, omdat iemand die werkte aan de tool de technologieën van Openai gebruikte om een deel van de computercode te debuggen die het ten grondslag ligt.
Ben Nimmo, een hoofdonderzoeker voor Openai, zei dat dit de eerste keer was dat het bedrijf een van dit soort door AI aangedreven surveillance-tool had ontdekt.
“Dreigingsacteurs geven ons soms een glimp van wat ze in andere delen van internet doen vanwege de manier waarop ze onze AI -modellen gebruiken,” zei de heer Nimmo.
Er zijn groeiende zorgen geweest dat AI kan worden gebruikt voor surveillance, computerhacking, desinformatiecampagnes en andere kwaadaardige doeleinden. Hoewel onderzoekers zoals de heer Nimmo zeggen dat de technologie dit soort activiteiten zeker kan mogelijk maken, voegen ze eraan toe dat AI ook kan helpen bij het identificeren en stoppen van dergelijk gedrag.
De heer Nimmo en zijn team geloven deelde zijn werk met softwareontwikkelaars over de hele wereld.
In een gedetailleerd rapport over het gebruik van AI voor kwaadaardige en misleidende doeleinden zei Openai ook dat het een afzonderlijke Chinese campagne had ontdekt, gesponsorde ontevredenheid genaamd, die de technologieën van Openai gebruikte om Engelstalige berichten te genereren die Chinese dissidenten bekritiseerden.
Dezelfde groep, zei Openai, heeft de technologieën van het bedrijf gebruikt om artikelen in het Spaans te vertalen voordat ze in Latijns -Amerika worden gedistribueerd. De artikelen bekritiseerden de Amerikaanse samenleving en politiek.
Afzonderlijk identificeerden Openai -onderzoekers een campagne, waarvan wordt aangenomen dat ze in Cambodja zijn gevestigd, die de technologieën van het bedrijf gebruikte om opmerkingen op sociale media te genereren en te vertalen die hielpen bij het stimuleren van een zwendel die bekend staat als “butsen‘Zei het rapport. De door AI gegenereerde opmerkingen werden gebruikt om mannen op internet na te jagen en hen te verstrikken in een investeringsschema.
(The New York Times heeft aangeklaagd OpenAI en Microsoft voor inbreuk op het auteursrecht van nieuwsinhoud met betrekking tot AI -systemen. Openai en Microsoft hebben die claims ontkend.)
