Hoe ‘Deepfake Elon Musk’ de grootste oplichter op internet werd

Steve Beauchamp wilde alleen maar geld voor zijn familie. En hij dacht dat Elon Musk kon helpen.

De heer Beauchamp, een 82-jarige gepensioneerde, zag eind vorig jaar een video waarin de heer Musk een radicale investeringsmogelijkheid aanprees die snelle rendementen beloofde. Hij nam contact op met het bedrijf achter de pitch en opende een rekening voor $ 248. Door een reeks transacties gedurende meerdere weken, putte de heer Beauchamp zijn pensioenrekening uit en investeerde uiteindelijk meer dan $ 690.000.

Toen verdween het geld – het ging verloren aan digitale oplichters die vooropliepen in een nieuwe criminele onderneming die werd aangestuurd door kunstmatige intelligentie.

De oplichters hadden een echt interview met meneer Musk bewerkt, waarbij ze zijn stem hadden vervangen door een replica met behulp van AI-tools. De AI was geavanceerd genoeg om kleine mondbewegingen te kunnen aanpassen aan het nieuwe script dat ze hadden geschreven voor de digitale nep. Voor een gewone kijker was de manipulatie misschien niet waarneembaar.

“Ik bedoel, de foto van hem — het was hij,” zei meneer Beauchamp over de video die hij van meneer Musk zag. “Of het nu AI was die hem de dingen liet zeggen die hij zei, weet ik echt niet. Maar wat de foto betreft, als iemand had gezegd: ‘Kies hem uit een line-up,’ dan was hij dat.”

Duizenden van deze AI-gestuurde video’s, bekend als deepfakes, hebben de afgelopen maanden het internet overspoeld met nepversies van Mr. Musk die tientallen potentiële investeerders misleidt. AI-gestuurde deepfakes zullen naar verwachting jaarlijks bijdragen aan miljarden dollars aan fraudeverliezen, aldus schattingen van Deloitte.

De video’s kosten slechts een paar dollar om te produceren en kunnen in een paar minuten worden gemaakt. Ze worden gepromoot op sociale media, waaronder betaalde advertenties op Facebook, waardoor hun bereik wordt vergroot.

“Het is waarschijnlijk de grootste deepfake-zwendel ooit”, aldus Francesco Cavalli, medeoprichter en hoofd van threat intelligence bij Sensity, een bedrijf dat deepfakes monitort en detecteert.

De video’s zijn vaak griezelig levensecht en leggen de karakteristieke houterige cadans en het Zuid-Afrikaanse accent van Musk goed vast.

Volgens Sensity, dat meer dan 2.000 deepfakes analyseerde, was Musk veruit de woordvoerder in de video’s.

Sensity ontdekte dat hij in bijna een kwart van alle deepfake scams sinds eind vorig jaar te zien was. Van de video’s die zich op cryptovaluta’s richtten, was hij in bijna 90 procent van de video’s te zien.

In de deepfake-advertenties waren onder andere ook Warren Buffet, de vooraanstaande investeerder, en Jeff Bezos, de oprichter van Amazon, te zien.

Musk reageerde niet op verzoeken om commentaar.

Het is lastig om precies te kwantificeren hoeveel deepfakes er online rondzweven, maar een zoektocht in de advertentiebibliotheek van Facebook naar veelgebruikte taal die reclame maakte voor de scams, bracht honderdduizenden advertenties aan het licht, waarvan er veel deepfake-video’s bevatten. Hoewel Facebook er al veel heeft verwijderd omdat ze het beleid schenden en een aantal van de verantwoordelijke accounts heeft uitgeschakeld, bleven andere video’s online en leken er elke dag meer te verschijnen.

Ook YouTube werd overspoeld met nepvideo’s, vaak met een label dat suggereert dat de video ‘live’ is. In feite zijn de video’s vooraf opgenomen deepfakes.

Nadat voormalig president Donald J. Trump zaterdag op een Bitcoin-conferentie had gesproken, hostte YouTube tientallen video’s met het label ‘live’, waarin een vooraf opgenomen deepfake-versie van Elon Musk te zien was waarin hij zei dat hij persoonlijk elke cryptocurrency die naar zijn account werd gestuurd, zou verdubbelen. Sommige van de video’s hadden honderdduizenden kijkers, hoewel YouTube zei dat oplichters bots kunnen gebruiken om het aantal kunstmatig op te blazen.

Een Texaan zei dat hij $ 36.000 aan Bitcoin verloor nadat hij in februari 2023 een ‘imitatie’ van Musk had gezien die sprak in een zogenaamde live YouTube-video, volgens een rapport met de Beter Bedrijfsbureaude non-profit consumentenbelangenorganisatie.

“Ik heb mijn bitcoins verstuurd, maar nooit iets teruggekregen”, schreef de persoon.

YouTube zei in een verklaring dat het van januari tot en met maart van dit jaar meer dan 15,7 miljoen kanalen en meer dan 8,2 miljoen video’s had verwijderd vanwege schending van de richtlijnen, waarbij de meeste daarvan de beleidsregels tegen YouTube schonden. spam.

De prevalentie van de nepadvertenties bracht Andrew Forrest, een Australische miljardair wiens video’s ook werden gebruikt om deepfake-advertenties op Facebook te maken, ertoe een civiele rechtszaak aan te spannen tegen Meta, het moederbedrijf, wegens nalatigheid in de manier waarop de advertentiebusiness wordt gerund. Hij beweerde dat Facebooks advertentiebusiness “onschuldige gebruikers tot slechte investeringen lokte.”

Meta, eigenaar van Facebook, zei dat het bedrijf geautomatiseerde detectiesystemen trainde om fraude op zijn platform te ontdekken. Het bedrijf beschreef echter ook een kat-en-muisspel waarbij kapitaalkrachtige oplichters voortdurend hun tactieken veranderden om detectie te ontlopen.

YouTube wees op zijn beleid dat oplichting en gemanipuleerde video’s verbiedt. Het bedrijf stelde in maart een vereiste dat makers openbaar maken wanneer ze AI gebruiken om realistische content te creëren.

Het internet staat nu vol met soortgelijke berichten van mensen die duizenden dollars zijn opgelicht, sommigen van hen zijn hun hele spaargeld kwijtgeraakt. De Securities and Futures Commission van Hongkong waarschuwde in mei voor oplichtingspraktijken met dhr. Musk. Eerder dit jaar, de Federale Handelscommissie En de Federale Onderzoeksdienst waarschuwde Amerikanen dat door AI aangestuurde cybercriminaliteit en deepfake-fraude in opkomst zijn.

“Criminelen gebruiken AI als een krachtvermenigvuldiger” op manieren die “cyberaanvallen en andere criminele activiteiten effectiever en moeilijker te detecteren maken”, aldus de FBI in een e-mailverklaring.

Digitale oplichting is net zo oud als het internet zelf. Maar de nieuwe deepfakes met Mr. Musk kwamen vorig jaar op nadat geavanceerde AI-tools voor het publiek beschikbaar kwamen, waardoor iedereen stemmen van beroemdheden kon klonen of video’s met griezelige nauwkeurigheid kon manipuleren. Pornografen, meme-makers en oplichters kregen hier steeds meer aandacht voor.

“Het verandert nu omdat de georganiseerde misdaad heeft ontdekt dat we hier geld mee kunnen verdienen”, aldus Lou Steinberg, de oprichter van CTM-inzichteneen cybersecurity onderzoekslab. “We gaan dus steeds meer van dit soort neppogingen zien om je van je geld te scheiden.”

De door AI gegenereerde video’s zijn verre van perfect. Dhr. Musk kan in sommige video’s robotachtig klinken en zijn mond komt niet altijd overeen met zijn woorden. Maar ze lijken overtuigend genoeg voor sommige doelwitten van de oplichterij — en ze worden steeds beter, zeiden experts.

Volgens dhr. Cavalli van Sensity kosten zulke video’s slechts $ 10 om te maken. De oplichters — voornamelijk gevestigd in India, Rusland, China en Oost-Europa — knutselen de nepvideo’s in elkaar met een mix van gratis en goedkope tools in minder dan 10 minuten.

“Het werkt,” zei dhr. Cavalli. “Dus ze blijven de campagne uitbreiden, over landen heen, vertalen naar meerdere talen en verspreiden de scam continu naar nog meer doelwitten.”

Sommige scams adverteren vaak met nep-AI-aangedreven software, met de bewering dat ze ongelooflijke rendementen op een investering kunnen opleveren. Doelwitten worden aangemoedigd om eerst een klein bedrag te sturen — ongeveer $ 250 — en worden langzaam verleid om meer te investeren, omdat scammers beweren dat de initiële investering in waarde stijgt.

In een video, opgenomen tijdens een aandeelhoudersvergadering bij Tesla, legt de deepfake Musk een product voor geautomatiseerde handel uit dat wordt aangestuurd door AI en dat een bepaalde investering elke dag kan verdubbelen.

Deskundigen die cryptogemeenschappen hebben bestudeerd, zeiden dat Musks unieke wereldwijde fanbase van conservatieven, anti-establishment types en crypto-enthousiastelingen vaak aangetrokken worden tot alternatieve manieren om hun fortuin te verdienen, waardoor ze perfecte doelwitten zijn voor de oplichting.

“Er is absoluut een groep mensen die gelooft dat het geheim van rijkdom voor hen verborgen wordt gehouden,” zei Molly White, een onderzoeker die cryptogemeenschappen heeft bestudeerd. Ze denken dat “als ze het geheim ervan kunnen vinden, dat dan alles is wat ze nodig hebben.”

Oplichters richten zich vaak op oudere internetgebruikers die wellicht bekend zijn met cryptovaluta, AI of meneer Musk, maar niet op de hoogte zijn van de veiligste manieren om te investeren.

“Ouderen zijn altijd een zeer oplichters- en winstgevende bevolkingsgroep geweest”, aldus Finn Brunton, hoogleraar wetenschaps- en technologiestudies aan de University of California, Davis, die een expert is in de cryptomarkt. Hij voegde toe dat ouderen al doelwit waren van fraude lang voordat platforms als Facebook het hen gemakkelijker maakten om op te lichten.

De heer Beauchamp, die weduwnaar is en tot zijn 75e werkte als salesvertegenwoordiger bij een bedrijf in Ontario, Canada, kwam kort na zijn aanstelling bij Facebook in 2023 een advertentie tegen. Hoewel hij zich herinnert dat hij de video live op CNN had gezien, zei een woordvoerster van CNN dat Musk al jaren niet meer was verschenen voor een interview. (The New York Times kon geen video identificeren die aan de beschrijving van de heer Beauchamp voldeed, maar hij zei dat zijn verhaal vrijwel identiek was aan dat van nog een vrouw opgelicht (online door een deepfake meneer Musk.)

Hij stuurde $27.216 afgelopen december naar een bedrijf dat zichzelf Magna-FX noemt, volgens e-mails tussen dhr. Beauchamp en het bedrijf die gedeeld werden met The New York Times. Magna-FX deed het lijken alsof zijn investering in waarde toenam. Op een gegeven moment gebruikte een salesagent software om de controle over de computer van dhr. Beauchamp over te nemen, en verplaatste fondsen om ze blijkbaar te investeren.

Om het geld op te nemen, werd meneer Beauchamp verteld om $ 3.500 administratiekosten en nog eens $ 3.500 commissie te betalen. Hij stuurde het geld alleen om te horen dat hij $ 20.000 moest betalen om een ​​deel van de fondsen vrij te geven — ongeveer $ 200.000. Dat betaalde hij ook.

Hoewel meneer Beauchamp de oplichters vertelde dat hij zijn pensioenspaargeld had opgebruikt, zijn creditcards had gemaximaliseerd, een kredietlijn had aangesproken en geld van zijn zus had geleend om te investeren en de kosten te betalen, wilden de oplichters meer. Ze vroegen hem om nog een vergoeding te betalen. Meneer Beauchamp nam contact op met de politie.

De meeste sporen van Magna-FX werden offline gehaald, inclusief de website van het bedrijf, telefoonnummer en e-mailadressen die werden gebruikt door de agenten waarmee dhr. Beauchamp sprak. Een ander bedrijf met een bijna identieke naam en dat reclame maakte voor soortgelijke diensten, reageerde niet op verzoeken om commentaar.

“Ik denk dat het nu tijd is om mij dom, idioot en alle andere superlatieven die je maar kunt bedenken te noemen”, schreef de heer Beauchamp in een rapport dat werd ingediend bij de Beter Bedrijfsbureau.

De heer Beauchamp zei dat hij erin slaagde zijn rekeningen te betalen met een kleinere pensioenrekening die hij niet met de oplichters had gedeeld, samen met zijn pensioenen. Hij had gepland om de wereld rond te reizen tijdens zijn pensioen.

De heer Beauchamp heeft aangifte gedaan bij de lokale politie, maar er is nog weinig vooruitgang geboekt in de zaak, zei hij.

“Door de hoeveelheid fraude die overal plaatsvindt, is mijn zaak in een wachtrij terechtgekomen”, zei hij. “Ik heb er geen hoop op.”