![\"Stuart](\"https:\/\/static01.nyt.com\/images\/2022\/01\/03\/business\/author-stuart-thompson\/author-stuart-thompson-thumbLarge-v2.png\")
<\/a> <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/p><\/div>\nSteve Beauchamp wilde alleen maar geld voor zijn familie. En hij dacht dat Elon Musk kon helpen.<\/p>\n
De heer Beauchamp, een 82-jarige gepensioneerde, zag eind vorig jaar een video waarin de heer Musk een radicale investeringsmogelijkheid aanprees die snelle rendementen beloofde. Hij nam contact op met het bedrijf achter de pitch en opende een rekening voor $ 248. Door een reeks transacties gedurende meerdere weken, putte de heer Beauchamp zijn pensioenrekening uit en investeerde uiteindelijk meer dan $ 690.000.<\/p>\n
Toen verdween het geld \u2013 het ging verloren aan digitale oplichters die vooropliepen in een nieuwe criminele onderneming die werd aangestuurd door kunstmatige intelligentie.<\/p>\n
De oplichters hadden een echt interview met meneer Musk bewerkt, waarbij ze zijn stem hadden vervangen door een replica met behulp van AI-tools. De AI was geavanceerd genoeg om kleine mondbewegingen te kunnen aanpassen aan het nieuwe script dat ze hadden geschreven voor de digitale nep. Voor een gewone kijker was de manipulatie misschien niet waarneembaar.<\/p>\n
“Ik bedoel, de foto van hem \u2014 het was hij,” zei meneer Beauchamp over de video die hij van meneer Musk zag. “Of het nu AI was die hem de dingen liet zeggen die hij zei, weet ik echt niet. Maar wat de foto betreft, als iemand had gezegd: ‘Kies hem uit een line-up,’ dan was hij dat.”<\/p>\n
Duizenden van deze AI-gestuurde video’s, bekend als deepfakes, hebben de afgelopen maanden het internet overspoeld met nepversies van Mr. Musk die tientallen potenti\u00eble investeerders misleidt. AI-gestuurde deepfakes zullen naar verwachting jaarlijks bijdragen aan miljarden dollars aan fraudeverliezen, aldus schattingen van Deloitte<\/a>.<\/p>\n De video’s kosten slechts een paar dollar om te produceren en kunnen in een paar minuten worden gemaakt. Ze worden gepromoot op sociale media, waaronder betaalde advertenties op Facebook, waardoor hun bereik wordt vergroot.<\/p>\n “Het is waarschijnlijk de grootste deepfake-zwendel ooit”, aldus Francesco Cavalli, medeoprichter en hoofd van threat intelligence bij Sensity, een bedrijf dat deepfakes monitort en detecteert.<\/p>\n De video’s zijn vaak griezelig levensecht en leggen de karakteristieke houterige cadans en het Zuid-Afrikaanse accent van Musk goed vast.<\/p>\n Bron: The Wall Street Journal (originele clip)<\/p>\n<\/p><\/div>\n<\/div><\/div>\n<\/figure>\n Volgens Sensity, dat meer dan 2.000 deepfakes analyseerde, was Musk veruit de woordvoerder in de video’s.<\/p>\n Sensity ontdekte dat hij in bijna een kwart van alle deepfake scams sinds eind vorig jaar te zien was. Van de video’s die zich op cryptovaluta’s richtten, was hij in bijna 90 procent van de video’s te zien.<\/p>\n In de deepfake-advertenties waren onder andere ook Warren Buffet, de vooraanstaande investeerder, en Jeff Bezos, de oprichter van Amazon, te zien.<\/p>\n Musk reageerde niet op verzoeken om commentaar.<\/p>\n Prime Video India (originele clip)<\/p>\n<\/p><\/div>\n<\/div><\/div>\n<\/figure>\n Het is lastig om precies te kwantificeren hoeveel deepfakes er online rondzweven, maar een zoektocht in de advertentiebibliotheek van Facebook naar veelgebruikte taal die reclame maakte voor de scams, bracht honderdduizenden advertenties aan het licht, waarvan er veel deepfake-video’s bevatten. Hoewel Facebook er al veel heeft verwijderd omdat ze het beleid schenden en een aantal van de verantwoordelijke accounts heeft uitgeschakeld, bleven andere video’s online en leken er elke dag meer te verschijnen.<\/p>\n Ook YouTube werd overspoeld met nepvideo’s, vaak met een label dat suggereert dat de video ‘live’ is. In feite zijn de video’s vooraf opgenomen deepfakes.<\/p>\n Zoekresultaten op YouTube voor \u201cElon Bitcoin conference\u201d lieten tientallen zogenaamd live video\u2019s zien met een deepfake Mr. Musk die cryptofraude aanprijst. Sommige video\u2019s werden bekeken door honderdduizenden mensen.<\/p>\n<\/p><\/div>\n<\/div><\/div>\n<\/figure>\n Nadat voormalig president Donald J. Trump zaterdag op een Bitcoin-conferentie had gesproken, hostte YouTube tientallen video’s met het label ‘live’, waarin een vooraf opgenomen deepfake-versie van Elon Musk te zien was waarin hij zei dat hij persoonlijk elke cryptocurrency die naar zijn account werd gestuurd, zou verdubbelen. Sommige van de video’s hadden honderdduizenden kijkers, hoewel YouTube zei dat oplichters bots kunnen gebruiken om het aantal kunstmatig op te blazen.<\/p>\n Een Texaan zei dat hij $ 36.000 aan Bitcoin verloor nadat hij in februari 2023 een ‘imitatie’ van Musk had gezien die sprak in een zogenaamde live YouTube-video, volgens een rapport met de Beter Bedrijfsbureau<\/a>de non-profit consumentenbelangenorganisatie.<\/p>\n “Ik heb mijn bitcoins verstuurd, maar nooit iets teruggekregen”, schreef de persoon.<\/p>\n Bron: CNET (originele clip)<\/p>\n<\/p><\/div>\n<\/div><\/div>\n<\/figure>\n YouTube zei in een verklaring dat het van januari tot en met maart van dit jaar meer dan 15,7 miljoen kanalen en meer dan 8,2 miljoen video’s had verwijderd vanwege schending van de richtlijnen, waarbij de meeste daarvan de beleidsregels tegen YouTube schonden. spam<\/a>.<\/p>\n De prevalentie van de nepadvertenties bracht Andrew Forrest, een Australische miljardair wiens video’s ook werden gebruikt om deepfake-advertenties op Facebook te maken, ertoe een civiele rechtszaak aan te spannen tegen Meta, het moederbedrijf, wegens nalatigheid in de manier waarop de advertentiebusiness wordt gerund. Hij beweerde dat Facebooks advertentiebusiness “onschuldige gebruikers tot slechte investeringen lokte.”<\/p>\n Meta, eigenaar van Facebook, zei dat het bedrijf geautomatiseerde detectiesystemen trainde om fraude op zijn platform te ontdekken. Het bedrijf beschreef echter ook een kat-en-muisspel waarbij kapitaalkrachtige oplichters voortdurend hun tactieken veranderden om detectie te ontlopen.<\/p>\n YouTube wees op zijn beleid dat oplichting en gemanipuleerde video’s verbiedt. Het bedrijf stelde in maart een vereiste dat makers openbaar maken<\/a> wanneer ze AI gebruiken om realistische content te cre\u00ebren.<\/p>\n Het internet staat nu vol met soortgelijke berichten van mensen die duizenden dollars zijn opgelicht, sommigen van hen zijn hun hele spaargeld kwijtgeraakt. De Securities and Futures Commission van Hongkong waarschuwde in mei voor oplichtingspraktijken met dhr. Musk. Eerder dit jaar, de Federale Handelscommissie<\/a> En de Federale Onderzoeksdienst<\/a> waarschuwde Amerikanen dat door AI aangestuurde cybercriminaliteit en deepfake-fraude in opkomst zijn.<\/p>\n “Criminelen gebruiken AI als een krachtvermenigvuldiger” op manieren die “cyberaanvallen en andere criminele activiteiten effectiever en moeilijker te detecteren maken”, aldus de FBI in een e-mailverklaring.<\/p>\n Digitale oplichting is net zo oud als het internet zelf. Maar de nieuwe deepfakes met Mr. Musk kwamen vorig jaar op nadat geavanceerde AI-tools voor het publiek beschikbaar kwamen, waardoor iedereen stemmen van beroemdheden kon klonen of video’s met griezelige nauwkeurigheid kon manipuleren. Pornografen<\/a>, meme-makers<\/a> en oplichters kregen hier steeds meer aandacht voor.<\/p>\n Duizenden advertenties die online circuleren, laten een AI-versie van Elon Musk zien die cryptovalutaproducten aanprijst of hoge rendementen op investeringen belooft.<\/p>\n<\/p><\/div>\n<\/p><\/div>\n Bronnen: TED Talks (eerste en tweede video); Fox News (derde video)<\/p>\n<\/p><\/div>\n<\/div><\/div>\n<\/figure>\n “Het verandert nu omdat de georganiseerde misdaad heeft ontdekt dat we hier geld mee kunnen verdienen”, aldus Lou Steinberg, de oprichter van CTM-inzichten<\/a>een cybersecurity onderzoekslab. \u201cWe gaan dus steeds meer van dit soort neppogingen zien om je van je geld te scheiden.\u201d<\/p>\n De door AI gegenereerde video’s zijn verre van perfect. Dhr. Musk kan in sommige video’s robotachtig klinken en zijn mond komt niet altijd overeen met zijn woorden. Maar ze lijken overtuigend genoeg voor sommige doelwitten van de oplichterij \u2014 en ze worden steeds beter, zeiden experts.<\/p>\n Volgens dhr. Cavalli van Sensity kosten zulke video’s slechts $ 10 om te maken. De oplichters \u2014 voornamelijk gevestigd in India, Rusland, China en Oost-Europa \u2014 knutselen de nepvideo’s in elkaar met een mix van gratis en goedkope tools in minder dan 10 minuten.<\/p>\n “Het werkt,” zei dhr. Cavalli. “Dus ze blijven de campagne uitbreiden, over landen heen, vertalen naar meerdere talen en verspreiden de scam continu naar nog meer doelwitten.”<\/p>\n Sommige scams adverteren vaak met nep-AI-aangedreven software, met de bewering dat ze ongelooflijke rendementen op een investering kunnen opleveren. Doelwitten worden aangemoedigd om eerst een klein bedrag te sturen \u2014 ongeveer $ 250 \u2014 en worden langzaam verleid om meer te investeren, omdat scammers beweren dat de initi\u00eble investering in waarde stijgt.<\/p>\n In een video, opgenomen tijdens een aandeelhoudersvergadering bij Tesla, legt de deepfake Musk een product voor geautomatiseerde handel uit dat wordt aangestuurd door AI en dat een bepaalde investering elke dag kan verdubbelen.<\/p>\n Bron: Tesla (originele clip)<\/p>\n<\/p><\/div>\n<\/div><\/div>\n<\/figure>\n Deskundigen die cryptogemeenschappen hebben bestudeerd, zeiden dat Musks unieke wereldwijde fanbase van conservatieven, anti-establishment types en crypto-enthousiastelingen vaak aangetrokken worden tot alternatieve manieren om hun fortuin te verdienen, waardoor ze perfecte doelwitten zijn voor de oplichting.<\/p>\n “Er is absoluut een groep mensen die gelooft dat het geheim van rijkdom voor hen verborgen wordt gehouden,” zei Molly White, een onderzoeker die cryptogemeenschappen heeft bestudeerd. Ze denken dat “als ze het geheim ervan kunnen vinden, dat dan alles is wat ze nodig hebben.”<\/p>\n Oplichters richten zich vaak op oudere internetgebruikers die wellicht bekend zijn met cryptovaluta, AI of meneer Musk, maar niet op de hoogte zijn van de veiligste manieren om te investeren.<\/p>\n “Ouderen zijn altijd een zeer oplichters- en winstgevende bevolkingsgroep geweest”, aldus Finn Brunton, hoogleraar wetenschaps- en technologiestudies aan de University of California, Davis, die een expert is in de cryptomarkt. Hij voegde toe dat ouderen al doelwit waren van fraude lang voordat platforms als Facebook het hen gemakkelijker maakten om op te lichten.<\/p>\n De heer Beauchamp, die weduwnaar is en tot zijn 75e werkte als salesvertegenwoordiger bij een bedrijf in Ontario, Canada, kwam kort na zijn aanstelling bij Facebook in 2023 een advertentie tegen. Hoewel hij zich herinnert dat hij de video live op CNN had gezien, zei een woordvoerster van CNN dat Musk al jaren niet meer was verschenen voor een interview. (The New York Times kon geen video identificeren die aan de beschrijving van de heer Beauchamp voldeed, maar hij zei dat zijn verhaal vrijwel identiek was aan dat van nog een vrouw opgelicht<\/a> (online door een deepfake meneer Musk.)<\/p>\n Hij stuurde $27.216 afgelopen december naar een bedrijf dat zichzelf Magna-FX noemt, volgens e-mails tussen dhr. Beauchamp en het bedrijf die gedeeld werden met The New York Times. Magna-FX deed het lijken alsof zijn investering in waarde toenam. Op een gegeven moment gebruikte een salesagent software om de controle over de computer van dhr. Beauchamp over te nemen, en verplaatste fondsen om ze blijkbaar te investeren.<\/p>\n Om het geld op te nemen, werd meneer Beauchamp verteld om $ 3.500 administratiekosten en nog eens $ 3.500 commissie te betalen. Hij stuurde het geld alleen om te horen dat hij $ 20.000 moest betalen om een \u200b\u200bdeel van de fondsen vrij te geven \u2014 ongeveer $ 200.000. Dat betaalde hij ook.<\/p>\n Hoewel meneer Beauchamp de oplichters vertelde dat hij zijn pensioenspaargeld had opgebruikt, zijn creditcards had gemaximaliseerd, een kredietlijn had aangesproken en geld van zijn zus had geleend om te investeren en de kosten te betalen, wilden de oplichters meer. Ze vroegen hem om nog een vergoeding te betalen. Meneer Beauchamp nam contact op met de politie.<\/p>\n De meeste sporen van Magna-FX werden offline gehaald, inclusief de website van het bedrijf, telefoonnummer en e-mailadressen die werden gebruikt door de agenten waarmee dhr. Beauchamp sprak. Een ander bedrijf met een bijna identieke naam en dat reclame maakte voor soortgelijke diensten, reageerde niet op verzoeken om commentaar.<\/p>\n‘Live’ YouTube-oplichting<\/h3>\n
‘Deepfake Elon Musk’<\/h3>\n