Celebrity AI Deepfakes overspoelen het internet. Hollywood duwt het Congres om terug te vechten

Atlanta
CNN
–

Steve Harvey staat vooral bekend om het toekennen van geld aan “Family Feud” -kasters of het uitdelen van advies in zijn radioprogramma.

Maar in de afgelopen jaren is hij ook een populair doelwit geworden van door AI gegenereerde memes, waarvan vele humoristisch en schijnbaar onschadelijk zijn-zoals afbeeldingen van Harvey als een rockster of zien rennen van demonen.

Meer sinistere acteurs gebruiken echter AI-gegenereerde versies van Harvey’s imago, stem en gelijkenis voor oplichting.

Vorig jaar was Harvey een van de beroemdheden zoals Taylor Swift en Joe Rogan wiens stemmen werden nagebootst door AI en gebruikte om een ​​zwendel te promoten die beloofde mensen overheid fondsen verstrekte.

“Ik vertel het jullie al maanden om deze gratis $ 6.400 dollar te claimen,” een stem die klinkt als die van Harvey zegt in één video.

Nu spreekt Harvey op door te pleiten voor wetgeving en straffen voor de mensen achter deze oplichting – en de platforms die ze organiseren. En het Congres lijkt te luisteren; Het overweegt verschillende stukken wetgeving gericht op het bestraffen van degenen achter snode gebruik van AI, waaronder een bijgewerkte versie van de No Fakes Act, die tot doel heeft makers en platforms te houden die aansprakelijk zijn voor ongeautoriseerde AI-gegenereerde afbeeldingen, video’s en geluid.

De tweeledige groep senatoren achter de wet, waaronder Democraten Chris Coons van Delaware en Amy Klobuchar van Minnesota En Republikeinen Marsha Blackburn van Tennessee en Thom Tillis van North Carolina zijn van plan het de komende weken opnieuw te introduceren, vertelde een bron die bekend is met de zaak aan CNN. Het sluit zich aan bij andere wetgeving gericht op het criminaliseren van door AI gegenereerde Deepfake-pornografie, de Take It Down Act genoemd, die ook voor het Congres is en Verdiende steun van First Lady Melania Trump Deze week.

In 2025 zegt Harvey dat oplichting die zijn gelijkenis met zijn gelijkenis gebruikt op ‘een aller tijden’ zijn.

“Ik ben er trots op dat mijn merk een van de authenticiteit is, en mensen weten dat, en dus nemen ze het feit dat ik bekend en vertrouwelijk ben als een authentieke persoon, behoorlijk oprecht,” vertelde Harvey aan CNN in een interview in Tyler Perry Studios tussen het filmen van afleveringen van “Family Feud.” “Mijn bezorgdheid is nu de mensen die het beïnvloedt. Ik wil geen fans van mij of mensen die geen fans zijn om ergens gekwetst te worden. ”

Grote opnamekunstenaars, acteurs en andere beroemdheden zijn de afgelopen twee jaar verstrikt in AI -schandalen naarmate de technologie zich snel ontwikkelt. Een vrouw in Frankrijk verloor $ 850.000 nadat oplichters door AI gegenereerde beelden van Brad Pitt gebruikten om haar te denken dat ze de acteur hielp.

Actrice Scarlett Johansson, die openlijk met AI haar gelijkenis imiteert, heeft ook haar steun achter de wetgeving gegooid.

“Er is een golf van 1.000 voet aankomend met betrekking tot AI dat verschillende progressieve landen, exclusief de Verenigde Staten, op een verantwoorde manier hebben gereageerd,” Johansson zei in een verklaring van februari aan CNN Na een door AI gegenereerde video met een nepversie van haar reageerde op de antisemitische opmerkingen van Kanye West, ging viral. “Het is angstaanjagend dat de Amerikaanse regering verlamd is als het gaat om het aannemen van wetgeving die al haar burgers beschermt tegen de naderende gevaren van AI.”

Harvey zei dat hij ook de wetgeving steunt, die steun heeft gekregen van de Recording Academy, het Screen Actors Guild, de Motion Picture Association, grote talentbureaus en enkele van de grootste namen in Hollywood.

“Het is vrijheid van meningsuiting, het is geen vrijheid van: ‘Laat me spreken zoals je wilt dat ik spreek’,” zei Harvey. “Dat is geen vrijheid, dat is misbruik. En het Congres moet hierbij betrokken raken, omdat het hen ook pijn zal doen. ”

Voordat de senatoren de No Fakes Act opnieuw introduceren, hopen de senatoren ook steun te krijgen van online platforms, die mogelijk zouden worden bestraft voor het hosten van die AI -inhoud onder de rekening. De huidige factuur boetes platforms $ 5.000 voor elke overtreding – wat betekent dat een virale AI -creatie snel kan oplopen tot miljoenen dollars aan boetes. Een bron die bekend is met de rekening zei dat de platforms niet zouden worden veroorzaakt ten koste van lagere boetes.

“We zijn heel duidelijk geweest met de platforms die hun goedkeuring voor nu hebben achtergehouden dat we geen wijzigingen gaan aanbrengen, tenzij de mensen waarvoor we deze rekening doen doen, de mensen in de creatieve industrie, zijn er goed mee”, vertelde een persoon die bekend is met de rekening. “We gaan ze niet verkopen om te proberen de platforms aan boord te krijgen.”

Maar critici van het wetsvoorstel, waaronder openbare belangenorganisaties zoals publieke kennis, Center for Democracy and Technology, American Library Association en de Electronic Frontier Foundation, maken de rekening als geschreven te veel regulering. In Een brief aan de senatoren Vorig jaar waarschuwden ze dat het de rechten van het eerste amendement in gevaar zou kunnen brengen en verkeerde informatie mogelijk maakt, terwijl ze resulteren in een “stroom” van rechtszaken.

“We begrijpen en delen de serieuze zorgen die velen hebben geuit over de manieren waarop digitale replica -technologie kan worden misbruikt, met schade die zowel gewone mensen als artiesten en beroemdheden kunnen beïnvloeden,” schreven ze. “Deze schade verdient de ernstige aandacht die ze ontvangen, en het voorkomen van hen kan wel wetgeving inhouden om hiaten in de bestaande wetgeving te vervullen. Helaas gaat de onlangs geïntroduceerde no-nep-rekening te ver bij het introduceren van een geheel nieuwe federale IP-recht. ”

Maar terwijl het Congres de bewegingen doormaakt, blijft AI evolueren. En beroemdheden zeggen dat ze het gevoel hebben dat ze beperkt zijn in hoe ze imitators kunnen nastreven met behulp van hun gelijkenis – vooral anonieme online accounts.

Dat is waar bedrijven zoals Vermillio AI binnenkomen. Het bedrijf, dat samenwerkt met grote talentbureaus en filmstudio’s, gebruikt een platform genaamd TraceID dat AI-instanties van hun klanten volgt en de normaal omslachtige opnameverzoeken automatiseert.

“In 2018 waren er misschien 19.000 stukken deepfake -inhoud”, vertelde CEO van Vermillio, Dan Neely, aan CNN in een interview. “Vandaag zijn er elke minuut ongeveer een miljoen gemaakt.”

Voor beroemdheden kan het bijhouden van Deepfakes vooral een uitdaging zijn omdat ze zich zo snel kunnen verspreiden op sociale platforms. “Dus proberen ze te vinden, dit spel te spelen om een ​​mol te spelen, is vrij complex,” zei Neely.

Neely toonde het Vermillio-account van CNN Harvey, met AI-Voice die chatbots bevatten die bedoeld waren om te klinken als Harvey en nepvideo’s van de tv-persoonlijkheid die gokken aanmoedigde.

Neely zei dat de technologie van het bedrijf een soort “vingerafdrukken” gebruikt om authentieke inhoud en van AI-gegenereerd materiaal te onderscheiden. Dat houdt in dat het web wordt gekropen voor afbeeldingen die zijn geknoeid met het gebruik van grote taalmodellen, beter bekend als LLMS, die de bouwstenen zijn van veel populaire generatieve AI -diensten.

“Een afbeelding van u bestaat uit miljoenen gegevens,” zei Neely. “Hoe gebruiken we die gegevens om te gaan en te vinden waar het op internet bestaat?”

Beroemdheden kunnen zich een service betalen zoals Vermillio. Maar voor andere makers zijn er minder middelen.

“Hoe eerder we iets doen, ik denk dat hoe beter we allemaal zullen zijn,” zei Harvey. ‘Omdat ik bedoel, waarom wachten? Hoeveel mensen hebben we hiertoe gekregen om hierdoor gewond te worden voordat iemand iets doet? ”