Nep-aanbevelingen van beroemdheden zijn het nieuwste wapen in desinformatieoorlog en zaaien verwarring in de aanloop naar de verkiezingen van 2024

Washington
CNN
—

Taylor Swift steunde vorige week oud-president Donald Trump niet. Ryan Reynolds werd niet gefotografeerd met een pro-Kamala Harris-shirt. En de Communist Party USA heeft nooit de inmiddels ter ziele gegane campagne van president Joe Biden gesteund.

Maar deze valse beweringen over de campagne van 2024, en tientallen andere berichten met soortgelijke valse aanbevelingen, zijn in de aanloop naar de verkiezingen explosief toegenomen op sociale media, aldus onderzoekers van het News Literacy Project, een onafhankelijke onderwijsgroep die een nieuwe database gelanceerd Donderdag werden meer dan 550 unieke gevallen van verkiezingsgerelateerde desinformatie vastgelegd.

Het laatste en meest zichtbare voorbeeld van deze valse beweringen kwam zondag naar voren, toen Trump een bericht deelde op zijn Truth Social-platform met afbeeldingen gemaakt met behulp van kunstmatige intelligentie die suggereerde dat er een golf van steun was onder Swift-fans die zichzelf “Swifties voor Trump” noemden. Als reactie op de impliciete goedkeuring van het popicoon schreef Trump: “Ik accepteer!”

Swift, die eerder aangevallen Trump als degene die tijdens zijn presidentschap ‘het vuur van de blanke suprematie en het racisme aanwakkerde’, onderschreef Joe Biden in 2020, maar heeft nog geen presidentskandidaat gesteund voor de race van 2024.

Terwijl één afbeelding in de collage die Trump postte, waarop Swift te zien is in een “Uncle Sam”-outfit, duidelijk gemanipuleerd is, leek een andere afbeelding waarop een jonge vrouw op een bijeenkomst te zien is, authentiek.

Volgens Lucas Hansen, medeoprichter van CivAI, een non-profitorganisatie die bewustzijn creëert over de groeiende mogelijkheden en gevaren van AI, bevatten de andere afbeeldingen waarop grote groepen lachende fans te zien zijn die Trump vieren, enkele kenmerken van door AI gegenereerde afbeeldingen.

Die afbeeldingen leken “super airbrushed, hebben een hoge camerakwaliteit” en “iedereen ziet er echt goed uit”, zei Hansen. De afbeeldingen maken gebruik van “zware bokeh en achtergrondvervaging”, veelvoorkomende kenmerken van door AI gegenereerde afbeeldingen, zei hij.

Het News Literacy Project zegt dat het donderdag zijn dashboard voor desinformatie heeft gelanceerd om het bewustzijn te vergroten van virale onwaarheden waarvan het gelooft dat ze een “existentiële bedreiging voor de democratie” vormen en die het beste kunnen worden onderzocht door middel van een bulkanalyse van honderden voorbeelden, in plaats van individuele feitencontroles.

De database, die regelmatig wordt bijgewerkt, houdt verschillende categorieën politieke desinformatie bij – complottheorieën, leugens over de beleidsopvattingen van kandidaten en valse aanbevelingen – maar de groep houdt niet bij hoe vaak deze virale berichten worden gedeeld.

Ongeveer 1 op de 10 virale berichten die door het News Literacy Project zijn geanalyseerd, bevatte nepaanbevelingen, volgens gegevens die exclusief aan CNN zijn verstrekt. Die berichten beschreven vermeende aanbevelingen — of alternatief, openbare afwijzingen — van beroemdheden, waaronder NFL-quarterback Aaron Rodgers, acteur Morgan Freemanmuzikant Bruce Springsteenen politieke figuren zoals voormalig First Lady Michelle Obama.

Uit de database bleek dat de berichten waarin deze vier cijfers werden genoemd, minstens 10 miljoen keer zijn bekeken.

Soms vonden onderzoekers op sociale media afzonderlijke berichten die tegelijkertijd circuleerden, waarin werd beweerd dat dezelfde beroemdheid een kandidaat had gesteund en veroordeeld. Dit onderstreept de chaotische en misleidende omgeving waarin gebruikers terechtkomen.

“Als je een beroemdheid ziet die een T-shirt draagt ​​met een expliciet politieke boodschap, is de kans groot dat het nep is”, aldus Dan Evon, senior manager bij het News Literacy Project.

De valse aanbevelingen die op sociale media steeds vaker voorkomen, komen doordat technologieplatformen de beperkingen en moderatiebeleidsregels afschaffen die bedoeld waren om de verspreiding van gevaarlijke desinformatie tegen te gaan.

Deze veranderingen zijn het meest acuut geweest op X, voorheen bekend als Twitter, nadat miljardair Elon Musk het bedrijf had gekocht en gestript interne teams die eraan werkten de verspreiding van desinformatie over de verkiezingen te stoppen, en hersteld de verboden accounts van vooraanstaande complottheoretici en extremisten.

Volgens experts is het probleem verergerd door de door AI aangestuurde chatbot van X, Grok, die al getrokken de woede van verkiezingsfunctionarissen voor het verspreiden van valse informatie over Harris’ verkiesbaarheid voor de verkiezingen van 2024. Vorige week begon X gebruikers toe te staan ​​Grok te gebruiken om AI-gegenereerde afbeeldingen te maken van tekstprompts, wat een vloed van nep-inhoud over Trump en Harris.

“In de toekomst zal Grok waarschijnlijk een van de belangrijkste bronnen van dit soort afbeeldingen zijn, omdat het afbeeldingen van hoge kwaliteit genereert, gemakkelijk verkrijgbaar is en opzettelijk is gemaakt om een ​​laag weigeringspercentage te hebben”, aldus Hansen, eraan toevoegend dat hij Grok kon gebruiken om afbeeldingen van “Swifties for Trump” te maken die sterk lijken op de afbeeldingen die Trump deelde.

X heeft niet gereageerd op verzoeken om commentaar op het creëren van misleidende afbeeldingen van politieke kandidaten.

Meta, eigenaar van Facebook en Instagram, heeft ook een deel van het personeel van zijn teams voor verkiezingsintegriteit ontslagen, CNN meldde eerderDe social media gigant zei vorig jaar dat “geen enkel technologiebedrijf meer doet of meer investeert om verkiezingen te beschermen,” en aangekondigd dat politieke adverteerders openbaar moeten maken of ze AI hebben gebruikt om afbeeldingen te maken of te wijzigen.

Maar terwijl sommige onlineplatforms zich haasten om door AI gegenereerde afbeeldingen te labelen en factcheckers de nieuwste virale leugens ontkrachten, kan de stortvloed aan verzonnen materiaal een impact hebben.

“Als je herhaaldelijk deze onwaarheden ziet die de populariteit van een kandidaat overdrijven, kan het nog steeds blijven hangen, zelfs als je weet dat het niet legitiem is als je er langs scrolt in je feed”, vertelde Peter Adams, senior vice president voor onderzoek van het News Literacy Project, aan CNN.

Hoewel het door de introductie van publiekelijk beschikbare AI-tools makkelijker is geworden om misleidende claims te creëren, waaronder veel van de valse aanbevelingen die door het News Literacy Project zijn geïdentificeerd, zijn er ook andere nepafbeeldingen die op sociale media circuleren en waarbij gebruik is gemaakt van rudimentair Photoshop.

Het gebruik van AI om politieke desinformatie te verzinnen is “niet zo wijdverbreid en schadelijk als mensen aanvankelijk vreesden”, aldus Adams, die eraan toevoegde dat traditionele methoden om afbeeldingen en video’s te manipuleren voorlopig “veel goedkoper maar net zo effectief” zijn.