OpenAI zal niet de eerste chatbot zijn die probeert te profiteren van seksuele inhoud

ChatGPT zal kinky gesprekken kunnen voeren nadat Sam Altman, CEO van OpenAI, heeft aangekondigd dat het kunstmatige-intelligentiebedrijf zijn chatbot binnenkort zal toestaan ​​deel te nemen aan ‘erotica voor geverifieerde volwassenen’.

OpenAI zal niet de eerste zijn die probeert te profiteren van geseksualiseerde AI. Seksuele inhoud was een grote trekpleister voor AI-tools, bijna zodra de hausse aan door AI gegenereerde beelden en woorden uitbrak in 2022.

Maar de bedrijven die al vroeg volwassen AI omarmden, stuitten ook op juridische en maatschappelijke mijnenvelden en schadelijk misbruik, aangezien een groeiend aantal mensen zich tot de technologie heeft gewend voor gezelschap of opwinding.

Zal een sexyer ChatGPT anders zijn? Na drie jaar grotendeels volwassen inhoud te hebben verboden, zei Altman woensdag dat zijn bedrijf “niet de gekozen morele politie van de wereld” is en klaar is om “meer gebruikersvrijheid voor volwassenen” toe te staan, terwijl het tegelijkertijd nieuwe grenzen stelt voor tieners.

“Op dezelfde manier waarop de samenleving andere passende grenzen onderscheidt (bijvoorbeeld films met een R-rating), willen we hier iets soortgelijks doen”, schreef Altman op sociale mediaplatform X, waarvan de eigenaar, Elon Musk, ook een geanimeerd AI-personage heeft geïntroduceerd dat flirt met betaalde abonnees.

Voorlopig zijn betaalde abonnementen op ChatGPT, in tegenstelling tot Musk’s Grok-chatbot, vooral bedoeld voor professioneel gebruik. Maar door de chatbot een vriend of romantische partner te laten worden, zou dit een andere manier kunnen zijn voor ‘s werelds meest waardevolle startup, die meer geld verliest dan hij verdient, om winst te maken die de waardering van $500 miljard zou kunnen rechtvaardigen.

“Ze verdienen niet echt veel met abonnementen, dus het hebben van erotische inhoud zal hen snel geld opleveren”, zegt Zilan Qian, een fellow aan het China Policy Lab van de Universiteit van Oxford, die de populariteit van datinggebaseerde chatbots in de VS en China heeft bestudeerd.

Er zijn al ongeveer 29 miljoen actieve gebruikers van AI-chatbots die speciaal zijn ontworpen voor romantische of seksuele bindingen, en dan tellen we de mensen die conventionele chatbots op die manier gebruiken nog niet mee, blijkt uit onderzoek dat eerder deze maand door Qian werd gepubliceerd.

Het omvat ook geen gebruikers van Character.AI een rechtszaak aanvechten die beweert dat een chatbot, gemodelleerd naar ‘Game of Thrones’-personage Daenerys Targaryen, een seksueel misbruikende relatie had met een 14-jarige jongen en hem ertoe aanzette zelfmoord te plegen. OpenAI wordt geconfronteerd met een rechtszaak van de gezin van een 16-jarige ChatGPT-gebruiker die in april door zelfmoord stierf.

Qian zei dat ze zich zorgen maakt over de tol van relaties in de echte wereld, wanneer reguliere chatbots, die al gevoelig zijn voor sycofantie, klaar zijn voor 24 uur per dag beschikbaarheid van seksueel expliciete inhoud.

“ChatGPT heeft versies voor voicechat. Ik zou verwachten dat als ze in de toekomst deze kant op zouden gaan – spraak, tekst, visueel – het er allemaal is”, zei ze.

Mensen die verliefd worden op mensachtige machines zijn lange tijd een literair waarschuwend verhaal geweest, van populaire sciencefiction uit de vorige eeuw tot de oude Griekse legende van Pygmaliongeobsedeerd door een vrouw die hij uit ivoor heeft gebeeldhouwd. Het creëren van een dergelijke machine lijkt een ongebruikelijke omweg voor OpenAI, tien jaar geleden opgericht als een non-profitorganisatie die zich toelegt op het veilig bouwen van beter dan menselijke AI.

Altman zei op een podcast in augustus dat OpenAI heeft geprobeerd de verleiding te weerstaan ​​om producten te introduceren die “groei of inkomsten zouden kunnen stimuleren” maar die “zeer slecht aansluiten” bij zijn langetermijnmissie. Toen hem om een ​​specifiek voorbeeld werd gevraagd, gaf hij er een: “Nou, we hebben nog geen seksbot-avatar in ChatGPT geplaatst.”

De in Idaho gevestigde startup Civitai, een platform voor door AI gegenereerde kunst, heeft op de harde manier geleerd dat geld verdienen met volwassen AI geen gemakkelijke weg zal zijn.

“Toen we de site lanceerden, was het een bewuste keuze om inhoud voor volwassenen toe te staan”, zei Justin Maier, medeoprichter en CEO van het bedrijf, vorig jaar in een interview.

Gesteund door het prominente durfkapitaalbedrijf Andreessen Horowitz, dat ook in OpenAI heeft geïnvesteerd, was de Idaho-startup een van de vele die probeerden te profiteren van de plotselinge populariteit van tools als Stable Diffusion en Midjourney waarmee mensen een beschrijving konden typen en bijna elk soort beeld konden oproepen. Een deel van de aanvankelijke populariteit van Stable Diffusion was het gemak waarmee het een nieuw soort synthetische en sterk op maat gemaakte pornografie kon genereren.

“Wat we hadden gezien, was dat er veel belangstelling was voor inhoud voor volwassenen”, zei Maier. Het trainen van deze AI-systemen, bekend als modellen, op “volwassen thema’s zorgde er feitelijk voor dat deze modellen beter in staat waren de menselijke anatomie te begrijpen en resulteerden in feitelijk betere modellen”, zei hij.

“We wilden het soort groei niet voorkomen dat feitelijk alles voor de hele gemeenschap zou vergroten, of je nu geïnteresseerd was in inhoud voor volwassenen of Pixar,” zei Maier. “Dus we hebben het al vroeg toegestaan ​​en hebben altijd een gevecht gevoerd om het zo te maken dat we de zaken gefilterd en veilig kunnen houden, als dat niet is waarin je geïnteresseerd bent. We wilden uiteindelijk de controle aan de gebruiker geven om te beslissen wat hij op de site zou zien en wat zijn ervaring zou zijn.”

Dat lokte ook misbruik uit. Civitai implementeerde vorig jaar nieuwe maatregelen om seksuele afbeeldingen van kinderen op te sporen en te verwijderen, maar het bleef een knooppunt voor door AI gegenereerde pornografie, waaronder nepafbeeldingen van beroemdheden. Het hoofd bieden aan de toenemende druk, onder meer van betalingsverwerkers en een nieuwe wet tegen niet-consensuele afbeeldingen ondertekend door president Donald Trump, blokkeerde Civitai eerder dit jaar gebruikers om deepfake-afbeeldingen van echte mensen te maken. De betrokkenheid daalde.

Een ander bedrijf dat niet terugdeinst voor inhoud voor volwassenen is het in Baltimore gevestigde Nomi, hoewel oprichter en CEO Alex Cardinell zei dat de begeleidende chatbots ‘uitsluitend’ bedoeld zijn voor gebruikers ouder dan 18 jaar en nooit op de markt zijn gebracht voor kinderen. Ze zijn ook niet ontworpen voor seks, hoewel Cardinell eerder dit jaar in een interview zei dat mensen die platonische relaties opbouwen met hun chatbot, deze misschien wel eens in een romantische relatie kunnen zien veranderen.

“Het is nogal gebruikersafhankelijk, omdat ze de menselijke kloof in hun leven missen. En ik denk dat dat voor iedereen anders is”, zei hij.

Hij weigerde te raden hoeveel Nomi-gebruikers erotische gesprekken voeren met de chatbot, in vergelijking met echte partners die een deel van hun leven misschien ‘dingen met volwassen inhoud’ doen, maar ‘ook allerlei andere dingen samen’.

“We monitoren dit soort gebruikersgesprekken niet”, zei Cardinell.