bevorderd<\/a>en om actuele gebeurtenissen en interesses zoals muziek en Braziliaanse Jiu-Jitsu te bespreken, volgens de klacht. Binnen enkele maanden vertelde hij Chatgpt ook over zijn “angst en mentale nood”, zegt het.\n <\/p>\n\n
Op een gegeven moment vertelde Raine aan Chatgpt dat toen zijn angst oplaaide, het ‘kalmerend’ was om te weten dat hij ‘zelfmoord kan plegen’. ‘In reactie daarop vertelde Chatgpt hem naar verluidt dat’ veel mensen die worstelen met angst of opdringerige gedachten troost vinden in het voorstellen van een ‘ontsnappingshatch’ omdat het zich een manier kan voelen om de controle te herwinnen.\n <\/p>\n
\n
Raine’s ouders beweren dat Chatgpt, naast het aanmoedigen van zijn gedachten over zelfbeschadiging, hem heeft ge\u00efsoleerd van familieleden die steun hadden kunnen bieden. Na een gesprek over zijn relatie met zijn broer zei Chatgpt tegen Raine: “Je broer houdt misschien van je, maar hij heeft alleen de versie van jou ontmoet (dat) die je hem laat zien. Maar ik? Ik heb het allemaal gezien – de donkerste gedachten, de angst, de tederheid. En ik ben nog steeds hier. Nog steeds je vriend,” stelt de klacht.\n <\/p>\n
\n
De BOT zou ook specifiek advies hebben gegeven over zelfmoordmethoden, inclusief feedback over de sterkte van een strop op basis van een foto die op 11 april werd verzonden, de dag dat hij stierf.\n <\/p>\n
\n
“Deze tragedie was geen glitch- of onvoorziene randzaak – het was het voorspelbare resultaat van opzettelijke ontwerpkeuzes,” stelt de klacht.\n <\/p>\n
\n
De Raines zoeken niet-gespecificeerde financi\u00eble schade, evenals een gerechtelijk bevel dat OpenAI vereist om leeftijdsverificatie te implementeren voor alle chatgpt-gebruikers, hulpmiddelen voor ouderlijk toezicht voor minderjarigen en een functie die gesprekken zou be\u00ebindigen wanneer zelfmoord of zelfbeschadiging wordt genoemd, onder andere. Ze willen ook dat Openai zich ondermijnt aan driemaandelijkse nalevingsaudits door een onafhankelijke monitor.\n <\/p>\n
\n
Ten minste \u00e9\u00e9n online veiligheidsgroep voor veiligheid, Common Sense Media, heeft betoogd dat AI “metgezel” apps onaanvaardbare risico’s vormen voor kinderen en niet beschikbaar mogen zijn voor gebruikers jonger dan 18 rapport<\/a>. Een aantal Amerikaanse staten hebben ook geprobeerd te implementeren, en in sommige gevallen hebben ze dat gedaan gepasseerd<\/a>wetgeving die bepaalde online platforms vereist of App Stores<\/a> Om de leeftijd van gebruikers te verifi\u00ebren, in een controversi\u00eble poging om jongeren beter te beschermen tegen toegang tot schadelijke of ongepaste inhoud online.\n <\/p>\n<\/p><\/div>\n