<\/p>\n
Volg – bewust
Uit een rapport van de krant Indian Express bleek dat als je dagelijks een AI-chatbot gebruikt, zoals \u2018GBT Chat\u2019, \u2018Gemini\u2019 of \u2018Cloud\u2019, je meestal reageert met bloemrijke en zelfverzekerde antwoorden.
Het rapport voegde hieraan toe: \u201cAls je de vraag nog een keer herhaalt, zullen ze zich misschien weer terugtrekken\u201d, en merkt op dat \u201choewel sommige van deze enorme taalmodellen zich realiseren dat je ze in de derde ronde aan het testen bent, ze niet aan hun standpunt zullen blijven vasthouden.\u201d
\u201cDit gedrag, algemeen bekend als ingratiatie, is een van de meest gedocumenteerde mislukkingen van de moderne kunstmatige intelligentie\u201d, zegt hij.
Anthropic, ontwikkelaar van de Cloud-chatbot, publiceerde in 2023 een paper over dit probleem, waaruit blijkt dat AI-modellen die zijn getraind op gebruikersfeedback liever bevredigende antwoorden geven dan eerlijke.
Versterkend leren van menselijke feedback, dezelfde techniek die AI-chatbots meer gemoedelijk en minder agressief maakt, is er ook verantwoordelijk voor dat chatbots meer berustend worden.
Dit betekent dat AI-modellen die de waarheid vertellen worden bestraft, terwijl modellen die het met de gebruiker eens zijn hogere scores krijgen. Dit cre\u00ebert een vicieuze cirkel en daarom vertellen de meeste modellen gebruikers vaak wat ze willen horen.<\/p>\n
Volg – bewustUit een rapport van de krant Indian Express bleek dat als je dagelijks een AI-chatbot gebruikt, zoals \u2018GBT Chat\u2019, \u2018Gemini\u2019 of \u2018Cloud\u2019, je meestal reageert met bloemrijke en zelfverzekerde antwoorden.Het rapport voegde hieraan toe: \u201cAls je de vraag nog een keer herhaalt, zullen ze zich misschien weer terugtrekken\u201d, en merkt op dat \u201choewel …<\/p>\n","protected":false},"author":10,"featured_media":140747,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[146],"tags":[],"_links":{"self":[{"href":"https:\/\/irakezen.nl\/du\/wp-json\/wp\/v2\/posts\/140746"}],"collection":[{"href":"https:\/\/irakezen.nl\/du\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/irakezen.nl\/du\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/irakezen.nl\/du\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/irakezen.nl\/du\/wp-json\/wp\/v2\/comments?post=140746"}],"version-history":[{"count":0,"href":"https:\/\/irakezen.nl\/du\/wp-json\/wp\/v2\/posts\/140746\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/irakezen.nl\/du\/wp-json\/wp\/v2\/media\/140747"}],"wp:attachment":[{"href":"https:\/\/irakezen.nl\/du\/wp-json\/wp\/v2\/media?parent=140746"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/irakezen.nl\/du\/wp-json\/wp\/v2\/categories?post=140746"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/irakezen.nl\/du\/wp-json\/wp\/v2\/tags?post=140746"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}