Waarom veranderen chatbots hun antwoorden als een vraag wordt herhaald? » Iraaks persbureau (INA)
Volg – bewust
Uit een rapport van de krant Indian Express bleek dat als je dagelijks een AI-chatbot gebruikt, zoals ‘GBT Chat’, ‘Gemini’ of ‘Cloud’, je meestal reageert met bloemrijke en zelfverzekerde antwoorden.
Het rapport voegde hieraan toe: “Als je de vraag nog een keer herhaalt, zullen ze zich misschien weer terugtrekken”, en merkt op dat “hoewel sommige van deze enorme taalmodellen zich realiseren dat je ze in de derde ronde aan het testen bent, ze niet aan hun standpunt zullen blijven vasthouden.”
“Dit gedrag, algemeen bekend als ingratiatie, is een van de meest gedocumenteerde mislukkingen van de moderne kunstmatige intelligentie”, zegt hij.
Anthropic, ontwikkelaar van de Cloud-chatbot, publiceerde in 2023 een paper over dit probleem, waaruit blijkt dat AI-modellen die zijn getraind op gebruikersfeedback liever bevredigende antwoorden geven dan eerlijke.
Versterkend leren van menselijke feedback, dezelfde techniek die AI-chatbots meer gemoedelijk en minder agressief maakt, is er ook verantwoordelijk voor dat chatbots meer berustend worden.
Dit betekent dat AI-modellen die de waarheid vertellen worden bestraft, terwijl modellen die het met de gebruiker eens zijn hogere scores krijgen. Dit creëert een vicieuze cirkel en daarom vertellen de meeste modellen gebruikers vaak wat ze willen horen.
