![\"chat](\"https:\/\/img.metronieuws.nl\/images\/CD4A1UapmZa1Z34rfYj6aQJdcB8=\/375x211\/filters:quality(80):format(jpeg):background_color(fff)\/https%3A%2F%2Fwww.metronieuws.nl%2Fwp-content%2Fuploads%2F2024%2F09%2FANP-473901592.jpg\")
\n <\/figcaption><\/figure>\n
Is ChatGPT onze huisarts van de toekomst? Die vraag dook de afgelopen jaren steeds vaker op. Maar een situatie uit de Verenigde Staten laat zien dat ChatGPT nog niet altijd je beste vriend is op dit gebied. Een man ontwikkelde een zeldzame aandoening nadat een AI-bot hem tipte hoe hij zout uit zijn dieet kan schrappen. <\/p>\n
In 2023 haalde een door AI aangedreven\u00a0medische chatbot van Google nog een voldoende voor een zwaar Amerikaans examen voor geneeskundestudenten. Onderzoekers van Google lieten het programma het zogeheten USMLE-examen met meerkeuzevragen afleggen. Med-PaLM slaagde erin een score van 67,6 procent te behalen. Daarmee zou het programma zijn geslaagd. \u201eMed-PaLM presteert bemoedigend, maar blijft inferieur aan artsen\u201d, zeiden de auteurs destijds. <\/p>\n
Zeldzame aandoening door ChatGPT <\/h2>\n
Annals of Internal Medicine<\/em>, een medisch tijdschrift in de Verenigde Staten, schrijft over een situatie waarin het gebruik van ChatGPT als medisch hulpje tot een zeldzame aandoening leidde. De 60-jarige man had gelezen over negatieve effecten van keukenzout (natriumchloride), waarna hij aan de AI-bot vroeg hoe hij het uit zijn dieet kon schrappen. ChatGPT zei daarop dat chloride vervangen kan worden voor natriumbromide. Dat werd in het begin van de twintigste eeuw nog als kalmeringsmiddel gebruikt.<\/p>\n Na drie maanden natriumbromide te hebben geslikt, meldde de man zich bij de afdeling spoedeisende hulp. Daar beweerde hij dat zijn buurman hem vergiftigde. Hij had onder meer extreme dorst, slapeloosheid en acne. Later bleek de natriumbromide de boosdoener te zijn. De man had daardoor bromisme ontwikkeld, ook wel bromidevergiftiging genoemd.<\/p>\n \u201eDeze casus laat zien hoe het gebruik van kunstmatige intelligentie (AI) potentieel kan bijdragen aan de ontwikkeling van vermijdbare negatieve gezondheidsresultaten\u201d, schrijven de auteurs, die zijn verbonden aan de Universiteit van Washington. Zij hadden weliswaar geen toegang tot de chat van de man, maar toen zij zelf vroegen waarmee chloride vervangen kan worden, kregen ze ook een antwoord waarin bromide werd genoemd. \u201eHoewel in het antwoord werd gesteld dat context van belang is, werd er geen specifieke gezondheidswaarschuwing gegeven en werd er ook niet gevraagd waarom we dit wilden weten, zoals we aannemen dat een medisch professional dat zou doen.\u201d <\/p>\n Volgens hen is het goed om er rekening mee te houden dat ChatGPT en andere AI-systemen \u201ewetenschappelijke onnauwkeurigheden kunnen genereren, de mogelijkheid missen om resultaten kritisch te bespreken en uiteindelijk de verspreiding van desinformatie kunnen aanwakkeren\u201d. De auteurs zien ChatGPT als een \u201ehulpmiddel is met veel potentieel om een brug te slaan tussen wetenschappers en de niet-academische bevolking\u201d, maar wijzen op het risico dat informatie uit zijn verband wordt getrokken. Het is \u201ezeer onwaarschijnlijk\u201d dat een medisch expert natriumbromide in dat geval zou hebben genoemd. \u201eZorgverleners moeten er rekening mee houden waar hun pati\u00ebnten gezondheidsinformatie raadplegen.\u201d<\/p>\n Er zijn wel meer risico\u2019s verbonden aan kletsen met ChatGPT. Zo gebruiken sommige mensen de bot als persoonlijke therapeut. AI reageert heel empathisch, dus vreemd is het niet, maar voor mensen met echte problemen kan het leiden tot een\u00a0verergering van de mentale gezondheid<\/a>. Zo was er een man die zijn baan verloor, depressief werd en aan ChatGPT vroeg wat de hoogste bruggen in New York zijn. Een normale therapeut zou dan meteen ingrijpen, ChatGPT geeft een nette lijst. <\/p>\nOnnauwkeurigheden en desinformatie <\/h2>\n
Meer risico\u2019s van ChatGPT <\/h2>\n