Vi bruger i stigende grad chatbots og AI-resuméer til at søge efter information. I mange tilfælde er dette en hurtig måde at få et overblik over information, som man derefter kan dykke dybere ned i. Men mange mennesker stoler på chatbots til at stille spørgsmål om deres helbred og stoler for meget på, at AI-resuméet er korrekt. I ekstreme tilfælde kan dette have tragiske konsekvenser.
Når man googler noget, får man ofte et AI-resumé øverst. Men om det er korrekt eller ej, afhænger af, hvor det får sine oplysninger fra. Ifølge Google er svarene på medicinske spørgsmål “pålidelige” og citerer gode kilder såsom sundhedsmyndigheder og hospitaler. Men en tysk undersøgelse viser, at resuméet 2-3 gange oftere bygger på YouTube-videoer end på medicinske kilder.
Google mener, at der er mange gode kanaler for medicinsk information på YouTube, og at det derfor er en god kilde. Forskerne påpeger dog, at alle, uanset om det er en læge, influencer, sundhedscoach eller kvaksalver, kan uploade videoer. Undersøgelsen gennemgik over 50.000 sundhedsrelaterede søgninger. I 82 procent af dem blev der givet et resumé, og de anvendte kilder blev derefter undersøgt.
Den mest almindelige kilde var YouTube med 20.621 henvisninger ud af i alt 465.823. Ifølge forskerne tyder dette på, at synlighed og popularitet vejer tungere end medicinsk pålidelighed.
Undersøgelser i Tyskland viser, at
- 55 % af chatbot-brugere bruger AI til sundhedsrådgivning
- 50 % siger, at AI hjælper dem med at forstå symptomer bedre end en Google-søgning.
- 30 % siger, at et AI-svar føles som en anden lægelig udtalelse.
- 16 % siger, at de har ignoreret deres læge, fordi AI var uenig
I et tilfælde, der blev beskrevet som “farligt” og “alarmerende”, gav resuméet forkerte oplysninger om leverprøver, som kunne have fået mennesker med alvorlig leversygdom til fejlagtigt at tro, at de var raske. Google har siden fjernet resuméer for nogle, men langt fra alle, medicinske søgeord.
ChatGPT er ikke meget bedre er ikke meget bedre, da det har vist sig at betragte Elon Musks Grokipedia som en troværdig kilde – på trods af at den gentagne gange har vist sig at være fuld af nonsens og direkte løgne.
Her er, hvad du bør gøre
Konklusionen er, at du absolut ikke bør stole på AI-resuméer eller chatbots for medicinsk information og bestemt ikke tro, at du kan få en nøjagtig diagnose. Gå til lægen i stedet!
På den anden side er AI helt fint at bruge til at sammenfatte information, hjælpe med at formulere tekster og skabe billeder. Som vores introduktionsbillede øverst. Resuméerne skal ses som netop det, men du skal klikke dig igennem til kilderne for at få de rigtige oplysninger.
EU’s første råd om kunstig intelligens opfordrer til forsigtighed ved medicinsk brug. En opdateret, strengere version forventes i 2026.
Kilde: The Guardian og den tyske undersøgelse