For få dage siden, i forbindelse med udviklerkonferencen Google I/O, lancerede Google funktionen AI Overviews til de amerikanske brugere. Den nye søgefunktion skulle kunne bruge information i realtid, forstå argumentation i flere led og sammenfatte svar fra mange forskellige kilder.
Som en del af præsentationen blev det demonstreret, hvordan AI Overviews f.eks. kunne svare på “find de bedste yogastudier inden for 10 minutter fra mit hjem, og hvad de har af introduktionstilbud”.
Men allerede få dage efter den nye søgefunktion, hvis svar bliver vist over de normale søgeresultater, var blevet tilgængelig, begyndte brugere på sociale medier at vise eksempler på, at AI Overviews til tider kommer med vanvittige svar på helt normale spørgsmål.
Uappetitlige og decideret farlige råd
En bruger spurgte Google, hvordan han kunne forhindre osten i at glide af hans pizza. Svaret? Du kan blande lim i osten, så sidder den bedre fast!
Google is dead beyond comparison pic.twitter.com/EQIJhvPUoI
— PixelButts (@PixelButts) May 22, 2024
Endnu værre var det, at en anden bruger fik en opskrift på sennepsgas, da han bad om et råd til, hvordan han kunne rengøre sin vaskemaskine.
I asked how to clean my washing machine, and it told me to make chlorine gas pic.twitter.com/BniM2j1VGv
— goose queef (@Mia62651937) May 15, 2024
Kilden til det gode råd om at putte lim i osten? Et 11 år gammelt opslag på det sociale medie Reddit fra en bruger ved navn “fucksmith”.
60 millioner dollars til Reddit
Det er ikke tilfældigt, at AI Overviews videregiver et svar fra en Reddit-bruger, for i begyndelsen af året indgik Google nemlig en aftale med Reddit, der indebærer, at det sociale medie modtager 60 millioner dollars (knap 414 millioner danske kroner) for at Google må bruge det sociale medies indhold til at træne sine AI-modeller. Det skrev det tyske techmedie Winfuture tilbage i februar måned.
Læs det med småt
Men Google fraskriver sig ethvert ansvar for de svar, AI Overviews giver brugerne. “Generative AI is experimental”, står der med små bogstaver under alle de AI-skabte søgeresultater, så det overlades med andre ord til brugernes eget ansvar og mediekompetence at vurdere svarene fra den kunstige intelligens.
Til The Verge siger Meghann Farnswort, en talsperson fra Google, at de pågældende fejl stammer fra “generelt meget ualmindelige forespørgsler, der ikke er repræsentative for de fleste menneskers oplevelser.”
Virksomheden har grebet ind over for overtrædelser af sine politikker, sagde hun, og bruger disse “isolerede eksempler” til at fortsætte med at forbedre produktet.
