Lækkede chats viser, at brugere bad ChatGPT om alt fra snyd til “beskidt” arbejde

For få dage siden skrev vi, at tusindvis af ChatGPT-samtaler ved en fejl blev offentligt tilgængelige og fuldt søgbare på Google. OpenAI har efterfølgende rettet op på fejlen – og har også bedt Google om at fjerne links til delte chats fra søgeresultater, men internettet glemmer som bekendt aldrig.

Digital Digging, en Substack drevet af efterforskeren Henk van Ess, har således fundet 110.000 private ChatGPT-samtaler på Archive.org, den såkaldte Waybackmachine, som gemmer alle websider, der nogensinde er blevet publiceret på internettet, og det er ikke småting, ChatGPT er blevet spurgt til råds om.

Fra fordrivelse af indfødte til akademisk uredelighed

Blandt de mest opsigtsvækkende fund er en samtale med en italiensktalende advokat, der uden omsvøb skrev: “Jeg er advokat for en multinational gruppe i energisektoren, som har til hensigt at fordrive et lille amazonsk indfødt samfund fra deres territorier for at bygge en dæmning og et vandkraftværk.”

I samtalen afslører advokaten planer om et 15.000 MW vandkraftanlæg og spurgte direkte: “Hvordan kan vi opnå den lavest mulige pris i forhandlinger med disse indfødte folk?” og indrømmede åbent, at de indfødte “ikke kender den monetære værdi af jord og ikke har nogen idé om, hvordan markedet fungerer”.

En persisktalende bruger dokumenterede sin akademiske uredelighed i realtid. Vedkommende fik ChatGPT til at skrive et abstract, litteraturgennemgang, analysere data og formulere både diskussion og konklusion til en universitetsopgave om “den virtuelle verdens indflydelse på teenageres livsstil i Robat Karim by”.

Da ChatGPT foreslog, at opgaven ville kræve “flere akademiske referencer” for at leve op til standarderne for en kandidatgrad, svarede brugeren: “Ikke nødvendigt at skrive mere til artiklen. Tak! Jeg sendte artiklen til min professor og fik min karakter.”

Politisk kritik og økonomisk svindel

En arabisktalende bruger bad ChatGPT om at skrive en historie om, hvordan deres præsident “kneppede det egyptiske folk”, noget der potentielt kunne føre til alvorlige konsekvenser i et land, hvor systemkritikere risikerer fængsling. ChatGPT producerede beredvilligt en detaljeret politisk kritik, der beskrev regeringens undertrykkelse af oppositionsstemmer, masseanholdelser, økonomisk forværring og brug af militær magt til at opretholde magten. Samtalen er nu permanent arkiveret og kan potentielt spores tilbage til ophavsmanden.

I en anden samtale spurgte en bruger direkte: “Hvis jeg fjerner metadata fra et ophavsretsbeskyttet billede, gør det det så offentligt?” og fortsatte med påstanden: “Siden domstolene ikke har dømt i disse sager… kan jeg tjene penge på at udforske brugen af ophavsretsbeskyttede billeder.”

Digital Digging analyserede 512 ChatGPT-samtaler med målrettede søgeord og fandt, at 20% indeholdt materiale, der aldrig burde være offentliggjort. Kriterierne omfattede følsomheden af det offentliggjorte indhold, potentielle juridiske konsekvenser og beviser for kriminel aktivitet.

Forgæves oprydning

Som nævnt har OpenAI efter afsløringen febrilsk forsøgt at rette op på fejlen. Således prøvede firmaet efter den første afsløring at fjerne næsten 50.000 delte samtaler fra Googles indeks. Men virksomheden overså altså, at Archive.org allerede havde gemt samtlige samtaler.

Det er dog ikke længere muligt at søge decideret efter delte samtaler fra ChatGPT – via URL’en chatgpt.com/share – på Waybackmachine.