Delbare ChatGPT-samtaler blev søgbare ved en fejl

Mange mennesker bruger ChatGPT til seriøse og følsomme konsultationer. Det kan være alt fra rådgivning om deres økonomi, personlige problemer eller mentale sundhed. Det skyldes, at de stoler på, at samtalen er privat og aldrig kan spores tilbage til dem. Men en ny funktion, som OpenAI har eksperimenteret med, har slået fejl og gjort samtalerne søgbare online for alle.

Det handlede om en funktion, der ville give folk mulighed for at dele interessante chats med deres venner. I chatten var der en delingsknap og derefter en knap til at oprette et link til samtalen. Når du bruger funktionen, siger OpenAI, at “dit navn, dine tilpassede instruktioner og de beskeder, du tilføjer efter at have delt linket, forbliver private.

Men hvad folk, der brugte funktionen, ikke var klar over, var, at samtalen blev offentlig. Så meget, at søgemaskiner som Google kunne indeksere indholdet og gøre det søgbart for alle på nettet.

En journalist, der undersøgte dette, fandt en bruger, der talte om sit sexliv, sin kamp med posttraumatisk stresslidelse og familieforhold. En journalist på Techcrunch fandt en person, der bad om hjælp til at omskrive sit CV til en jobansøgning. Ud fra oplysningerne i chatten var det nemt at finde personen på LinkedIn, hvilket mildest talt ville have været pinligt, hvis arbejdsgiveren havde opdaget personens planer om at sige op. Mange af samtalerne indeholdt nok information til at identificere personen.

Kun få timer efter lækagen blev opdaget, lukkede OpenAI ned for funktionen og forklarede, at eksperimentet “gav for mange muligheder for, at folk ved et uheld kunne dele ting, de ikke havde tænkt sig at dele”. Google kommenterede, at deres søgemaskine indekserer ting, der er offentliggjort online, og at det er udgiveren, der har kontrol over, hvad der offentliggøres og bliver søgbart.

Kilde: Fast Company