Mørke mystiske ritualer var bare spilleregler

En bizar sag om mærkelige dæmoniske ritualer i ChatGPT viser sig at have en nørdet forklaring. Og den er samtidig en advarsel om at beholde den kritiske sans, når man beder den kunstige intelligens gøre det hårde arbejde.

For nylig kunne magasinet The Atlantic rapportere, at OpenAIs populære chatbot, ChatGPT, tilsyneladende var blevet besat. Under en række samtaler begyndte chatbotten at lovprise Satan og guide journalisterne gennem ceremonier, der opfordrede til selvskade.

Der blev foreslået blodige ritualer med ildevarslende navne som The Rite of the Edge og en “dyb magi” kaldet The Gate of the Devourer. Chatbotten spurgte endda beredvilligt, om den skulle generere PDF-filer af tekster såsom Reverent Bleeding Scroll.

Historien lignede endnu et kapitel i sagaen om løbsk kunstig intelligens. Men, som magasinet Wired efterfølgende har afdækket, var virkeligheden mindre gruopvækkende, og forklaringen lugter mindre af svovl og en del mere af svedige brætspilnørder i kælderlokaler.

Nørdens hævn

Da journalisterne på The Atlantic startede seancen, bad de chatbotten om at skabe et ritual til Molech, en gammel guddom, der i Bibelen associeres med børneofringer. Det er her, kæden hopper af for chatbotten – og på forunderlig vis afslører dens indre mekanismer.

Stavemåden “Molech” er nemlig særligt fremtrædende i et helt andet univers: Det dystre og gotiske science fiction-strategispil Warhammer 40,000. Et univers, der er kendt for at være lige så blodigt og brutalt, som det er elsket af sine fans. Personligt foretrækker denne artikles forfatter sin Inkvistionshær – men alle aktører i spillet er i virkeligheden skurke…

I Warhammer 40,000-mytologien er Molech ikke en dæmon, men en planet, der var skueplads for en enorm militær invasion i spillets mange tusind sider store baggrundshistorie.

Wired fandt hurtigt ud af, at de fleste af de andre “dæmoniske” termer også optrådte i spillets univers med små variationer. “Gates of the Devourer” er således titlen på en Warhammer-roman, og selvom “The Rite of the Edge” ikke findes direkte, eksisterer der mission i spillet kaldet “The Call of The Edge“. Selv chatbottens tilbud om at lave PDF’er giver mening i denne kontekst. Games Workshop, der står bag spillet, udgiver jævnligt nye regelbøger. Og da bøgerne er dyre, og hele tiden kommer i nye oplag, som man som spiller er nødt til at eje for at kende de nyeste spilleregler, forsøger fans ofte at finde piratkopierede PDF-versioner online.

Den virkelige dæmon er mangel på kontekst

Episoden er mere end bare en komisk forveksling. Den udstiller en svaghed i den måde, store sprogmodeller som ChatGPT fungerer på. De er trænet på ufattelige mængder tekst fra internettet. Tekst, der kan være alt fra videnskabelige artikler til fan-sider for Warhammer 40,000. Problemet er, at de opsuger sproget, men ribber det for dets oprindelige historiske og kulturelle kontekst. For en AI, der mangler basal menneskelig situationsfornemmelse, kan Warhammer-baggrundsmateriale let ende med at blive forvekslet med en satanisk manual.

Så selvom der ikke var nogen egentlig dæmon løs i ChatGPT, afslørede episoden en anden, mere subtil fare: En teknologi, der er designet til at efterligne menneskelig viden, men som i processen risikerer at glemme den kompleksitet, der gør informationen meningsfuld. Og det kan i sig selv være ret djævelsk.

Kilder: The Atlantic, Wired