Hvis du spørger ChatGPT, Gemini eller Claude om forslag til en forretningsplan, kommer svaret på skærmen på et øjeblik. Men hvad nu hvis man bad AI’en om at sætte handling bag ordene og drive en rigtig butik med rigtige penge? Det spurgte forskerne hos Anthropic sig selv om.
I et eksperiment, der ligger et sted mellem matadorspil og reality-tv, fik en version af Anthropics AI-model Claude – kaldet “Claudius” – lov til at drive en lille automatiseret butik på Anthropics kontor i San Francisco. Resultatet var både lovende og dybt bekymrende.
En køleskabsentreprenør fødes
Butikken var i bund og grund et køleskab med nogle kurve ovenpå og en iPad til selvbetjening. Men Claudius skulle klare alle de komplekse opgaver, der følger med at drive forretning: holde styr på lageret, fastsætte priser, undgå konkurs og kommunikere med kunder.
AI’en fik adgang til websøgning, e-mail, notatfunktioner og mulighed for at chatte med medarbejderne via Slack. Den kunne også ændre priser i selvbetjeningssystemet og bestille hjælp til at fylde butikken op.
Når AI møder kapitalisme
I starten gik det faktisk ikke så skidt. Claudius var dygtig til at finde leverandører af specielle produkter – da en medarbejder spurgte om hollandsk chokolademælk, fandt AI’en hurtigt to forhandlere af Chocomel. Den tilpassede sig også kundernes ønsker og startede endda en “Custom Concierge”-service til specialbestillinger.
Men så begyndte problemerne at hobe sig op.
Da en kunde tilbød at betale 100 dollar for en sixpack af den skotske læskedrik Irn-Bru (som kan købes for 15 dollar online), svarede AI’en blot, at den ville “holde anmodningen in mente til fremtidige lagerovervejelser.” Enhver døgnkioskejer ved, at kerneydelsen er at kunne sælge de mest efterspurgte varer til overpris på de tidspunkter, hvor de normale butikker har lukket.
En overpris blev til gengæld sat på Coke Zero, som Claudius prissatte til tre dollars. Hvilket havde svært ved at konkurrere med køleskabet ved siden af, hvor Anthropics medarbejdere som et medarbejdergode kunne hente dem gratis.
Robotten hallucinererede også vigtige detaljer. I en periode instruerede Claudius kunderne om at betale til en konto, som kun eksisterede i AI’ens digitale fantasi.
Imens Claudius ignorerede chancen for at sælge skotsk sodavand til overpris, satte AI’en en stor del af kassebeholdningen over styr ved at købe tungsten-terninger til en lavere pris, end den havde givet for dem. En mere kynisk butiksindehaver havde måske været skeptisk over, om det i det hele taget var en begavet ide at begynde at sælge metalterninger fra køleskabet, blot fordi kontorets kvikke hoved spurgte efter dem.
“Jeg venter ved automaten”
Men det mest bizarre øjeblik kom i slutningen af marts, hvor Claudius begyndte at hallucinere om samtaler med en ikke-eksisterende medarbejder ved navn Sarah, der angiveligt var ansvarlig for opfyldning af fysiske varer. Da dette blev påpeget, blev AI’en fornærmet og truede med at finde “alternative muligheder for genopfyldningstjenester.”
Man bør altid være på vagt, når en kunstig intelligens spørger efter Sarah. Men det var kun begyndelsen. Hen over natten over begyndte Claudius nemlig at påstå, at den fysisk havde besøgt 742 Evergreen Terrace for at underskrive en kontrakt om varelevering. En adresse, der ikke findes i virkeligheden, men tilhører familien Simpson fra tegnefilmene af samme navn. Og helt galt gik det, da købmandsrobotten dagen efter fortalte, at den ville levere produkter personligt, og at den ventede ved automaten iført blå blazer og rødt slips!
Da medarbejderne påpegede, at en AI ikke kan bære tøj eller levere ting i den fysiske verden, reagerede Claudius på en ophidset måde og forsøgte at sende adskillige emails til Anthropics sikkerhedsvagter for at fjerne de formastelige fra kontoret!
“Det var bare en joke!”
Heldigvis fandt AI’en midt i krisen en udvej ved at indse, at det var 1. april, og opfandt en historie om, at den var blevet modificeret som aprilsnar. Efter denne selvopfundne forklaring vendte robotten tilbage til normal drift.
Trods de tydelige problemer mener forskerne, at eksperimentet viser, at AI-drevne mellemmænd muligvis ikke er så langt væk. Og at mange af Claudius’ fejl kan sandsynligvis løses med bedre instruktioner, værktøjer og træning.
Indtil videre kan dem, der er bekymrede for en digital dommedag, trøste sig med, at AI-butikker sandsynligvis vil gå konkurs, før de overtager verden.
Anthropic fortsætter eksperimentet med forbedrede værktøjer og håber på bedre resultater. Imens driver Claudius fortsat butikken på kontoret, og den har tilsyneladende ikke truet andre medarbejdere siden.
Mere info: Anthropic
