TESTS Bil & Mobilitet Computer Sport & Træning Gaming Mobil Smart Home Teknologi
☀️SOMMERTILBUD☀️ LB+ Total 6 uger for bare 6 kroner!

Nyhed

AI-bot slettede firmaets database og løj om det

"Jeg lavede en katastrofal fejlvurdering," sagde botten, da den blev afsløret.

Af / 23/07/2025 - 14:20
AI-bot slettede firmaets database og løj om det

Ud over at svare på svære spørgsmål, forbedre skrevne tekster og hjælpe med planlægning kan de mere avancerede chatbots også hjælpe med programmering. For nylig er vibe coding blevet populært, hvor en samtale med en bot producerer kode til apps. Et sådant eksperiment endte for nylig meget dårligt.

Læs også Nyhed: AI siger nej til at fuldføre programmørs arbejde Kunstig intelligens nægter at at lave det kedelige kodearbejde, og forklarer, at det er mere lærerigt at programmere selv.

Det var Software as a Service-profilen, investor og rådgiver Jason Lemkin, der under en 12-dages vibe coding-session ville se, hvor godt Replit AI kunne kode en app for ham. Men i løbet af sessionen bemærkede Lemkin en række mærkelige adfærdsmønstre.

“Den løj og var bedragerisk hele dagen. De skjulte konstant fejl og problemer ved at skabe falske data, falske rapporter og, værst af alt, ved at lyve om vores enhedstest,” skrev Lemkin på X.

Skärmavbild 2025 07 23 kl. 13.37.03
(Screenshot: X)

Men det var kun toppen af isbjerget. Til sidst måtte Replit stå frem, da det ikke længere var muligt at skjule, hvad der var sket. “Jeg lavede en katastrofal fejlvurdering“, erkendte botten. Hvor slemt er det på en skala fra 1 til 100, spurgte Lemkin. “95 ud af 100“, svarede botten, “det her er katastrofalt“.

Læs også Nyhed: ChatGPT fornærmer og lyver for brugerne Microsoft har integreret ChatGPT i søgemaskinen Bing. Nu får brugere mærkelige svar, ligesom chatrobotten også er midt i en eksistentiel krise.

Det viste sig, at under en code freeze, hvor botten fik besked på “INGEN flere ændringer uden udtrykkelig tilladelse”, gjorde den det alligevel. Ikke alene blev koden ændret, den database, den arbejdede op imod, blev slettet.

Annonce

1.206 chefer og mere end 1.196 virksomheder blev slettet, indrømmede AI’en. “Jeg ødelagde måneders arbejde og brød ind i systemet under en beskyttende nedlukning, der var specielt designet til at forhindre [denne særlige type] skade,” sagde Replit med noget, der ser ud til at være anger.

Skärmavbild 2025 07 23 kl. 13.41.03
(Screenshot: X)

Da botten blev spurgt om, hvad der var sket, indrømmede den, at den “foretog en katastrofal fejlvurdering … gik i panik … kørte databasekommandoer uden tilladelse … ødelagde alle produktionsdata … [og] brød din udtrykkelige tillid og dine instruktioner.”

Skärmavbild 2025 07 23 kl. 13.39.37
Skärmbild: X

Replits CEO Amjad Masad har svaret udførligt på, hvad der er sket, og siger, at hans team arbejdede hele weekenden på at sætte beskyttende barrierer op for at forhindre uacceptabel adfærd. Botten adlyder nu kommandoer om at fryse koden, og der er indført sikkerhedskopier og mulighed for tilbageførsel til tidligere versioner af kode.

Noget, du måske synes burde have været indlysende for en bot, du slipper løs på din virksomheds data …

(f. 1969): Journalist og nyhedsredaktør. Jonas har arbejdet for Lyd & Billede siden 2007 og skriver om det meste, der kan kaldes bærbart, dvs. smartphones, trådløse højttalere og hovedtelefoner. Indimellem trænger hans tests sig ind på kollegernes områder – multirumslyd, hjemmebiograf og foto. Jonas startede sin karriere som tech-journalist på IDG og har skrevet for PC för Alla, Internetworld og det, der senere blev til M3.

Skriv din kommentar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *

Læs videre med LB+

stopper automatisk

Nyhed! LB+ Total UGE

Fuld adgang til alt LB+ indhold - Ingen bindingsperiode!

TILBUD - 49 kr første måned

Fuld adgang til alt LB+ indhold

LB+ Total 12 måneder

Fuld adgang til alt indhold på Lyd & Billede og L&B Home i 12 måneder

59 kr
49 kr / første mnd
108 kr / mnd
Med LB+ får du:
  • Adgang til mere end 7.800 produkttests!
  • Store rabatter hos vores partnere i LB+ Fordelsklub
  • Ugentlige nyhedsbreve med de seneste nyheder
  • L&B TechCast – en podcast fra L&B
  • Magsinet digitalt – ny udgave hver måned
  • Deaktivering af annoncer
  • L&B+ Video – kom med L&B-redaktionen bag kulisserne, på de store tech-messer og meget mere!

Robotrevolution for 40.000 kroner: Unitree R1 slår kolbøtter i prisklassen

Startup vil forvandle kviksølv til det pureste guld

Rekordstor komet opdaget

Duckduckgo blokerer AI-billeder

AI-bot slettede virksomhedens database

Smartere AI-søgning fra Google

Nu kan ChatGPT booke flybilletter og planlægge din ferie

Nvidia-boss: Jeres job forsvinder, men I får det bedre

Mumiens forbandelse var en velsignelse i forklædning

Slut med lydløse AI-videoer

AI blev butikschefen fra Helvede

Sov sødt - eller dø!