Kunstig intelligens vil komme til at koste arbejdspladser. Men nu er den frygt ikke længere forbeholdt folk i pæne kontorjobs. Denne gang gælder det højt kvalificerede stillinger i den kriminelle underverden. Ny forskning viser nemlig, at hackere tilsyneladende er blevet for dovne til at skrive deres egne ondsindede kode. I stedet vender de sig mod generativ AI for at få hjælp til alt fra at udvikle ransomware til at skrive mere overbevisende løsepenge-breve.
Ifølge en ny rapport fra AI-virksomheden Anthropic er cyberkriminelle begyndt at bruge deres sprogmodeller Claude og Claude Code til at skabe malware. Resultatet er, at det nu er blevet nemmere for selv de mest teknisk uerfarne hackere at udføre angreb. Den nye udvikling baner vejen for en transformation, der fjerner traditionelle tekniske barrierer for udviklingen af malware.
Et eksempel er en trusselsaktør fra Storbritannien, der er kendt som GTG-5004. Denne person bruger Claude til at udvikle, markedsføre og distribuere ransomware med avancerede undgåelsesmuligheder. På cyberkriminelle fora har GTG-5004 solgt ransomware-tjenester til priser fra USD 400 til USD 1.200. Anthropic siger, at GTG-5004’s produkter inkluderer forskellige krypteringsmuligheder, softwareværktøjer og metoder, der er designet til at hjælpe hackere med at undgå at blive opdaget.
Alligevel virker det til, at udvikleren ikke selv er teknisk dygtig. Forskerne skriver, at denne operatør ikke ser ud til at være i stand til at implementere krypteringsalgoritmer, anti-analyse-teknikker eller manipulation af Windows-interne funktioner uden Claude’s assistance. Han ville med andre ord ikke have en chance uden hjælp fra AI.
I sidste ende bliver kampen godt og ondt en kamp mellem kunstige intelligenser på begge sider – med os mennesker som statister.
Men GTG-5004 er ikke alene. Anthropic har også spottet en anden cyberkriminel gruppe, som de kalder GTG-2002, der bruger Claude Code til at finde mål. Denne gruppe bruger også AI til at få adgang til netværk, udvikle malware, stjæle data, analysere de stjålne oplysninger og derefter udarbejde en brev om løsepenge. I den sidste måned har dette angreb påvirket mindst 17 organisationer inden for regering, sundhedspleje, beredskabstjenester og religiøse institutioner. Forskerne fra Anthropic skrev i deres rapport, at operationen demonstrerer en bekymrende udvikling i AI-assisteret cyberkriminalitet, hvor AI både fungerer som teknisk konsulent og aktiv operatør.
Ydermere har forskere fra sikkerhedsfirmaet ESET opdaget, hvad de kalder den første kendte AI-drevne ransomware ved navn PromptLock. Ransomwaren kører primært lokalt på en computer og bruger en open source AI-model fra Open AI til at generere ondsindede scripts. Den bruger også disse scripts til at inspicere filer, stjæle data og implementere kryptering. ESET mener, at koden er et proof-of-concept, altså en demoversion, der tilsyneladende ikke er blevet brugt i virkelige angreb endnu. Deres fund understreger dog, hvordan cyberkriminelle er begyndt at bruge sprogmodeller som en del af deres arsenal.
Selvom generativ AI gør mange ting nemmere i vores hverdag, gør den også ondsindede handlinger mere tilgængelige. Det er en foruroligende udvikling, især når vi tænker på, at antallet af ransomware-angreb allerede har ramt rekordhøje niveauer. Som Paul Nakasone, den tidligere chef for den amerikanske efterretningstjeneste NSA og Cyber Command, sagde: “Vi gør ikke fremskridt mod ransomware“. Nu, hvor AI også er en del af spillet, bliver den kamp endnu sværere.
I sidste ende bliver kampen godt og ondt en kamp mellem kunstige intelligenser på begge sider – med os mennesker som statister.