Turing-prismodtagere er bekymrede for AI-sikkerhed

Store sprogmodeller som ChatGPT har revolutioneret udviklingen indenfor kunstig intelligens. Men firmaerne bag dem har så travlt med at tælle, hvor mange milliarder dollars, de pludselig er værd, at de glemmer at se på de farer, teknologien også indebærer. Manglen på sikkerhedsprocedurer svarer til at teste holdbarheden af en bro ved at sende biler ud på den – og se, om den styrter sammen.

Kritikken kommer fra to af de personer, der burde vide mest om emnet, nemlig Andrew Barto, der er er forsker på University of Massachusetts, og Richard Sutton, der tidligere har arbejdet som forsker hos Google-ejede DeepMind. Det skriver teknologimagasinet The Verge. De to forskere har netop modtaget årets Turing-pris.

Turing-prisen betragtes uofficielt som computervidenskabens pendant til nobelprisen, og de de to modtog prisen for deres arbejde med udvikling af såkaldt Reinforcement Learning, der handler om at træne kunstig intelligens. Metoden handler om, at en observatør belønner rigtige resultater under træningen og dermed spore AI’en ind på at finde det ønskede regelsæt (hvilket ikke er helt ulig, hvordan man træner en hundehvalp).

Andrew Barto har sagt i et interview i Financial Times, at AI-firmaerne forsømmer at se på sikkerheden:

“At give millioner af brugere adgang til software uden at have sikkerheden i orden er imod al god praksis. I ingeniørarbejde skal der normalt træffes forholdsregler mod de negative konsekvenser – og det sker ikke i de firmaer, der udvikler AI.” 

Det er ikke første gang, Turing-vindere kritiser AI-giganterne for at sløse med sikkerheden. Yoshua Bengio og Geoffey Hinton, der sammen vandt i 2019, har begge peget på, at man i bestræbelserne på at udvikle almen kunstig intelligens (AGI) risikerer at skabe en superintelligens, der kan skade menneskeheden. Enten ud fra den egne dagsordener eller i hænderne på mennesker med ondt i sinde.

Kilde: The Verge