Du skal ikke tro på alt, hvad du ser på internettet. Og med fremkomsten af hyperrealistiske videogeneratorer er det blevet stort set umuligt for det blotte øje at skelne mellem en optagelse af virkeligheden og en sekvens, der er drømt op af en serverfarm i Californien.
Men nu melder Google sig på banen med en løsning, der lugter lidt af det gamle ordsprog om, at det kræver en tyv at fange en tyv. Hvis du er i tvivl, om en video er lavet ved hjælp af AI, kan du nemlig nu spørge… en AI!
Google er begyndt at udrulle en funktion i deres chatbot, Gemini, der lader brugerne uploade eller linke til en video og simpelthen spørge: “Er denne video lavet med AI?”
Det usynlige vandmærke
Teknologien bag afsløringen hedder SynthID. Det er egentlig ikke nogen ny opfindelse, men den har hidtil levet et mere stille liv i maskinrummet hos Google DeepMind. Nu bliver den frit tilgængelig i chatrobotten Gemini.
SynthID fungerer ved at indlejre et digitalt vandmærke direkte i pixelsammensætningen på billeder, lyd eller video, når de genereres. I modsætning til vandmærker på stock-fotos eller tv-stationernes logoer i hjørnet er SynthID usynligt for det menneskelige øje og påvirker ikke oplevelsen af videoen.
Det er som at have en tyverialarm, der kun reagerer på indbrudstyve, der bærer navneskilt.
Men for en algoritme lyser det op som et neonskilt.
Ideen er, at selv om en video bliver beskåret, får ændret farver eller bliver komprimeret til ukendelighed på sociale medier, så vil det digitale fingeraftryk bestå. Og det er netop dette fingeraftryk, Gemini nu er blevet trænet til at kigge efter.
Virker kun på Googles eget materiale
Det lyder som den hellige gral i kampen mod desinformation og deepfakes. Men inden du læner dig for godt tilbage i stolen og stoler blindt på oraklet fra Mountain View, er der et stort og ganske væsentligt “men”.
Gemini kan nemlig kun med sikkerhed afsløre videoer, der har et SynthID-vandmærke.
Det betyder i praksis, at systemet er fremragende til at spotte videoer skabt med Googles egne værktøjer, såsom videogeneratoren Veo eller billedgeneratoren Imagen 3.
Men hvis videoen er skabt med OpenAI’s Sora, Runway, eller et af de utallige open-source modeller, der florerer på nettet, og som ikke understøtter SynthID-standarden, så er Gemini lige så meget på herrens mark som vi andre kødelige.
Det er, lidt firkantet sagt, som at have en tyverialarm, der kun reagerer på indbrudstyve, der bærer navneskilt.
Et skridt mod en standard
Google har gjort SynthID-teknologien tilgængelig for andre, og de opfordrer naturligvis hele branchen til at tage standarden til sig. Om konkurrenterne har lyst til at benytte en Google-udviklet standard til at mærke deres indhold, må tiden vise.
Indtil da er den nye funktion i Gemini et nyttigt værktøj, men ikke en endegyldig dommer. Hvis Gemini siger, at en video er AI-genereret, kan du regne med det. Hvis den siger “det ved jeg ikke”, kan det betyde, at videoen er ægte. Eller at den er falsk, men lavet af en konkurrent.
Så vi slipper nok ikke for at bruge den sunde fornuft lidt endnu.
Kilde: Google