Samkvæmt nýrri rannsókn frá Humboldt-háskólanum í Berlín geta háþróuðustu djúpfalsmyndirnar sem framleiddar eru með gervigreind falsað hjartslátt manna svo sannfærandi núna að jafnvel sérþróaðir skynjarar láta blekkjast. Niðurstöður vísindamannanna vekja áhyggjur um að tækniframfarir gætu bráðum gert það að verkum að ekki verði hægt að aðgreina tilbúið efni frá raunverulegum ljósmyndum og kvikmyndum.
Áður hafa skynjarar notað sérstaka aðferð (fjarlægðarljósmælingar eða rPPG) sem greinir smá litabreytingar í húðinni til að greina púls – sem tiltölulega áreiðanlega vísbendingu um hvort myndskeið sé ósvikið eða ekki.
En í nýju rannsókninni bjuggu vísindamennirnir til 32 djúpfölsuð myndbönd sem ekki aðeins litu út fyrir að vera raunveruleg í augum manna, heldur hermdu einnig eftir hjartslætti. Þegar þessi myndbönd voru prófuð með rPPG-skynjurum, þá voru þau ranglega flokkuð sem ósvikin. Prófessor Peter Eisert, aðalhöfundur rannsóknarinnar, segir í yfirlýsingu:
„Hérna sýnum við í fyrsta skipti að ný gerð hágæða djúpfalsaðra myndbanda geta sýnt raunverulegan hjartslátt og smábreytingar á andlitslit, sem gerir þau mun erfiðari að greina.“
Eykur hættuna á svindli
Samkvæmt rannsókninni er hægt að „arfleiða“ hjartsláttarmerki úr upprunalegum myndböndum með djúpfölsunum í gervigreindarlíkönum sem endurtaka smábreytingar á húðlit og blóðflæði. Hitakort sýndu nánast nákvæmlega eins breytingar á ljósi í bæði raunverulegum og tilbúnum myndböndum. Eisert útskýrir:
„Litlar breytingar á andlitslitum raunverulegrar manneskju eru færðar yfir í djúpfölsunina ásamt andlitshreyfingum, þannig að upprunalegi púlsinn endurskapast.“
Þessar framfarir auka hættuna á að djúpfalsanir verða notaðar í til dæmis fjármálasvikum, rangfærslum og klámi án samþykkis. Óháður rannsakandi áætlaði árið 2023 að yfir 244.000 fölsuð myndbönd hefði verið hlaðið inn á 35 stærstu djúpfals-klámsíðurnar á einni viku.
Tæknikapphlaup
Þrátt fyrir áhyggjur af þessari niðurstöðu rannsóknarinnar er samt von um að hægt sé að snúa þróuninni við. Rannsakendurnir taka fram að djúpfölsun nútímans tekst enn ekki að endurskapa náttúrulegar breytingar á blóðflæði með tímanum. Að auki eru tæknirisar eins og Adobe og Google að þróa vatnsmerki til að merkja efni sem er búið til með gervigreind.
Bandaríkjaþing samþykkti nýlega lögin „Take It Down Act“ sem gera dreifingu kynferðislegra mynda án samþykkis refsiverða, þar á meðal mynda sem eru búnar til með gervigreind. Sérfræðingar vara við því að tæknikapphlaupið milli skapara og skynjara krefjist stöðugrar aðlögunar. Í rannsókninni segir:
„Niðurstöðurnar undirstrika hvernig hin hraða þróun djúpfalstækninnar þýðir, að þeir sem vinna að því að greina hana geta ekki reitt sig lengur á eina aðferð. Eftir því sem þróun gervigreindar eykst verður baráttan gegn stafrænum svikum sífellt brýnni.“
Aðrir hafa lýst áhyggjum af öðrum meiði, að hin umfangsmikla útbreiðsla efnis sem gervigreind hefur skapað auki hættuna á því að verða notuð sem afsökun fyrir strangari ritskoðun og setningu laga sem á ýmsan hátt takmarkar frelsi fólks á netinu.