Nizozemski znanstvenici razvili su alat za detekciju deepfakea pomoću otkucaja srca

U posljednjih nekoliko godina svijet je svjedočio porastu deepfakova – hiperrealističnih videozapisa stvorenih pomoću umjetne inteligencije (AI) koji mogu prikazati nekoga kako govori ili čini nešto što nikada nije učinio.

Ovi digitalni dvojnici imaju potencijal širiti dezinformacije, uništiti reputacije i čak utjecati na izbore. Primjer je deepfake video ukrajinskog predsjednika Volodymyra Zelenskog korišten u propagandne svrhe, što jasno pokazuje stvarne opasnosti ove tehnologije.

Međutim, znanstvenici iz Nizozemske forenzičke institucije (NFI) razvili su novi inovativni alat za borbu protiv ove prijetnje, koristeći nešto tako osnovno kao što je ljudski otkucaj srca za otkrivanje ovih lažnih videozapisa.

Što je deepfake i zašto je problem?

Deepfakovi su sintetički mediji gdje se osobina jedne osobe zamijeni osobinom druge, često korištenjem dubokog učenja. Ove metode uključuju obuku neuronskih mreža na velikim skupovima podataka slika i videozapisa kako bi naučile kako zamijeniti lica ili izmijeniti izglede na uvjerljiv način.

Iako se mogu koristiti za zabavu, poput stvaranja smiješnih videa, mračnija strana deepfakova uključuje osvetničku pornografiju, političku manipulaciju i financijske prevare. Tehnologija je postala tako napredna da čak i stručnjaci teško razlikuju stvarno od lažnog, što čini razvoj pouzdanih metoda otkrivanja ključnim.

Kako protok krvi može otkriti istinu?

Istraživači iz NFI-a razvili su metodu za otkrivanje deepfakova analizirajući suptilne promjene boje lica uzrokovane protokom krvi, koja pulsira u ritmu otkucaja srca. Ova tehnika, poznata kao detekcija protoka krvi, usredotočena je na područja lica gdje su krvne stanice blizu kože, poput područja oko očiju, čeljusti i čela.

Zeno Geradts, forenzički stručnjak za digitalne podatke u NFI-u i profesor forenzičke znanosti podataka na Sveučilištu u Amsterdamu, objašnjava da trenutna AI tehnologija ne može uvjerljivo replicirati ove prirodne varijacije u protoku krvi. “Koliko ja znam, ovo još uvijek nije korišteno u forenzičkim istraživanjima“, rekao je.

Metoda funkcionira tako što koristi visoko rezolucijske videozapise za otkrivanje sitnih promjena boje kože koje se događaju s svakim otkucajem srca. Ove promjene su jedinstvene za žive ljude i teško je za AI točno imitirati. Identificiranjem ovih uzoraka, alatka može odrediti je li video stvaran ili deepfake.

Razvoj alata za otkrivanje

Ideja za ovu metodu datira još iz 2012., ali je postala izvediva tek nedavno zahvaljujući napretku tehnologije. Istraživanje je pokrenula Paula Pronk, a proširila ga je Sanne de Wit, diplomirana inženjerka s Tehničkog sveučilišta u Eindhovenu, koja trenutno studira forenzičnu znanost u NFI-u.

Za obuku svog alata za otkrivanje, znanstvenici su koristili videozapise osoba koje su nosile pametne satove i srčane monitore. Usporedili su 79 različitih točaka na licu pod različitim uvjetima osvijetljenja i pokreta kako bi razvili robustni model koji funkcionira za sve boje kože i u slabije osvijetljenim okolinama. Ovo osigurava da je alat inkluzivan i primjenjiv u različitim okolinama. Korištenjem raznolikih skupova podataka i naprednih algoritama strojnog učenja, istraživači su uspjeli stvoriti model koji je i točan i pouzdan.

Trenutne primjene i budući potencijal

Trenutno se ovaj alat koristi kao potporna mjera u forenzičkim istraživanjima, ali još uvijek nije prihvatljiv kao dokaz u sudskim postupcima. Razlog je potreba za daljnjom validacijom i standardizacijom prije nego što može biti pravno priznat. Međutim, njegov potencijal je značajan, posebno s obzirom na sve veću prevalenciju i sofisticiranost deepfakova.

Na konferenciji Europske akademije za forenzičku znanost (EAFS) u Dublinu, održanoj od 26. do 30. svibnja 2025., Zeno Geradts je predstavio ovaj pionirski rad (EAFS Conference). Konferencija je također uključivala praktične radionice o stvaranju i otkrivanju deepfakova, naglašavajući važnost razumijevanja obje strane tehnologije.

Širi kontekst: Borba protiv deepfakova na globalnoj razini

Ovaj razvoj dolazi u vrijeme kada vlade i organizacije poduzimaju korake protiv deepfakova. Na primjer, u Španjolskoj se vodi kampanja protiv deepfakova s novim zakonskim nastojanjima za označavanje sadržaja generiranog AI-om (Spain’s AI Law). Nedavna istraživanja pokazuju da neki deepfakovi mogu nenamjerno oponašati otkucaje srca nasljeđujući signale iz originalnih videozapisa.

Prema Peteru Eisertu s Humboldtova sveučilišta u Berlinu, “Male varijacije u boji kože stvarne osobe prelaze na deepfake zajedno s pokretima lica, tako da se originalni puls replicira u lažnom videu“. Ipak, nizozemski alat može imati prednost jer traži specifičnije i detaljnije uzorke protoka krvi koji su teži za AI replicirati. Ostale metode otkrivanja deepfakova uključuju analizu metapodataka, poput vremenskih oznaka i geolokacije, ili traženje vizualnih artefakata uobičajenih u deepfakovima, poput neusklađenosti u osvijetljenju ili sjeni.

Analiza audija također se može koristiti, jer AI-generirani govor često ima karakteristične znakove koji se mogu otkriti. Društvene mreže također igraju ulogu u borbi protiv deepfakova dodavanjem oznaka sumnjivom sadržaju ili njegovim uklanjanjem, iako ova mjera nije uvijek učinkovita jer se deepfakovi mogu brzo širiti prije identifikacije.

Puls autentičnosti

Dok se borba protiv deepfakova nastavlja, inovacije poput alata za otkrivanje zasnovanog na otkucajima srca nude nadu u obnovu povjerenja u vizualni medij. Iako nijedno rješenje nije potpuno, ovaj metod predstavlja značajan korak naprijed u borbi protiv digitalne prevare.

Kako se AI tehnologija razvija, moraju se razvijati i naše metode za otkrivanje i sprečavanje njezine zloupotrebe. Rad nizozemskih znanstvenika u NFI-u svjedočanstvo je o inovaciji i odlučnosti potrebnoj za ostajanje korak ispred u ovoj dinamičnoj borbi.