Umjetna inteligencija (AI) je napredovala do točke u kojoj računala se mogu naučiti stvarati "deepfake" kombiniranjem autentičnih slika i videa. Već smo vidjeli neke zabrinjavajuće deepfakeove - videozapise koji navodno prikazuju poznate slavne osobe, a koji su zapravo lažni. Rezultati deepfake videa ili fotografije mogu biti bezopasna zabava, poput gornje slike koja zamišlja što Kapetan Amerika Johna Krasinskog izgledalo bi. Ali ljudi sa zlonamjernim namjerama mogu koristiti deepfake za širenje dezinformacija, budući da tehnologija omogućuje napadačima da glume političare i natjeraju ih da govore praktički bilo što.
tehn. Zabava. Znanost. Vaš inbox.
Prijavite se za najzanimljivije vijesti o tehnologiji i zabavi.
Prijavom pristajem na Uvjeti korištenja i pregledali su Obavijest o privatnosti.
Te bi se lažne lažne verzije mogle poput šumskog požara proširiti na društvenim mrežama i mogle bi nanijeti mnogo štete prije nego što budu razotkrivene. Tu bi Facebook mogao priskočiti u pomoć, budući da su istraživači AI tvrtke osmislili tehnologiju koja čini više od pukog otkrivanja deepfakeova. Facebook kaže da njegova umjetna inteligencija zapravo može pratiti porijeklo deepfakeova pronalaženjem jedinstvenih karakteristika koje bi mu mogle pomoći u identificiranju izvora deepfakea namijenjenog širenju dezinformacija.
Vidjeti Facebook na čelu borbe protiv deepfakea zapravo je osvježenje, kao deepfake uvelike će se širiti putem Facebookovih društvenih aplikacija, uključujući Facebook, Messenger, WhatsApp i Instagram.
Tvrtka u partnerstvu sa Sveučilištem države Michigan stvoriti tehnologiju koja može otkriti jesu li video ili slika deepfake ili originalni.
Facebook koristi vlastitu umjetnu inteligenciju za traženje tragova koji upućuju na to da je slika ili video lažiran. Ista se tehnologija može koristiti za prepoznavanje sličnosti između deepfakeova i stvaranje otiska prsta koji bi mogao identificirati podrijetlo zlonamjernog deepfakea:
Naša metoda obrnutog inženjeringa oslanja se na otkrivanje jedinstvenih obrazaca iza modela umjetne inteligencije koji se koristi za generiranje jedne slike deepfake. Počinjemo s atribucijom slike, a zatim radimo na otkrivanju svojstava modela koji je korišten za generiranje slike. Generalizirajući atribuciju slike za prepoznavanje otvorenog seta, možemo zaključiti više informacija o generativni model koji se koristi za stvaranje deepfakea koji ide dalje od prepoznavanja da nije viđen prije. I praćenjem sličnosti među obrascima zbirke deepfakeova, također bismo mogli reći potječe li niz slika iz jednog izvora. Ova sposobnost otkrivanja koji su deepfakeovi generirani iz istog AI modela može biti korisna za otkrivanje slučajeva koordiniranih dezinformacija ili drugih zlonamjernih napada pokrenutih korištenjem deepfakes.
Dok bi napadači mogli pokušati sakriti svoje tragove kada prave deepfake u zlonamjerne svrhe, Facebookova umjetna inteligencija još uvijek može pokupiti elemente otiska prsta koji bi mogli omogućiti istražiteljima da utvrde podrijetlo.
Facebook uspoređuje algoritme s tehnologijom koja bi omogućila nekome da prepozna komponente automobila na temelju zvuka, čak i ako nikada prije nije čuo automobil:
Da biste bolje razumjeli hiperparametre, zamislite generativni model kao vrstu automobila, a njegove hiperparametre kao različite specifične komponente motora. Različiti automobili mogu izgledati slično, ali ispod haube mogu imati vrlo različite motore s vrlo različitim komponentama. Naša tehnika obrnutog inženjeringa je nešto poput prepoznavanja komponenti automobila na temelju njegovog zvuka, čak i ako je ovo novi automobil za koji nikad prije nismo čuli.
Facebook još uvijek usavršava svoju tehnologiju za otkrivanje deepfakeova, ali kaže da će "ovaj rad dati istraživačima i praktičarima alate za bolje istraživanje incidente koordiniranih dezinformacija korištenjem deepfakeova, kao i otvaranje novih smjerova za buduća istraživanja.” Cijeli Facebookov blog o tom pitanju je dostupno na ovom linku.