Detectoarele alimentate de AI sunt cele mai bune instrumente pentru detectarea videoclipurilor false generate de AI. The Washington Post prin Getty Images

Un jurnalist de investigație primește un videoclip de la un denunțător anonim. Acesta arată un candidat la președinție care admite o activitate ilegală. Dar este acest videoclip real? Dacă ar fi așa, ar fi o veste uriașă - piesa vieții - și ar putea întoarce complet alegerile viitoare. Dar jurnalistul rulează videoclipul printr-un instrument specializat, care îi spune că videoclipul nu este ceea ce pare. De fapt, este un „deepfake”, Un videoclip realizat folosind inteligența artificială cu învățare profundă.

Jurnaliștii din întreaga lume ar putea folosi în curând un astfel de instrument. În câțiva ani, un astfel de instrument ar putea fi folosit chiar de toată lumea pentru a elimina conținutul fals în fluxurile lor de social media.

As cercetători care au studiat detectarea deepfake și dezvoltând un instrument pentru jurnaliști, vedem un viitor pentru aceste instrumente. Totuși, nu vor rezolva toate problemele noastre și vor fi doar o parte a arsenalului în lupta mai largă împotriva dezinformării.

Problema cu deepfakes

Majoritatea oamenilor știu că nu poți să crezi tot ceea ce vezi. În ultimele decenii, consumatorii de știri pricepuți s-au obișnuit să vadă imagini manipulate cu software de editare foto. Videoclipurile, totuși, sunt o altă poveste. Regizorii de la Hollywood pot cheltui milioane de dolari pe efecte speciale pentru a alcătui o scenă realistă. Dar folosind deepfakes, amatorii cu câteva mii de dolari de echipamente de calculator și câteva săptămâni de petrecut ar putea face ceva aproape la fel de adevărat pentru viață.

Deepfakes face posibilă plasarea oamenilor în scene de film în care nu au fost niciodată - cred că Tom Cruise joacă Iron Man - ceea ce face videoclipuri distractive. Din păcate, face posibilă și crearea pornografie fără consimțământul dintre oamenii descriși. Până în prezent, acei oameni, aproape toate femeile, sunt cele mai mari victime atunci când tehnologia deepfake este utilizată greșit.

Deepfakes poate fi, de asemenea, utilizat pentru a crea videoclipuri cu lideri politici care spun lucruri pe care nu le-au spus niciodată. Partidul Socialist Belgian a lansat un videoclip nondepfake de calitate scăzută, dar totuși fals Președintele Trump insultă Belgia, care a avut suficientă reacție pentru a arăta riscurile potențiale ale unor falsificări de calitate superioară.

{vembed Y = poSd2CyDpyA}
Hany Farid de la Universitatea din California, Berkeley, explică modul în care se fac deepfakes.

Poate cel mai înfricoșător dintre toate, pot fi folosite pentru a crea îndoială cu privire la conținutul videoclipurilor reale, sugerând că ar putea fi deepfakes.

Având în vedere aceste riscuri, ar fi extrem de valoros să puteți detecta falsurile profunde și să le etichetați clar. Acest lucru ar asigura că videoclipurile false nu păcălesc publicul și că videoclipurile reale pot fi primite ca autentice.

Vizionarea falsurilor

Detectarea Deepfake ca domeniu de cercetare a început puțin trei ani în urmă. Munca timpurie s-a concentrat pe detectarea problemelor vizibile în videoclipuri, cum ar fi deepfakes care nu clipeau. Cu timpul, însă, falsurile s-au îmbunătățit la imitarea videoclipurilor reale și devin mai greu de identificat atât pentru oameni, cât și pentru instrumentele de detectare.

Există două categorii majore de cercetare de detectare deepfake. Primul implică privind comportamentul oamenilor în videoclipuri. Să presupunem că aveți o mulțime de videoclipuri cu cineva faimos, cum ar fi președintele Obama. Inteligența artificială poate folosi acest videoclip pentru a-și învăța tiparele, de la gesturile mâinii până la pauzele sale în vorbire. Se poate atunci urmărește un fals al lui și observați unde nu se potrivește cu aceste tipare. Această abordare are avantajul că poate funcționa chiar dacă calitatea video în sine este în esență perfectă.

{vembed Y = gsv1OsCEad0}
Aaron Lawson, de la SRI International, descrie o abordare a detectării falsurilor profunde.

Alți cercetători, inclusiv echipa noastră, au fost axate pe diferenţele acea toate deepfakes au în comparație cu videoclipurile reale. Videoclipurile Deepfake sunt adesea create prin îmbinarea cadrelor generate individual pentru a forma videoclipuri. Luând în considerare acest lucru, metodele echipei noastre extrag datele esențiale de pe fețele din cadrele individuale ale unui videoclip și apoi le urmăresc prin seturi de cadre concurente. Acest lucru ne permite să detectăm neconcordanțe în fluxul de informații de la un cadru la altul. Folosim o abordare similară și pentru sistemul nostru fals de detectare audio.

Aceste detalii subtile sunt greu de văzut de oameni, dar arată cât de profunde nu sunt chiar perfect încă. Detectoare ca acestea pot funcționa pentru orice persoană, nu doar pentru câțiva lideri mondiali. În cele din urmă, este posibil să fie necesare ambele tipuri de detectoare deepfake.

Sistemele recente de detectare funcționează foarte bine la videoclipurile colectate special pentru evaluarea instrumentelor. Din păcate, chiar și cele mai bune modele o fac slab la videoclipurile găsite online. Îmbunătățirea acestor instrumente pentru a fi mai robuste și mai utile este următorul pas cheie.

Cine ar trebui să folosească detectoare deepfake?

În mod ideal, un instrument de verificare deepfake ar trebui să fie disponibil pentru toată lumea. Cu toate acestea, această tehnologie se află în stadiile incipiente ale dezvoltării. Cercetătorii trebuie să îmbunătățească instrumentele și să le protejeze împotriva hackerilor înainte de a le elibera pe scară largă.

În același timp, însă, instrumentele pentru a face deepfakes sunt disponibile pentru oricine dorește să păcălească publicul. Așezarea pe margine nu este o opțiune. Pentru echipa noastră, echilibrul potrivit a fost să lucrăm cu jurnaliștii, deoarece aceștia sunt prima linie de apărare împotriva răspândirii dezinformării.

Înainte de a publica articole, jurnaliștii trebuie să verifice informațiile. Au deja metode încercate și adevărate, cum ar fi verificarea cu surse și obținerea mai multor persoane pentru a verifica faptele cheie. Așadar, punând instrumentul în mâinile lor, le oferim mai multe informații și știm că nu se vor baza doar pe tehnologie, dat fiind că poate face greșeli.

Detectoarele pot câștiga cursa înarmărilor?

Este încurajator să vezi echipe din Facebook și Microsoft investind în tehnologie pentru a înțelege și a detecta deepfakes. Acest domeniu are nevoie de mai multe cercetări pentru a ține pasul cu viteza progreselor în tehnologia deepfake.

Jurnaliștii și platformele de socializare trebuie, de asemenea, să descopere modul cel mai bun de a avertiza oamenii despre deepfakes atunci când sunt detectați. Cercetările au arătat că oamenii își amintesc minciuna, dar nu și faptul că a fost o minciună. Va fi același lucru valabil și pentru videoclipurile false? Pur și simplu să introduceți „Deepfake” în titlu s-ar putea să nu fie suficient pentru a contracara unele tipuri de dezinformare.

Deepfakes sunt aici pentru a rămâne. Gestionarea dezinformării și protejarea publicului vor fi mai provocatoare ca niciodată, pe măsură ce inteligența artificială devine mai puternică. Facem parte dintr-o comunitate de cercetare în creștere care se confruntă cu această amenințare, în care detectarea este doar primul pas.

Despre Autori

John Sohrawardi, doctorand în științe informatice și informaționale, Institutul de Tehnologie din Rochester și Matthew Wright, profesor de securitate informatică, Institutul de Tehnologie din Rochester

Acest articol este republicat de la Conversaţie sub licență Creative Commons. Citeste ^original articol.