Deepfake: Explozia unui fenomen video extrem de periculos

Fenomenul a fost denumit Deepfake și îngrijorează tot mai multă lume, fiindcă acum există aplicații care, ajutându-se de tehnici de machine learning le permit și celor fără cunoștințe tehnice să pună pe Internet montaje video extrem de bine realizate, scrie hotnews.ro.

Scenariul cel mai grav ține de momentul în care vor fi trucate atât video, cât și audio declarațiile unor lideri politici, ceea ce ar putea duce la conflicte diplomatice reale.

Fenomenul a pornit la final de 2017 când un utilizator cu nickname-ul Deepfakes a pus pe Reddit, pentru divertisment, video-uri în care fețele erau înlocuite foarte convingător de cele ale unor actori celebri. Este practic vorba de trucaje realizate prin montaj, dar (în unele cazuri) extrem de reușite și de convingătoare.

Au apărut aplicații prin care poți face asta destul de ușor și s-au înmulțit clipurile, printre actrițele ale caror fețe au fost puse în secvențe porno numărându-se Ariana Grande, Selena Gomez, Jessica Chastain, Emma Watson sau Natalie Portman.

Nu au fost însă doar secvențe porno. Viral a devenit și video-ul în care cancelarul Angela Merkel se transformă în Donald Trump sau cele în care apar deepfake-uri cu Nicholas Cage. 

O aplicație lansată acum o lună a fost descărcată de peste 100.000 de ori și, dacă ai cât mai multe poze și filmulețe cu persoana a cărei față vrei să o înserezi într-un clip, algoritmii de machine-learning pot suprapune fața peste cea unei persoane dintr-un clip ales.

Care este rezultatul? În multe cazuri se vede foarte clar că este vorba de un fals, insa in altele rezultatele sunt foarte bune si ne putem imagina ca cei cu resurse vor lucra pentru a crea falsuri aproape fara cusur.

The Outline relateaza scenariul cel mai pesimist: un fals extrem de bine facut poate duce la conflicte sau poate duce la panica in randul populatiei, exemplul prezumtiv fiind un clip cu Donald Trump care declara ca a lansat un atac impotriva Coreei de Nord.

Cum astfel de video-uri se înmulțesc, apar discuții despre cum să fie tratate aceste clipuri trucate. Unele site-uri au eliminat din ele, altele spun că trebuie să vină o plângere de la cei afectați, iar altele încă nu știu cum să trateze subiectul.

Nici legea nu este clară în majoritatea țărilor, prevederiile variind enorm. Chiar dacă actorii au, spre exemplu în SUA, dreptul de a-i da în judecată pentru defaimare pe cei care le-au pus fețele în acele clipuri, raspândirea unui clip pe Internet este aproape imposibil de împiedicat.

Întrebarea care se pune este dacă se va ajunge într-un punct în care montajele sunt atât de bine făcute încât nu îți vei mai putea da seama că este un fals. Mulți sunt sceptici sși dau ca exemplu industria filmului care lucrează cu efecte speciale de zeci de ani și nu a atins perfecțiunea.

Cert este că în viitor trebuie acordată mult mai mare atenție acestor farse video-audio pentru ca numărul lor, dar mai ales complexitatea lor va crește.