O imagine convingătoare a unui eveniment care nu s-a întâmplat niciodată poate fi produsă acum în câteva secunde, o voce familiară poate fi clonată din câteva cuvinte, iar o figură publică poate fi făcută să „spună” lucruri pe care nu le-a spus niciodată. Pe măsură ce instrumentele care generează conținut sintetic depășesc capacitatea noastră de a le recunoaște rezultatele, cum mai putem spune ce este adevărat?
Acest deep-dive cartografiază întregul spectru al manipulării vizuale, de la „cheapfakes” vechi de un secol — subtitrări înșelătoare și fotografii falsificate — până la deepfake-uri construite cu modele de difuzie. Articolul arată de ce recunoașterea conținutului sintetic doar prin inspecție vizuală devine tot mai dificilă și de ce acest lucru face competențele de alfabetizare digitală și mai importante.
Pornind de la cercetare și de la Cadrul european al competențelor digitale, sunt conturate patru linii de apărare: gândirea critică, verificarea, detectarea tehnică și proveniența, precum și reglementarea. Cetățenii au nevoie de o combinație de competențe, de la recunoașterea conținutului sintetic la gândirea critică și la tehnici concrete de verificare. Iar reducerea impactului dezinformării bazate pe imagini presupune o combinație de măsuri, având în centrul ei un cetățean încrezător și critic.
Cuvinte-cheie
#deepfakes, #conținut sintetic, #alfabetizare mediatică, #gândire critică, #cheapfakes, #manipulare
Când a vedea nu mai înseamnă a crede
Când linia dintre realitate și ficțiune se estompează, cum mai poți spune ce este adevărat? Până în urmă cu un deceniu, puțini dintre noi își puneau această întrebare despre o fotografie, o înregistrare vocală sau un videoclip. Astăzi, instrumentele care produc astfel de conținut se îmbunătățesc mai rapid decât capacitatea noastră colectivă de a le recunoaște rezultatele, iar acest decalaj are consecințe asupra democrației, a locului de muncă și a competențelor de care Europa va avea nevoie în anii următori.
În centrul acestei schimbări se află o familie de tehnologii grupate sub eticheta de conținut sintetic: imagini, materiale audio și video generate sau modificate substanțial de inteligența artificială. Conținutul sintetic nu este dăunător în sine — el alimentează creativitatea autentică și este deja consacrat în film, animație și publicitate. Un deepfake, prin contrast, este conținut sintetic cu intenție înșelătoare: material conceput astfel încât să treacă drept real.
Deepfake-urile sunt însă doar cel mai nou capitol dintr-o poveste mult mai veche. Fotografiile falsificate și legendele înșelătoare există de peste un secol. Aceste „cheapfakes” mai simple (Paris și Donovan 2019) rămân mult mai frecvente și adesea mai dăunătoare decât variantele sofisticate bazate pe IA. Înțelegerea acestui spectru — de la un titlu înșelător la un material video complet sintetizat — este primul pas în consolidarea rezilienței.
Detectarea manipulării vizuale a devenit o sarcină pentru publicul larg, nu doar pentru specialiști. Indiferent dacă sunteți elev, profesor, funcționar public sau pur și simplu cineva care parcurge un flux de știri, capacitatea de a întreba „ar putea fi real acest lucru și cum pot să verific?” devine o competență digitală de bază (DigComp 3.0).
Deepfake-urile sunt noi, manipularea vizuală nu
Manipularea vizuală este aproape la fel de veche ca fotografia. Pentru a surprinde evoluția tehnicilor — de la cele mai simple la cele mai avansate — cercetătorii Britt Paris și Joan Donovan au propus reprezentarea lor ca un spectru. La un capăt stau „cheapfakes” — manipulări care necesită puțină tehnologie sau deloc. La celălalt, deepfake-urile: conținut care necesită expertiză și resurse tehnice reale, în principal instrumente de învățare automată.
Figura 1. Spectrul cheapfake–deepfake. Tehnici de manipulare vizuală ordonate de la cele mai puțin la cele mai exigente din punct de vedere tehnic. Adaptare după Paris și Donovan (2019).
Recontextualizarea este cea mai simplă formă de manipulare: asocierea unei imagini autentice, nealterate, cu o descriere înșelătoare. Prima fotografie falsă datează din 1840, când fotograful francez Hippolyte Bayard a pus în scenă un autoportret în care se dădea drept un cadavru înecat (Brugioni 1999). Tehnica nu este mai puțin puternică astăzi: în 2022, fotografia unui bărbat și a unei femei cu sânge fals pe față a circulat pe rețelele sociale drept presupusă dovadă că războiul din Ucraina ar fi fost înscenat cu „actori de criză”. În realitate, imaginea nu avea legătură cu războiul — fusese realizată în 2020, pe platoul unui serial de televiziune ucrainean, și a fost demontată de BBC, AFP și Reuters (Sardarizadeh și Robinson 2022).
Un nivel mai sus se află manipularea conținutului, în care imaginea însăși este modificată astfel încât schimbarea să pară firească: editarea textului de pe panouri, decuparea și recadrarea, estomparea sau ștergerea unor detalii. Aceste tehnici au precedat cu mult instrumentele digitale — în fotografia analogică, aceleași efecte se obțineau prin aerografiere, retușare și dublă expunere. Regimurile totalitare le-au folosit sistematic pentru propagandă: URSS ștergea persoanele căzute în dizgrație din fotografiile oficiale (Brugioni 1999). Într-o imagine celebră, Nikolai Ejov, oficial al poliției secrete, a fost eliminat dintr-o fotografie în care mergea alături de Stalin.
Figura 2. Nikolai Ejov alături de Stalin, pe canalul Moscova–Volga (stânga). Ejov va fi ulterior eliminat din imagine (dreapta). Fotografie din 1937. Autor necunoscut. Domeniu public. Sursa: Wikimedia Commons.
Oricât de rudimentare, metodele low-tech pot imita chiar și deepfake-urile. Un chip poate fi modificat manual, cadru cu cadru, iar un videoclip poate induce în eroare doar prin încetinire, accelerare sau tăiere selectivă. Rezultatele sunt de obicei grosiere, dar sunt ieftine, rapide și eficiente.
Falsurile ieftine au dominat istoric și continuau să reprezinte cea mai mare parte a dezinformării bazate pe imagini până în noiembrie 2023 (Dufour et al. 2024). Imaginile generate de IA au crescut brusc din 2023, dar în dezinformarea politică predomină în continuare falsurile ieftine. Situația este diferită într-o zonă îngrijorătoare: abuzul sexual bazat pe imagini, care vizează covârșitor femeile, unde atât materialele generate de IA, cât și cele „ieftine” sunt larg răspândite și profund dăunătoare (Ajder et al. 2019).
Cum se fac deepfake-urile și de ce detectarea este dificilă
Deepfake-urile se află la capătul sofisticat al spectrului. Ele sunt create cu modele de învățare automată, dintre care cele mai frecvente sunt autoencoderele variaționale (VAE), rețelele adversariale generative (GAN) și modelele de difuzie. În ultimii ani, modelele de difuzie le-au depășit pe primele două (Pei et al. 2026), alături de generarea autoregresivă.
Simplificând: un model de difuzie învață adăugând „zgomot” aleatoriu imaginilor de antrenament până când acestea se dizolvă, apoi învățând să inverseze procesul. Pentru a crea ceva nou, pornește de la zgomot pur și îl transformă treptat într-o imagine coerentă. Un model autoregresiv funcționează diferit: construiește imaginea ca o secvență de fragmente sau „tokenuri”, prezicând fiecare element pe baza celor deja plasate — aceeași logică prin care un model lingvistic de mari dimensiuni (LLM) prezice următorul cuvânt dintr-o propoziție.
Cercetătorii identifică patru direcții principale, fiecare manipulând chipul altfel. Schimbarea de chip înlocuiește fața unei persoane cu a alteia. Reconstituirea facială transferă expresiile, mișcările capului și pozițiile unei persoane-sursă pe un chip-țintă. Generarea de fețe vorbitoare (talking-face) animă un chip astfel încât mișcările gurii să se potrivească cu o înregistrare audio — tehnica din spatele discursurilor sincronizate convingător. Editarea atributelor faciale modifică trăsături punctuale: expresia, vârsta sau tonul pielii.
Această varietate explică de ce cercetarea privind detectarea ajunge la concluzii atât de diferite. Rezultatele pesimiste sunt izbitoare: într-un studiu, oamenii au identificat corect fețele generate de IA în doar 48 % din cazuri — practic aruncarea unei monede (Nightingale și Farid 2022). Alte cercetări au arătat că oamenii tind deopotrivă să judece falsurile drept autentice și să fie prea încrezători în propria judecată, o combinație care îi face ușor de păcălit. Studiile optimiste arată că acuratețea poate ajunge la circa 86 % în condiții favorabile (Groh et al. 2022). O concluzie rămâne însă constantă: pe măsură ce modelele se îmbunătățesc, detectarea bazată pe conținut devine tot mai dificilă. Tocmai de aceea gândirea contextuală, critică și laterală contează mai mult ca oricând.
Apărarea umană: gândirea critică
Identificarea manipulării vizuale nu este o competență izolată, ci parte a alfabetizării digitale. Cadrul european al competențelor digitale o integrează în evaluarea informațiilor online (DigComp 3.0). Competențele relevante se grupează în patru direcții: recunoașterea conținutului sintetic, recunoașterea manipulării și a intenției, competențe concrete de verificare și consolidarea rezilienței celorlalți.
Tabelul 1. Aptitudini și competențe legate de detectarea manipulării vizuale, adaptare realizată de autor. Sursa: DigComp 3.0, Cadrul european al competențelor digitale, ediția a cincea, Cosgrove, J., Cachia, R., Centrul Comun de Cercetare, Comisia Europeană, 2025.
Patru tipuri de intervenții se disting ca fiind eficace. Inocularea expune cetățenii la doze slabe de tehnici de manipulare, pentru a construi rezistență psihologică. Intervențiile de învățare activă dezvoltă gândirea critică. Lectura laterală, inspirată din practicile de verificare a faptelor, antrenează comportamente specifice precum verificarea încrucișată. Intervențiile bazate pe sfaturi oferă liste de verificare și scurtături de inspecție. Toate converg spre același obiectiv: trecerea utilizatorului de la acceptare pasivă la examinare activă și critică.
Când se predă despre manipularea vizuală, concretul bate întotdeauna abstractul. Un studiu a constatat că simplele descrieri — textuale sau vizuale — ale celor mai frecvente tipuri de erori din imaginile deepfake au fost suficiente pentru a îmbunătăți detectarea. Inscripții ilogice, îmbrăcăminte sau clădiri nerealiste, implauzibilități anatomice, artefacte stilistice: sunt indicii pe care cetățenii pot fi instruiți să le caute.
Pe măsură ce modelele de difuzie se perfecționează, inspecția vizuală nu mai este însă suficientă. Căutarea inversă a imaginilor și instrumentele criminalistice rămân printre cele mai folosite strategii ale verificatorilor profesioniști. În cazul deepfake-urilor, faptul că nu se găsește nicio sursă originală este el însuși un indiciu că imaginea ar putea fi generată artificial.
Reflecția asupra intenției — există o agendă? se potrivește narațiunea cu ceea ce știu despre acea persoană? — încurajează evaluarea critică. Persoanele cu scoruri ridicate la gândire critică detectează mai bine manipularea (Orhan 2023), iar aceste intervenții sunt mai promițătoare pe termen lung decât predarea tehnicilor de inspecție vizuală, ale căror efecte se diminuează mai repede.
Detectarea, proveniența și răspunsul UE
Detectarea automată se bazează pe aceleași modele de învățare automată care fac posibilă crearea conținutului sintetic: ele pot fi antrenate să identifice inconsecvențe sau „amprentele digitale” specifice unui anumit generator. Un obstacol major rămâne absența unui criteriu de referință unificat pentru evaluarea metodelor de detectare.
O cale alternativă este încorporarea filigranelor direct în rețelele de sinteză. O abordare mai robustă înregistrează originea materialului prin registre distribuite și rețele blockchain, ceea ce face falsificarea aproape imposibilă (Mirsky și Lee 2022). O altă formă de protecție este utilizarea defensivă a învățării automate adversariale: adăugarea unor perturbații imperceptibile în imaginile unei persoane, astfel încât programele care colectează imagini de pe internet să nu le poată folosi pentru antrenarea unui model.
În UE, mai multe reglementări acoperă crearea și difuzarea conținutului sintetic. Regulamentul privind IA se ocupă de etichetare în momentul creării, Regulamentul privind serviciile digitale (DSA) de riscuri și de eliminarea conținutului la nivel de platformă, iar Codul de bune practici privind dezinformarea operaționalizează angajamentele platformelor și inițiativele de alfabetizare mediatică.
Regulamentul privind IA acționează pe două niveluri: furnizorii de sisteme trebuie să se asigure că rezultatele sunt marcate într-un format care poate fi citit automat și sunt detectabile ca generate artificial, iar utilizatorii profesioniști — editori, producători de conținut — trebuie să dezvăluie când IA a fost folosită pentru a crea conținut sintetic realist. Aceste obligații intră în vigoare la 2 august 2026.
DSA vizează responsabilitățile platformelor unde conținutul este diseminat: conținutul sintetic legal trebuie etichetat, iar cel ilegal — precum deepfake-urile sexuale neconsensuale — trebuie eliminat. Platformele trebuie de asemenea să evalueze și să atenueze riscurile sistemice legate de dezinformare, să coopereze cu verificatorii de fapte și cu cercetătorii și să pună la dispoziție date pentru îmbunătățirea instrumentelor de detectare.
O agendă de competențe pentru o Europă rezilientă
Capacitatea de a identifica conținut sintetic este o competență care se învață, nu un talent înnăscut. Niciuna dintre apărările descrise mai sus nu este suficientă singură — ele sunt complementare. Provocarea este livrarea: integrarea acestor competențe în programa școlară, în educația adulților și în dezvoltarea profesională continuă.
Gândirea critică și inocularea construiesc capacitatea de evaluare și judecata reflexivă, fundamentul rezistenței durabile. Lectura laterală și tehnicile de verificare insuflă obiceiul corelării surselor. Practica aplicată produce rezultate concrete, dar trebuie reîmprospătată, pentru că efectele se diminuează în timp.
Cele mai bune rezultate vin din asocierea raționamentului uman cu măsurile tehnice și de reglementare: oamenii și instrumentele de detectare urmăresc indicii diferite, astfel încât combinarea lor funcționează mai bine decât fiecare separat. Consolidarea rezilienței trebuie să ajungă și la cei mai expuși: daunele conținutului sintetic sunt distribuite inegal, afectând cel mai mult femeile vizate de abuzuri sexuale bazate pe imagini.
Pe măsură ce obligațiile de transparență din Regulamentul privind IA intră în vigoare în 2026, iar DSA și Codul de bune practici trec de la angajament la aplicare, Europa își construiește eșafodajul tehnic și de reglementare pentru un spațiu informațional mai sănătos. Dar etichetele, filigranele și trasabilitatea funcționează doar pentru un public capabil să le interpreteze și dispus să pună întrebările potrivite. Acesta este, în cele din urmă, elementul central: un cetățean încrezător și critic, mai greu de înșelat și mai bine echipat să distingă adevărul de fals.
Consultați lucrarea completă în format PDF, împreună cu referințele sale.
Despre autoare
Irina Paraschivoiu este cercetătoare și antreprenoare, activând la intersecția dintre realitatea extinsă (XR), educația mediatică și interacțiunea om-calculator. În ultimul deceniu a proiectat și coordonat proiecte interdisciplinare de cercetare-dezvoltare care îmbină tehnologia, media și societatea. În calitate de Chief Operations Officer la Polycular, coordonează dezvoltarea de instrumente de învățare imersive, între care Escape Fake — un joc de realitate augmentată premiat, care consolidează rezistența la dezinformare și a ajuns la peste 130.000 de utilizatori în șapte limbi. Activitatea sa a fost recunoscută prin Premiul european pentru competențe digitale și prin premiul Ars Electronica x Culttech. Finalizează un doctorat în interacțiunea om-calculator și a publicat lucrări academice despre alfabetizare mediatică și digitală, realitate augmentată și implicare civică.
Sursă: conținut european preluat și tradus de pe Digital Skills and Jobs Platform.
