A determina dacă un videoclip a fost realizat cu o aplicație gen Sora de la OpenAI este dificil, dar există câteva indicii vizuale, scriu jurnnaliștii de la CNET.
Videoclipurile generate de inteligența artificială sunt peste tot — de la deepfake-uri cu celebrități și transmisiuni false despre dezastre, până la clipuri virale cu iepurași pe trambulină. Sora, generatorul video bazat pe AI creat de compania-mamă a ChatGPT, OpenAI, a făcut și mai dificilă diferențierea dintre adevăr și ficțiune. Iar modelul Sora 2, o aplicație nouă de social media, devine tot mai sofisticat pe zi ce trece.
În ultimele luni, aplicația asemănătoare cu TikTok a devenit virală. Dar Sora nu este o platformă de social media obișnuită. Tot ceea ce vezi pe Sora este fals, iar toate videoclipurile sunt generate de inteligența artificială.
Din punct de vedere tehnic, videoclipurile realizate cu Sora sunt impresionante în comparație cu cele ale concurenților, precum Midjourney V1 sau Google Veo 3. Au o rezoluție ridicată, sunet sincronizat și o creativitate surprinzătoare. Cea mai populară funcție a lui Sora, numită „cameo”, îți permite să folosești chipul altor persoane și să-l inserezi aproape în orice scenă generată de AI. Este un instrument impresionant, care produce videoclipuri înspăimântător de realiste.
De aceea, atât de mulți experți sunt îngrijorați în privința lui Sora. Aplicația facilitează crearea de deepfake-uri periculoase, răspândirea dezinformării și estomparea graniței dintre real și fals. Persoanele publice și celebritățile sunt deosebit de vulnerabile în fața acestor deepfake-uri, iar sindicate precum SAG-AFTRA au cerut companiei OpenAI să întărească măsurile de protecție.
Identificarea conținutului generat de inteligența artificială este o provocare continuă pentru companiile de tehnologie, platformele de social media și pentru toți ceilalți. Dar nu este o misiune complet imposibilă. Iată câteva lucruri la care să fii atent pentru a determina dacă un videoclip a fost realizat cu Sora.
Caută filigranul Sora
Fiecare videoclip realizat în aplicația Sora pentru iOS include un filigran atunci când este descărcat. Este vorba despre logoul alb Sora — o pictogramă în formă de nor — care se mișcă pe marginile videoclipului. Este similar cu modul în care videoclipurile de pe TikTok sunt marcate cu filigran.
Marcarea conținutului cu filigran este una dintre cele mai importante metode prin care companiile de AI ne pot ajuta vizual să recunoaștem conținutul generat artificial. De exemplu, modelul „nano banana” al Google Gemini aplică automat filigrane imaginilor sale. Filigranele sunt utile deoarece oferă un semn clar că materialul a fost creat cu ajutorul inteligenței artificiale.
Dar filigranele nu sunt perfecte. În primul rând, dacă filigranul este static (nu se mișcă), poate fi ușor decupat. Chiar și în cazul filigranelor dinamice, precum cel al Sora, există aplicații create special pentru a le elimina, așa că filigranele, de unele singure, nu pot fi considerate complet sigure.
Când CEO-ul OpenAI, Sam Altman, a fost întrebat despre acest lucru, el a spus că societatea va trebui să se adapteze la o lume în care oricine poate crea videoclipuri false cu oricine. Desigur, înainte de apariția Sora de la OpenAI, nu exista o metodă populară, ușor accesibilă și care să nu necesite abilități speciale pentru a face astfel de videoclipuri. Totuși, argumentul său ridică un punct valid privind nevoia de a ne baza pe alte metode pentru verificarea autenticității.
Verifică metadatele
Probabil te gândești că nu ai de gând să verifici metadatele unui videoclip ca să afli dacă este real. Înțeleg perfect — e un pas în plus și poate că nici nu știi de unde să începi. Totuși, este o metodă excelentă de a determina dacă un videoclip a fost realizat cu Sora, și este mai simplu de făcut decât crezi.
Metadatele sunt un set de informații atașate automat unui conținut atunci când este creat. Ele îți oferă detalii suplimentare despre modul în care a fost realizată o imagine sau un videoclip. Pot include tipul de cameră folosit pentru a face o fotografie, locația, data și ora la care a fost filmat videoclipul, precum și numele fișierului. Fiecare fotografie și fiecare videoclip conțin metadate, indiferent dacă au fost create de oameni sau de inteligență artificială. În plus, multe materiale generate de AI includ și „credite de conținut” (content credentials) care indică originea lor artificială.
OpenAI face parte din Coaliția pentru Proveniența și Autenticitatea Conținutului (C2PA), ceea ce înseamnă că videoclipurile Sora includ metadate C2PA. Poți folosi instrumentul de verificare al Inițiativei pentru Autenticitatea Conținutului (Content Authenticity Initiative) pentru a verifica metadatele unui videoclip, ale unei imagini sau ale unui document. Iată cum.
Cum să verifici metadatele unei fotografii, ale unui videoclip sau ale unui document:
- Accesează acest link: https://verify.contentauthenticity.org/
- Încarcă fișierul pe care vrei să-l verifici.
- Apasă Open.
- Verifică informațiile din panoul din dreapta. Dacă fișierul este generat de inteligența artificială, acest lucru ar trebui menționat în secțiunea content summary (rezumatul conținutului).
Când rulezi un videoclip realizat cu Sora prin acest instrument, va apărea mențiunea că videoclipul a fost „emis de OpenAI” și va fi specificat faptul că este generat de AI. Toate videoclipurile create cu Sora ar trebui să conțină aceste „credite de conținut”, care îți permit să confirmi originea lor.
Totuși, acest instrument — ca toate detectoarele de conținut AI — nu este perfect. Există multe moduri prin care videoclipurile generate de AI pot evita detectarea. Dacă ai alte videoclipuri care nu sunt realizate cu Sora, este posibil ca acestea să nu conțină semnalele necesare în metadate pentru ca instrumentul să determine dacă au fost sau nu create cu AI.
De exemplu, videoclipurile generate cu Midjourney nu sunt semnalate ca fiind AI, după cum am confirmat în propriile teste. Chiar și dacă un videoclip a fost creat cu Sora, dar ulterior a fost procesat printr-o aplicație terță (cum ar fi una de eliminare a filigranelor) și apoi descărcat din nou, este mult mai puțin probabil ca instrumentul să-l recunoască drept generat de AI.
Caută alte etichete AI și adaugă-le și tu
Dacă folosești una dintre platformele de social media ale Meta, cum ar fi Instagram sau Facebook, este posibil să primești puțin ajutor în a determina dacă un conținut este generat de inteligența artificială. Meta are sisteme interne care pot semnala și eticheta conținutul creat cu AI. Aceste sisteme nu sunt perfecte, dar poți vedea clar eticheta pe postările care au fost marcate. TikTok și YouTube au politici similare privind etichetarea conținutului generat de AI.
Singura modalitate cu adevărat sigură de a ști dacă un conținut este generat de AI este ca autorul să dezvăluie acest lucru. Multe platforme de social media oferă acum opțiuni care permit utilizatorilor să își marcheze postările ca fiind realizate cu ajutorul inteligenței artificiale. Chiar și o simplă mențiune sau un credit în descriere pot fi de mare ajutor pentru ca publicul să înțeleagă cum a fost creat conținutul.
Știi că, atunci când derulezi pe Sora, nimic nu este real. Dar odată ce părăsești aplicația și distribui videoclipuri generate de AI, devine responsabilitatea noastră colectivă să precizăm cum a fost creat acel material. Pe măsură ce modele de inteligență artificială precum Sora continuă să estompeze granița dintre realitate și artificial, depinde de noi toți să facem cât mai clar posibil când ceva este real și când este generat de AI.
Cel mai important: rămâi vigilent
Nu există o metodă infailibilă care să îți permită, dintr-o singură privire, să distingi cu exactitate dacă un videoclip este real sau creat de AI. Cel mai bun lucru pe care îl poți face pentru a nu fi înșelat este să nu crezi automat, fără să te întrebi, tot ce vezi online. Urmează-ți instinctul — dacă ceva pare ireal, probabil chiar este.
În aceste vremuri fără precedent, pline de „conținut diluat” de AI, cea mai bună apărare este să privești videoclipurile cu mai multă atenție. Nu te mulțumi să arunci o privire rapidă și să derulezi mai departe fără să gândești. Caută texte deformate, obiecte care dispar sau mișcări care sfidează legile fizicii. Și nu te învinovăți dacă ești păcălit uneori — chiar și experții mai greșesc.
Articolul original poate fi citit AICI.
