- Količina deepfake sadržaja razvojem AI tehnologije porasla je za 900%.
- Iako postaje sve uvjerljiviji, postoje alati i znakovi za njegovo prepoznavanje.
- AI i dalje griješi u detaljima poput treptanja, pokreta usana i sličnih mimika.
Nekada je vrijedilo zlatno pravilo: „Ne vjerujem dok ne vidim vlastitim očima“. Danas, u eri nezaustavljivog razvoja umjetne inteligencije, ni vlastite oči više nisu jamstvo da je nešto stvarno. Deepfake tehnologija napreduje brže nego sposobnost prosječnog čovjeka da je prepozna, zbog čega se svakodnevno suočavamo s istim, pomalo zastrašujućim pitanjem: možeš li uopće razlikovati stvarnost od digitalne laži?
U nastavku objašnjavamo što je deepfake, koje vrste postoje i – najvažnije – kako ga prepoznati. Pa, krenimo!
Što je deepfake?
Deepfake pojam dolazi od engleskih riječi: deep learning, što označava duboko učenje i fake, odnosno lažno.
Prema Deepfakes Accountability Actu, deepfake je bilo koja video, filmsku ili audio snimka, elektronička slika ili fotografija, ili bilo koji tehnološki prikaz govora ili ponašanja koji je u bitnoj mjeri izveden iz navedenoga, a koji:
- izgleda kao da vjerodostojno prikazuje govor ili ponašanje osobe koja u stvarnosti nije izgovorila takav govor niti se tako ponašala; i
- čija je izrada u bitnoj mjeri ovisila o tehničkim sredstvima, a ne o sposobnosti druge osobe da fizički ili glasovno oponaša tu osobu.
Riječ je o digitalnom sadržaju u kojem se pomoću umjetne inteligencije mijenja ili u potpunosti stvara nečiji izgled, glas ili ponašanje. Osoba može izgledati kao da nešto govori ili radi, iako se to u stvarnosti nikada nije dogodilo.
Međutim, u moru novih tehnoloških alata, tanka je granica između manipulacije stvarnošću i obične digitalne kreacije.
Deepfake vs. AI generirano: u čemu je razlika?
Umjetno generirani sadržaj je širi pojam od deepfakea i on uključuje sve što je stvorila umjetna inteligencija. To mogu biti slike, tekstovi, videa, glazba i slično.
Znamo da djeluje zbunjujuće, ali dopusti da ti objasnimo.
Umjetno generirani sadržaj označava sve ono što je stvorila umjetna inteligencija – od tekstova na ChatGPT-ju, preko digitalnih ilustracija u Midjourneyju, pa sve do AI generirane glazbe. Na primjer, ako AI-ju zadaš da nacrta “mačku koja vozi bicikl na Marsu”, to je umjetno generirani sadržaj. Nitko nije prevaren, jer stvarna mačka na Marsu ne postoji.
S druge strane, deepfake je vrlo specifična, napredna podvrsta AI sadržaja. Njegov glavni cilj je imitirati stvarnu (postojeću) osobu, njezino lice, prepoznatljiv glas ili jedinstveno ponašanje. Da bi stvorio/la deepfake, sustav mora “progutati” i analizirati tisuće stvarnih fotografija, videa i glasovnih poruka te osobe kako bi je naučio savršeno kopirati. Cilj mu je uvjeriti te da gledaš ili slušaš stvarnu osobu.
Vrste deepfake sadržaja
Prema formatu, deepfake sadržaj možemo podijeliti na:
- fotografije
- videozapise
- audio snimke
Deepfake fotografija
Na deepfake fotografijama prikazuju se stvarne osobe, ali u lažnim situacijama.
Jedan od najpoznatijih primjera je fotografija Pape Franje u ogromnoj, modernoj bijeloj “pufer” jakni. Ta je slika brzinom svjetlosti postala viralna, a milijuni ljudi diljem svijeta nasjeli su na nju jer je izgledala nevjerojatno realistično.
Deepfake tehnologija danas je postala toliko dobro razvijena da je ponekad teško uopće primijetiti da se radi o lažnoj fotografiji. Prema istraživanju tvrtke iProov, samo 2 od 2.000 ljudi prepoznaje deepfake.
Ako nisi, ne brini. Postoje razne načini kako prepoznati deepfake fotografiju.
Kako prepoznati deepfake fotografiju golim okom?
Da bi prepoznao/la deepfake fotografiju obrati pozornost na:
- teksturu kože – koža je najčešće neprirodno zaglađena, bez nesavršenosti
- anatomiju tijela – AI najčešće ima problema s vjerodostojnim prikazivanjem prstiju i zapešća
- sjene i svjetlost – kod deepfake fotografija, sjene često nađu na krivoj strani
- modne dodatke – naočale, nakit i drugi modni dodaci često “zbune” AI, čak i ako ih prikaže vjerodostojno postoji mogućnost da će pozadina iza njih biti zamagljena
U slučaju da i dalje nisi siguran/a je li riječ o deepfake fotografiji, upotrijebi alate za prepoznavanje.
Kako otkriti deepfake fotografiju uz pomoć alata?
Jedan od najjednostavnijih i najbržih načina za provjeru sumnjive slike je Google objektiv (Google Lens) – alat koji vjerojatno već imaš na svom pametnom telefonu i koristiš ga za pretraživanje po fotografijama.
Sve što trebaš napraviti je:
- otvoriti Google tražilicu na mobitelu ili računalu
- kliknuti na ikonu fotoaparata (Google Lens) unutar trake za pretraživanje i učitati sumnjivu fotografiju
- nakon što Google pretraži vizualne podudarnosti, u traku za pretraživanje dopisati pitanje: “Je li ova slika stvarna?“
Zahvaljujući integraciji umjetne inteligencije, Google će pročešljati internet, pronaći izvorne članke o toj fotografiji i na vrhu rezultata ti jasno ispisati je li riječ o autentičnoj snimci ili AI generiranom “lažnjaku”.
Deepfake videozapis
Baš kao i fotografija, deepfake videozapis služi za vjerno oponašanje stvarne osobe. Pritom se koristi više različitih tehnologija, a jedne od najčešćih su:
- face swap, odnosno zamjena lica
- voice cloning, takozvano kloniranje glasa
Face swap je najčešći oblik video manipulacije u kojem se lice jedne osobe računalno “zalijepi” na tijelo druge osobe u postojećem videu. AI precizno prepoznaje crte lica i mimiku originalnog glumca te ih zamjenjuje licem mete. Primjerice, neke slavne osobe ili političara.
Uz face swap, najčešće se koristi i voice cloning. Umjetna inteligencija analizira sate nečijeg govora i u potpunosti reproducira taj glas kako bi izgovorio rečenice koje stvarna osoba nikada nije izustila.
Kako prepoznati deepfake videozapis golim okom?
Deepfake videozapis možeš prepoznati ako obratiš pažnju na:
- neprirodno treptanje – AI često griješi u učestalosti treptanja. Osoba trepće previše, premalo ili uopće ne trepće
- smjer pogleda – konstantno fiksiran prazan pogled
- pokrete usana – riječi i pokreti usana često nisu potpuno sinkronizirani
- rubove lica – moguća lagana zamućenja
- modne dodatke – naočale ili naušnice često mogu naglo promijeniti oblik pri okretanju glave
- robotski glas – glas može zvučati monotono, bez prirodnih uzdaha, stanki i emocija koje prate tekst
Kako otkriti deepfake videozapis alatom?
Deepfake video možeš otkriti putem brojnih alata, a jedan od njih je Deepware Scaner.
Postupak je vrlo jednostavan: posjeti stranicu Deepware, u njihovu tražilicu zalijepi poveznicu sumnjivog videozapisa i klikni na skeniranje. Skener će u nekoliko sekundi analizirati video i grafički ti prikazati kolika je vjerojatnost da je sadržaj generirala umjetna inteligencija.
Deepfake audio
Deepfake audio je zvučna snimka koja je pomoću umjetne inteligencije izmijenjena ili u potpunosti generirana tako da zvuči kao stvarna osoba. Najčešće se stvara prethodno spomenutom tehnikom kloniranja glasa, pri čemu AI analizira postojeće snimke nečijeg glasa te zatim generira novi govor koji oponaša ton, naglasak, ritam i druge karakteristike.
Ovo je posebice opasno jer deepfake audio može stvoriti dojam da je određena osoba dala izjavu, uputila zahtjev ili sudjelovala u razgovoru, iako se to nikada nije dogodilo.
Glas je zvučao vrlo uvjerljivo i oponašao je naglasak, način govora i intonaciju stvarnog direktora. Lažni direktor je tvrdio da tvrtka priprema strogo povjerljivu akviziciju i zatražio hitno izvršenje određenih financijskih transakcija. Srećom, zaposlenik je postao sumnjičav zbog neobičnog kanala komunikacije. Odlučio je testirati pozivatelja i postavio mu pitanje koje je mogao znati samo stvarni direktor: „Koji je naslov knjige koju si mi preporučio prije par dana?”
Pozivatelj s druge strane linije nije znao odgovor i odmah je prekinuo poziv. Zahvaljujući ovoj jednostavnoj provjeri identiteta, Ferrari je izbjegao golemu financijsku štetu.
Kako samostalno prepoznati deepfake audio?
Deepfake audio prepoznat ćeš ako obratiš pozornost na:
- ravan i jednoličan ton – AI glas može zvučati previše savršeno, ravno i bez emocionalnih uspona i padova
- nedostatak daha – ljudi moraju udahnuti zrak tijekom govora. AI često generira duge, komplicirane rečenice bez ijednog zvuka udisaja ili izdisaja
- naglasak i intonaciju
- neprirodnu sterilnu pozadinsku tišinu
Kako otkriti deepfake audio uz pomoć alata?
Ako sumnjaš u vjerodostojnost neke glasovne poruke ili audiozapisa, možeš koristiti specijalizirane platforme poput Deepfake Detection alata.
Sve što trebaš učiniti je učitati audio datoteku na platformu, a softver će analizirati zvučne frekvencije i otkriti digitalne tragove umjetne inteligencije.
Što napraviti ako prepoznaš deepfake sadržaj?
Tvoja reakcija u principu ovisi o tome na kakav si sadržaj naišao/la. Ako je riječ o nekoj bezazlenoj i očitoj AI fotografiji koja služi za zabavu ili humor – ne moraš napraviti ništa. Međutim, ako je riječ o zlonamjernom, eksplicitnom sadržaju koji za cilj ima ucjenu ili narušavanje nečijeg ugleda, takve stvari je potrebno prijaviti.
Najčešća meta deepfake sadržaja na internetu su javne osobe, ponajviše zato što je mreža prepuna njihovih slika i videozapisa. Prevaranti tako lako dolaze do materijala pomoću kojeg mogu trenirati i programirati umjetnu inteligenciju.
Zato ako otkriješ da se s druge strane ekrana ili telefonske žice krije umjetna inteligencija, slijedi ova tri koraka:
- prekini komunikaciju i ne uplaćuj ništa – ako je riječ o sumnjivom pozivu ili WhatsApp poruci u kojoj se traži hitan novac, odmah prekini poziv. Nemoj odgovarati na poruke i, pod nikakvim okolnostima, nemoj klikati na poveznice koje ti šalju
- provjeri informaciju alternativnim putem – ako je prevarant tvrdio da je član tvoje obitelji u nevolji, nazovi tu osobu direktno na njezin stvarni broj mobitela ili kontaktiraj nekoga tko je u tom trenutku s njom
- obavijesti nadležne institucije – ako je došlo do pokušaja financijske prevare ili krađe identiteta, slučaj prijavi policiji (odnosno Nacionalnom CERT-u koji se bavi računalnom sigurnošću u Hrvatskoj). Također, ako prevaranti koriste ime neke tvrtke , javi to njihovoj službi za korisnike
Zakonske regulative deepfake sadržaja
Europska unija je donijela prvi sveobuhvatni zakonski okvir za umjetnu inteligenciju na svijetu, poznat kao EU Akt o AI. Prema navedenom, do kraja godine svi deepfake sadržaji moraju se jasno naznačiti da su umjetno generirani ili izmijenjeni.
Jedine iznimke kada se deepfake ne mora nužno označiti na prvi pogled jesu situacije u kojima je sadržaj dio očitog umjetničkog, kreativnog, satiričnog ili parodijskog djela – ali i tada zakon nudi zaštitne mehanizme kako se ne bi povrijedila prava trećih osoba.
Prednosti i opasnosti deepfake sadržaja
Kao i svaka tehnološka revolucija, umjetna inteligencija i deepfake nije sam po sebi “dobar” ili “loš”, sve ovisi o tome tko ih i s kakvim ciljem koristi.
| Prednosti | Opasnosti |
| filmska industrija i zabavaedukacijamedicinska pomoć – primjerice osobama koje nemaju glasa | sofisticirane financijske prevarekrađa identitetaširenje dezinformacijanarušavanje ugledamoguće ucjene i iznude |
Ne možemo te zaštititi od deepfakea, ali od troškova možemo
Možda te ne možemo zaštiti od lažnog videa na feedu ili deepfake poziva, ali te zato možemo zaštititi od preplaćivanja telekomunikacijskih usluga.
Uz pomoć naših agenata, na jednom mjestu usporedi ponude svih operatera. Provjeri uvjete, iskombiniraj opcije i ugovori paket koji najbolje odgovara tvojim potrebama. Brzo, jednostavno i potpuno besplatno!
