Predstavte si video, na ktorom známy politik oznamuje niečo, čo nikdy nepovedal. Alebo telefonát od vášho príbuzného, ktorý vás naliehavo žiada o peniaze. Vidíte známu tvár, počujete dôverne známy hlas, no napriek tomu môže ísť o podvod. Práve takéto situácie umožňuje technológia nazývaná deepfake.
Umelá inteligencia dnes dokáže vytvárať veľmi presvedčivé falošné fotografie, videá aj zvukové nahrávky. Ich kvalita sa postupne zlepšuje a rozlíšiť skutočnosť od digitálneho podvrhu môže byť náročné aj pre pozorného človeka.
Čo je deepfake v skratke?
Deepfake je obrazový alebo zvukový obsah vytvorený či upravený pomocou umelej inteligencie tak, aby presvedčivo napodobňoval skutočnú osobu alebo udalosť. Môže napríklad vytvoriť dojem, že človek povedal alebo urobil niečo, čo sa v skutočnosti nestalo.
Čo znamená slovo deepfake?
Označenie deepfake vzniklo spojením anglických výrazov deep learning (hlboké učenie) a fake (falošný alebo podvrhnutý).
Hlboké učenie je oblasť umelej inteligencie, pri ktorej sa počítačové modely učia rozpoznávať vzory a súvislosti z veľkého množstva údajov. Vďaka tomu dokážu vytvárať nový obrazový alebo zvukový obsah.
Pri deepfake sa táto schopnosť využíva najmä na napodobňovanie ľudskej podoby, mimiky, pohybov alebo hlasu. Výsledkom môže byť napríklad video, v ktorom známa osobnosť propaguje výrobok, hoci sa na jeho reklame nikdy nepodieľala.
Deepfake však nemusí byť iba video. Môže ísť aj o fotografiu alebo zvukovú nahrávku. Významným rizikom je najmä klonovanie hlasu, pri ktorom umelá inteligencia napodobňuje hlas konkrétneho človeka.
Ako deepfake vzniká a funguje?
Pri tvorbe deepfake sa využívajú modely umelej inteligencie, ktoré sa dokážu naučiť charakteristické črty človeka. Môžu analyzovať napríklad jeho fotografie, videá, spôsob rozprávania alebo mimiku.
Medzi technológie používané pri tvorbe deepfake patria generatívne adversariálne siete (GAN), difúzne modely a ďalšie generatívne systémy. GAN využívajú dva modely, z ktorých jeden vytvára syntetický obsah a druhý sa ho učí odlišovať od skutočných údajov. Takýmto spôsobom sa výsledky postupne zdokonaľujú.
Nie všetky deepfake však vznikajú pomocou GAN. Moderné nástroje využívajú rôzne postupy a dokážu vytvoriť alebo upraviť obsah viacerými spôsobmi.
Najčastejšie ide o tieto možnosti:
- Výmena tváre: Tvár jednej osoby sa digitálne nahradí tvárou iného človeka.
- Úprava mimiky a pohybov: Človek na videu môže vyzerať, akoby rozprával alebo reagoval inak než v pôvodnej nahrávke.
- Rozpohybovanie fotografie: Zo statického portrétu možno vytvoriť krátke video s pohybujúcou sa tvárou.
- Klonovanie hlasu: Umelá inteligencia napodobní charakteristické vlastnosti hlasu a umožní vytvoriť reč, ktorú daný človek nikdy nevyslovil.
Na rozdiel od bežného zostrihania videa alebo úpravy fotografie môže deepfake vytvoriť úplne nový prejav človeka. Samotné použitie umelej inteligencie však ešte automaticky neznamená, že ide o podvod.
Na čo sa deepfake používa?
Deepfake má aj legitímne využitie. Vo filmovej tvorbe môže pomôcť pri digitálnych efektoch, pri dabingu alebo pri úprave pohybu pier podľa iného jazyka. Podobné technológie sa využívajú aj pri tvorbe zábavného a vzdelávacieho obsahu.
Problém nastáva, keď je obsah vytvorený bez súhlasu dotknutej osoby alebo sa úmyselne vydáva za skutočný záznam.
Deepfake môže byť zneužitý napríklad na:
- Šírenie dezinformácií: vytvorenie falošného vyjadrenia politika, odborníka alebo inej verejne známej osoby.
- Finančné podvody: napodobnenie známej osobnosti, ktorá údajne odporúča investovanie alebo konkrétnu službu.
- Vydieranie: vytvorenie kompromitujúceho materiálu, ktorý má poškodiť obeť alebo ju prinútiť zaplatiť.
- Poškodzovanie dobrého mena: šírenie falošných fotografií, videí alebo výrokov pripisovaných konkrétnemu človeku.
- Vydávanie sa za inú osobu: napodobnenie rodinného príslušníka, nadriadeného alebo pracovníka dôveryhodnej organizácie.
Ako môže vyzerať deepfake podvod v praxi?
Falošná reklama so známou osobnosťou
Predstavte si, že na sociálnej sieti uvidíte video známeho moderátora, ktorý odporúča investičnú platformu. Hovorí o mimoriadnom zárobku a vyzýva divákov, aby sa čo najskôr zaregistrovali.
Video môže pôsobiť dôveryhodne. Moderátor má známu tvár aj hlas a jeho ústa sa pohybujú v súlade s hovoreným slovom.
V skutočnosti však môže ísť o upravenú nahrávku. Podvodníci využili podobu známeho človeka, aby získali dôveru a presvedčili ľudí k odovzdaniu osobných údajov alebo peňazí.
Telefonát od rodinného príslušníka
Zazvoní telefón a ozve sa hlas podobný vášmu synovi, dcére alebo vnukovi. Volajúci tvrdí, že mal nehodu, potrebuje okamžitú finančnú pomoc a prosí vás, aby ste o tom zatiaľ nikomu nehovorili.
Podvodník pritom môže využívať hlas vytvorený pomocou umelej inteligencie. Nahrávky hlasu skutočnej osoby mohol získať napríklad z verejne dostupných videí.
Pozor: Dôverne známy hlas už nie je spoľahlivým dôkazom totožnosti. Ak vás niekto nečakane žiada o peniaze, hovor ukončite a zavolajte mu na číslo, ktoré máte uložené a poznáte. Nespoliehajte sa na číslo, ktoré vám poskytol volajúci.
Uvedené situácie sú modelové príklady, ktoré vysvetľujú, ako môže byť deepfake zneužitý.
Ako rozpoznať deepfake video alebo fotografiu?
Niektoré falošné videá a fotografie stále obsahujú chyby, ktoré si možno všimnúť aj voľným okom. Tieto znaky však nie sú jednoznačným dôkazom, že obsah vytvorila umelá inteligencia.
1. Neprirodzené pohyby očí a tváre
Sledujte mimiku, žmurkanie a pohyby tváre. V niektorých videách môžu pôsobiť neprirodzene alebo sa výrazy tváre nemusia zhodovať s hovoreným prejavom.
Samotné žmurkanie však nie je spoľahlivý test. Kvalitné deepfake dokážu napodobniť aj prirodzené pohyby očí.
2. Nezrovnalosti v osvetlení a tieňoch
Všímajte si, či svetlo dopadá na tvár a okolité predmety rovnakým spôsobom. Podozrivé môžu byť tiene, ktoré nezodpovedajú svetelným podmienkam scény.
3. Nesúlad zvuku a pohybu pier
Ak pohyby úst nezodpovedajú vyslovovaným slovám, môže ísť o upravený záznam. Podobný problém však môže spôsobiť aj nekvalitné internetové pripojenie, nesprávna synchronizácia alebo spracovanie videa.
4. Rozmazané alebo meniace sa detaily
Pozornosť venujte okrajom tváre, vlasom, okuliarom či náušniciam. V niektorých syntetických videách sa môžu detaily počas pohybu meniť, deformovať alebo miznúť.
Rozmazanie však môže vzniknúť aj pri kompresii videa na sociálnych sieťach. Nie každá obrazová chyba znamená deepfake.
5. Neprirodzené výrazy tváre
Výraz tváre môže pôsobiť stuhnuto alebo nezodpovedať emóciám v hlase. Niekedy sa napríklad človek usmieva, hoci jeho hlas vyjadruje vážne znepokojenie.
6. Nesprávne proporcie a perspektíva
Všímajte si nezvyčajné tvary rúk, deformované predmety, nesprávne perspektívne vzťahy alebo objekty, ktorých podoba sa počas videa nelogicky mení.
Dôležité upozornenie
Moderný deepfake nemusí obsahovať žiadnu z uvedených chýb. Zároveň platí, že aj skutočné video môže byť nekvalitné, rozmazané alebo zle osvetlené. Preto nikdy nerozhodujte o pravosti videa iba podľa jeho vzhľadu.
Ako overiť podozrivé video na sociálnych sieťach?
Pri overovaní je často užitočnejšie skúmať, odkiaľ video pochádza a či jeho obsah potvrdzujú ďalšie dôveryhodné zdroje, než hľadať drobné chyby v obraze.
- Skontrolujte pôvod videa. Kto ho zverejnil? Ide o oficiálny profil osoby alebo organizácie, alebo o neznámy účet? Samotné označenie profilu ako overeného ešte nezaručuje pravdivosť príspevku.
- Vyhľadajte pôvodný záznam. Ak údajné vyjadrenie pochádza z rozhovoru, tlačovej konferencie alebo televízneho vysielania, pokúste sa nájsť jeho úplnú a pôvodnú verziu.
- Porovnajte informácie s ďalšími zdrojmi. Overte, či rovnaké vyjadrenie uvádzajú dôveryhodné médiá, oficiálne stránky alebo nezávislé organizácie zaoberajúce sa overovaním faktov.
- Skontrolujte kontext. Aj skutočné video môže byť zavádzajúce, ak je vystrihnuté zo súvislostí alebo zverejnené s nepravdivým opisom.
- Nešírte neoverený obsah. Ak neviete potvrdiť pravosť videa, neposielajte ho ďalej ako skutočnú udalosť.
Môže pomôcť spätné vyhľadávanie obrázkov?
Áno. Ak máte podozrenie na falošné video, môžete z neho vytvoriť snímku obrazovky a skúsiť ju vyhľadať pomocou služby Google Lens alebo iného nástroja na spätné vyhľadávanie obrázkov.
Takto môžete niekedy nájsť pôvodné video, staršiu fotografiu alebo článok, z ktorého bol obraz prevzatý. Ak však vyhľadávanie nič nenájde, neznamená to, že obsah je pravý.
Pomôžu nástroje na odhaľovanie deepfake?
Existujú špecializované nástroje, ktoré pomocou algoritmov analyzujú video, fotografiu alebo zvuk a hľadajú možné stopy manipulácie.
Ich výsledky však nemusia byť vždy správne. Môžu označiť skutočný obsah za falošný alebo naopak prehliadnuť kvalitný deepfake. Preto ich používajte iba ako doplnkovú pomôcku, nie ako definitívny dôkaz.
Pri používaní online detektorov si tiež overte, kto službu prevádzkuje. Citlivé súkromné fotografie, videá alebo osobné nahrávky nenahrávajte do neznámych služieb.
Čo robiť, ak sa stanete obeťou deepfake podvodu?
Ak niekto zneužije vašu podobu alebo hlas na vytvorenie falošného obsahu, pokúste sa zachovať dôkazy. Uložte si odkaz, snímky obrazovky, názov používateľského účtu a dátum, keď ste obsah objavili.
Následne môžete požiadať prevádzkovateľa sociálnej siete alebo webovej stránky o preverenie a odstránenie podvodného obsahu. Ak dochádza k vydieraniu, vyhrážaniu alebo finančnému podvodu, obráťte sa na políciu.
Pokiaľ ste už podvodníkovi poslali peniaze alebo poskytli bankové údaje, bezodkladne kontaktujte svoju banku. Vysvetlite jej situáciu a požiadajte o pomoc pri zabezpečení účtu a preverení možností riešenia platby.
Ak sa falošný obsah vydáva za vás, upozornite aj svojich blízkych alebo ľudí, ktorých by sa mohol podvod dotknúť. Môžete tým zabrániť ďalšiemu šíreniu.
Časté otázky o deepfake
Je každý deepfake nelegálny?
Nie. O právnom posúdení rozhoduje konkrétne použitie, súhlas dotknutých osôb a okolnosti. Technológia môže slúžiť na filmové efekty, umenie alebo vzdelávanie. Problémom je najmä jej zneužitie na podvody, vydieranie alebo zásahy do práv iných ľudí.
Dokáže deepfake napodobniť aj hlas človeka?
Áno. Technológie klonovania hlasu dokážu vytvárať syntetickú reč podobnú hlasu konkrétnej osoby. Preto samotný hlas nie je dostatočným dôkazom, že skutočne telefonujete s človekom, ktorého poznáte.
Dá sa deepfake vždy spoľahlivo rozpoznať?
Nie. Niektoré podvrhy sú veľmi kvalitné a ich rozpoznanie môže byť náročné aj pomocou špecializovaných nástrojov. Najlepšou ochranou je kombinácia kritického myslenia, preverovania pôvodu obsahu a nezávislého overovania dôležitých tvrdení.
Prečo už nestačí veriť vlastným očiam a ušiam?
Dlhé roky sme fotografiu, video alebo hlasovú nahrávku vnímali ako pomerne presvedčivý dôkaz určitej udalosti. Technológie umelej inteligencie však ukazujú, že aj zdanlivo autentický záznam môže byť vytvorený alebo zásadne pozmenený.
To neznamená, že máme automaticky pochybovať o každej fotografii alebo každom videu. Znamená to, že pri dôležitých informáciách potrebujeme vedieť, odkiaľ pochádzajú.
Najdôležitejšie pravidlo: Ak vás video, správa alebo telefonát vyzýva na okamžité zaplatenie, poskytnutie osobných údajov alebo vykonanie neobvyklej činnosti, najprv si nezávisle overte, kto za požiadavkou skutočne stojí. Ani dokonale vyzerajúce video či známy hlas nenahrádzajú overenie totožnosti.
