Falošné videá (deepfake) vytvorené umelou inteligenciou sú dnes bežnou súčasťou internetu. Na Instagrame takým videom niekto zaboduje skôr, ako skutočným videom. Takže sa nemôžeme čudovať, prečo sa poctivému obsahu darí získavať lajky pomalšie. Objavujú sa na sociálnych sieťach, v zdieľaných príspevkoch aj v správach, často s cieľom šokovať, pobaviť alebo presvedčiť človeka o niečom, čo sa v skutočnosti nestalo. Mnohé z nich vyzerajú dôveryhodne, pretože náš mozog prirodzene verí obrazu viac než textu, a práve to z deepfake videí robí riziko pre mladých aj dospelých. Dobrá správa je, že aj kvalitný fake má často „drobné praskliny“, ktoré sa dajú spoznať, keď vieš, čo sledovať. Aspoň zatiaľ. UI sa totiž stále zdokonaľuje.
1) Čo prezradí samotné video: pohyb, fyzika, tvár a zvuk
Prvým varovným signálom býva pohyb. Umelá inteligencia vie spraviť záber plynulý, ale nie vždy prirodzený. Postava sa môže pohybovať akoby bez váhy, chôdza pôsobí zvláštne a telo niekedy nereaguje logicky na prekážky alebo terén. Veľmi často zlyhávajú detaily, ktoré si človek neuvedomí na prvý pohľad, ale pri opakovanom pozretí „nesedia“ – napríklad ruky a prsty, ktoré menia tvar, majú zvláštny počet článkov, alebo sa na okamih zdeformujú. Tvár môže pôsobiť gumovo, mimika nemusí zodpovedať emócii a pohyb pier niekedy nesedí s tým, čo počuješ.
Dôležitá je aj fyzika prostredia. V deepfake videách sa tiene môžu správať nelogicky, svetlo dopadá z viacerých smerov naraz alebo sa mení bez dôvodu. Predmety sa občas pohybujú spôsobom, ktorý v realite nedáva zmysel, alebo nereagujú na dotyk tak, ako by mali. Keď sa niečo pohne, ale okolie na to „nereaguje“, je to častá stopa umelej manipulácie.
Zvuk je ďalšia slabina. Umelo vytvorený hlas môže znieť až príliš čisto, bez prirodzeného dychu, bez drobných zaváhaní, s rovnakou intonáciou aj tam, kde by človek prirodzene zmenil tón. Ak emócia v hlase nesedí so situáciou, pauzy sú nelogické alebo reč pôsobí monotónne, je rozumné spozornieť. Pohyb je bezchybný a zväčša tam nevidíme odkašľanie, nejaké chyby, brepty, nedokonalosti, zasekávanie ako pri bežnom živote a rozprávaní.
2) Ako overiť pôvod videa: zdroj, kontext a jednoduché nástroje
Skutočné udalosti majú zvyčajne jasný kontext. Dá sa dohľadať, kde a kedy sa stali, kto ich natočil a často existuje viacero záznamov z rôznych uhlov. Deepfake video sa naopak často objaví bez autora, bez dátumu, bez miesta, s popisom typu „toto musíte vidieť“ alebo „médiá to taja“. Pri mimoriadnej udalosti je podozrivé, ak existuje len jedno jediné video a nikde inde o tom nie je nič konkrétne.
Praktická pomôcka je zastaviť video a urobiť snímku obrazovky, potom si záber overiť spätným vyhľadávaním. Na to sa používajú napríklad Google Lens alebo Google reverse image search, prípadne TinEye, ktoré dokážu nájsť staršie verzie toho istého obrázka či scény. Veľmi užitočný je aj InVID Verification Plugin, ktorý vedia používať aj bežní ľudia: pomáha rozložiť video na snímky, uľahčuje hľadanie pôvodu a odhaľovanie recyklovaných záberov. Pri zvuku a deepfake hlase existujú detekčné služby (nie sú neomylné), ale často pomôžu aspoň ako varovanie, že nahrávka môže byť syntetická.
Pomôcť vedia aj komentáre ostatných, ale s rozumom. Niekedy ľudia upozorňujú na konkrétne chyby (tiene, prsty, nesúlad zvuku), a práve konkrétne argumenty sú užitočné. Ak však komentáre len kričia „určite pravda“ alebo „určite lož“ bez dôvodov, nepomôže to. Najlepší signál je kombinácia: podozrivé detaily vo videu + nejasný pôvod + chýbajúce potvrdenie z viacerých zdrojov.
3) Prečo je to hrozba: známe svetové príklady, ktoré ukázali, čo dokáže jeden fake
Deepfake a manipulované videá nie sú len „sranda na internete“. Vo svete už viackrát ukázali, že dokážu zasiahnuť politiku, bezpečnosť aj dôveru ľudí v realitu. Počas vojny na Ukrajine sa v marci 2022 šíril deepfake, ktorý mal ukazovať prezidenta Volodymyra Zelenského, ako vyzýva na zloženie zbraní; išlo o klamlivý obsah, ktorý sa objavil aj na kompromitovaných online kanáloch a rýchlo sa šíril po sociálnych sieťach.
Iný typ manipulácie ukázali prípady v USA, kde sa šírilo upravené video političky Nancy Pelosi, ktoré bolo zostrihané alebo spomalené tak, aby pôsobila opitá či zmätene; aj keď to nebol „AI deepfake“ v dnešnom zmysle, bol to dôkaz, že ľudia často uveria videu, aj keď je upravené. Veľmi známy varovný príklad z posledných rokov je aj deepfake hlas v robocalloch pred primárkami v New Hampshire v januári 2024, kde umelo generovaný hlas napodobňoval prezidenta Joea Bidena a snažil sa odradiť voličov od hlasovania; riešili to médiá aj regulačné úrady. A napokon príklad, ktorý ukázal, ako ľahko sa dá zmiasť verejnosť aj bez politiky: virálna AI fotografia pápeža Františka v „puffer“ bunde z marca 2023 obletela internet a množstvo ľudí jej uverilo, kým sa nepotvrdilo, že ide o generovaný obraz.
Takéto prípady učia jednu vec: keď je niečo vizuálne silné a „vyzerá to reálne“, šíri sa to rýchlejšie než oprava. Pre školu a mladých ľudí je to citlivé najmä preto, že deepfake dokáže vytvárať „vedomosti“ o javoch a udalostiach, ktoré sa nikdy nestali. Človek potom príde do triedy s presvedčením, že niečo videl na videu, a keď sa ukáže, že to bol fake, vzniká neistota a chaos. Najlepšou obranou nie je strach, ale zvyk spomaliť: pozrieť sa na detaily, overiť pôvod, porovnať s ďalšími zdrojmi a nenechať sa tlačiť emóciou do okamžitého zdieľania. V dobe umelej inteligencie už nestačí povedať „videl som to“. Dôležité je vedieť povedať „overil som si to“.
 vytvorené umelou inteligenciou sú dnes bežnou súčasťou internetu. Na Instagrame takým videom...){kind=link}