Rozpoznávání Deepfakes: Stále obtížnější úkol
Odhalování deepfakes není jednoduchá záležitost; s každou další minutou se stává složitější.
Technologie vždy představovala dvojsečnou zbraň. Existují skvělé možnosti, ale také horší způsoby, jak je využít.
Ačkoli uvedené řádky mohou znít poněkud poeticky, hovoříme zde o umělé inteligenci (AI), která se projevuje jako nepopiratelná realita.
Deepfakes jsou jednou z aplikací umělé inteligence, která umožňuje vytvářet videa, obrázky a zvuk s mimořádnou realističností, až do té míry, že jejich rozeznání často vyžaduje nadlidské schopnosti.
Co jsou to Deepfakes?
Zjednodušeně řečeno, jedná se o falešná média, vytvořená pomocí softwaru pro počítače nebo chytré telefony. Tyto aplikace používají specifické algoritmy k nahrazení částí originálního záznamu jinými prvky, podobně jako například:
Podívejte se, jak „skutečné“ to působí.
Cílem je oklamat nebo pobavit lidi pomocí těchto syntetických medií.
Zatímco před nedávnem bylo velmi náročné vytvářet tak přesvědčivá videa, nyní vám stačí výkonná grafická karta a pár dní tréninku.
Čtěte také: Deepfake Aplikace pro tvorbu nejlepších memů
Nicméně, k ohromení ostatních klonováním hlasu, výrazů a dalších detailů, je potřeba víc než jen to.
Přesto se proces tvorby deepfakes každým dnem zjednodušuje, protože algoritmy jsou stále efektivnější i na méně výkonném hardwaru a rozšiřují se možnosti výpočetní síly.
Díky tomu jich budeme vídat stále více.
S ohledem na možné nebezpečné zneužití těchto technologií musíme být obezřetní, abychom je dokázali odlišit od skutečnosti.
Jak poznat Deepfakes?
Ne všechny deepfakes jsou na stejné úrovni kvality. Proto ne každá technika rozpoznávání bude fungovat univerzálně. Zatímco některé vykazují zjevné znaky strojové produkce, jiné vyžadují důkladné sledování nebo dokonce využití jiných nástrojů umělé inteligence k jejich odlišení.
Odstín pleti
Toto je první věc, které je třeba si všímat. „Upravená“ část (obvykle obličej) bude mít mírné odchylky v barvě pleti, což způsobí nesoulad se zbytkem viditelných částí těla.
Na obrázku vlevo je záběr z falešného videa, kde ukrajinský prezident Volodymyr Zelenskyj vyzývá své vojáky a lid ke kapitulaci Rusku.
Tímto průměrným kopírováním a vkládáním se ale nikdo nenechal zmást, a video bylo ihned označeno jako deepfake.
Výrazy
Toto je klíčový bod, zejména pokud se amatéři vydávají za experty na deepfakes. Jejich průměrné výtvory často vykazují nepřirozený pohyb rtů, přičemž lidské pauzy absentují, což usnadňuje jejich odhalení jako falešných.
Některé algoritmy však mají implementovány mechanismy pro simulaci dechových pauz. Nicméně, lze si všimnout identických zastávek a pohybů hlavy, které sledují podobné vzorce, obecně příliš mechanické, než aby je bylo možné přehlédnout.
Podobně, mrkání je dalším ukazatelem, který pomáhá odhalit deepfakes. I mrkání probíhá v cyklech (jak je naprogramováno v kódu), což nepůsobí tak lidsky, jako když sledujete skutečné video téže osoby.
Dalším faktorem, který vám může pomoci s odhalením deepfakes, je pohyb oční bulvy. Umělá inteligence, stroj postrádající emoce a rozptýlení, se při rozhovoru často zdá být více soustředěná než průměrný člověk.
Je nepopiratelné, že deepfakes jsou snadněji rozpoznatelné, pokud nejsou vytvořeny (téměř) dokonale, jako je tomu například u tohoto videa.
Nedokonalosti
Jak tedy zjistíte, že se nejedná o skutečného Morgana Freemana?
Klíčem k odhalení předchozího videa je jeho vysoká kvalita. Můžete přepnout do nejvyššího rozlišení (dostupné 4K), abyste měli šanci odhalit umělé artefakty.
A čím větší obrazovka, tím lépe. Případně můžete udělat snímek obrazovky a přiblížit, abyste viděli, zda se za zjevným neukrývají nějaké úpravy.
Všímáte si „nalíčené“ pleti? To je místo, kde algoritmy selhávají, v drobných detailech, bez ohledu na to, jak jsou sofistikované.
Pokožka vypadá nerovnoměrně a reprodukce chloupků na obličeji (a na hlavě) není přirozená a působí uměle.
Toto vám pomůže lépe analyzovat následující:
Snadno rozpoznám syntetickou pokožku, která je většinou vidět jen kolem kníru, vousů a vlasové linie.
Brada, obočí, obličej (ten pravý je štíhlejší), nos atd. – porovnejte to s reálným (vpravo) a vše bude jasné.
Je zřejmé, že pokud máte k dispozici srovnání s originálem, je snadné rozpoznat falešný záznam.
Detaily
Když mluvíme, děje se toho hodně. Každý má své vlastní specifické pohyby, díky kterým se rty, jazyk, brada, tváře atd. pohybují v charakteristickém vzorci, který je pro něj jedinečný.
Technologie deepfake navíc ještě nedokáže plně vizualizovat pohyby uvnitř úst při mluvení. Například, na deepfake Obamy nelze detailně vidět jednotlivé spodní (čelistní) zuby.
Vidíme jen bílý pruh ve spodní části a chybí jakékoli náznaky pohybu jazyka.
Podívejte se na jakékoli skutečné video Obamy a můžete vidět, že je mnohem expresivnější, s bohatou mimikou obličeje, než tento výtvor umělé inteligence.
Kromě toho si můžete všimnout, že samotné video není příliš kvalitní. Má nízké rozlišení, je komprimováno za účelem skrytí skutečnosti nebo kvůli omezením výpočetního výkonu.
Přechody
Jedním z omezení při vytváření deepfake je generování záznamu snímek po snímku. Každý snímek musí být zkontrolován z hlediska dokonalého maskování, aby zůstal iluzivní charakter videa neporušen.
Z tohoto důvodu je většina přesvědčivých deepfake videí omezena na pohyby obličeje. Zobrazují pouze čelní pohledy, bez bočních záběrů, protože přechody ze strany na stranu mohou odhalit slabá místa.
Podívejte se například na tento deepfake Toma Cruise:
Pokud zpomalíte video a budete pozorně sledovat čas v rozmezí 35–40 sekund, zjistíte, že přechody ze strany na přední stranu mají určité rozmazané oblasti.
To jsou pravděpodobně nejobtížnější části, které se skrývají a naopak nejlepší pro odhalení takových výtvorů umělé inteligence.
To jsou tedy některé z faktorů, které vám mohou pomoci odhalit deepfakes a omezit šíření dezinformací. Shrňme si je:
1. Zkontrolujte odchylky v odstínu pleti. 2. Věnujte pozornost nepřirozené synchronizaci rtů, robotickému pohybu nebo nedostatku mrkání. 3. Přibližte obraz, abyste zjistili, zda struktura pokožky, reprodukce vlasů atd. odpovídají skutečnosti. 4. Porovnejte mimiku obličeje a styl mluvení se skutečnými videi. 5. Hledejte vysoce kvalitní verze záznamu. 6. Rychle vyhledejte informace na Googlu, abyste zjistili, zda se nejedná o podvrh. 7. Všímejte si celkových rozměrů obličeje a srovnávejte je se skutečnými. 8. Zpomalte video, abyste zachytili nepřesné přechody. 9. Vypadá vnitřek úst autenticky a detailně? 10. Pokud máte pochybnosti, sdílejte video a požádejte o názor přátele a rodinu. 11. Rozpoznávání deepfakes v kostce.
Deepfakes nejsou dokonalé!
Ačkoli jsme se zaměřili pouze na deepfake video, zvuk generovaný umělou inteligencí bude trpět podobnými omezeními. A i když se technologie v tomto ohledu vyvíjejí, vždy budou zaostávat za živými záznamy.
Učení však není kompletní, dokud si to sami nevyzkoušíte. Proto jsme vytvořili tento průvodce o tom, co jsou deepfakes a jak je vytvořit.