Spotting Deepfakes není bábovka; je to každou minutou složitější.
Technologie byla vždy dvousečná zbraň. Jsou dobré věci a pak jsou horší věci, které s nimi můžete dělat.
Zatímco výše uvedené řádky mohou mít poetický nádech, mluvte o umělé inteligenci (AI), která se projevuje jako do očí bijící realita.
Deepfakes je jednou z takových aplikací umělé inteligence, která pomáhá vytvářet videa, obrázky a zvuk s výjimečným realismem, a to do té míry, že často potřebuje nadlidské dovednosti, aby je rozeznala.
Table of Contents
Co jsou Deepfakes?
Jednoduše řečeno; jsou to falešná média vytvořená pomocí aplikací pro stolní počítače nebo chytré telefony. Tyto aplikace používají specifické algoritmy k nahrazení dílů z originálu a jejich výměně za jiné, jako je tento:
Podívejte se, jak je to „skutečné“.
Taková je agenda. Oklamat nebo pobavit lidi těmito syntetickými médii.
Před chvílí bylo velmi těžké vytvořit tak přesvědčivá videa, ale nyní potřebujete pouze výkonnou grafickou kartu a pár dní na to, abyste to udělali.
Čtěte také: Deepfake Apps pro vytvoření nejlepších memů
Chcete-li však každého ohromit klonováním hlasu, výrazy a tak dále, vyžaduje to více než to.
Přesto se to každým dnem zjednodušuje, protože algoritmy se stávají efektivními na low-end hardwaru a prosazují se výkonné výpočty.
Koneckonců, uvidíme je více.
Kromě toho, když jsme si vědomi možného nebezpečného zneužití, musíme být ostražití, abychom je rozeznali od pravdy.
Jak poznat Deepfakes?
Ne všichni deepfakes jsou si rovni. A proto ne každá technika funguje všude. Zatímco některé mají prozrazující známky toho, že jsou vyrobeny strojově, jiné potřebují pečlivé pozorování nebo dokonce jiné nástroje umělé inteligence, aby je odlišily.
Odstín pleti
To je první věc, kterou je třeba vzít na vědomí. „Opracovaná“ část (obvykle obličej) bude mít nepatrné rozdíly v barvě kůže, což způsobí nesoulad se zbytkem viditelných částí těla.
Levý na obrázku nahoře je z falešného videa, na kterém ukrajinský prezident Volodymyr Zelenskyy žádá své síly a lid, aby se vzdali Rusku.
Ale nikdo se nenechal zmást tímto průměrným kopírováním a vkládáním a byl okamžitě vyvolán jako deepfake.
Výrazy
Toto je hlavní výhoda, zvláště když se amatéři maskují jako experti na hluboké padělky. Jejich podprůměrné výtvory často trpí nepřirozeným pohybem rtů, aniž by je lidské pauzy pomohly identifikovat jako falešné.
Některé algoritmy však mají opatření pro dechové pauzy. Přesto můžete rozpoznat identická zastavení a pohyby hlavy, které sledují podobné vzorce, obecně příliš mechanické na to, abyste je ignorovali.
Stejně tak mrkání je další oblastí, která odhaluje deepfakes jako takové. To také prochází cykly (jak je napsáno v jejich kódu), což není tak lidské, pokud sledujete vedle skutečného videa stejné osoby.
Další věc, kterou můžete použít k rozpoznání deepfakes, je pohyb oční bulvy. Umělá inteligence, stroj postrádající emoce a rozptýlení, se při hovoru často jeví soustředěnější než průměrný člověk.
Je nesporné, že deepfakes jsou snadněji rozpoznatelné, pokud nejsou provedeny s (téměř) dokonalostí, jako je tento.
Náplasti
Jak tedy říct, že to není skutečný Morgan Freeman?
Nejlepší na předchozím videu je vysoká kvalita. Můžete přepnout na nejvyšší rozlišení (dostupné 4k), abyste měli šanci zahlédnout umělé.
A čím větší obrazovka, tím lépe. Případně můžete pořídit snímek obrazovky a přiblížit, abyste viděli, zda za tím zjevným není nějaká práce na počítači.
Vidíte nalíčenou pleť? To je místo, kde algoritmy selhávají, malé detaily, bez ohledu na to, jak sofistikované.
Kůže vypadá nerovnoměrně a reprodukce chloupků na obličeji (a hlavě) není přirozená a vypadá slepě.
To vám pomůže lépe analyzovat následující:
Dokážu jasně rozeznat syntetickou kůži, většinou viditelnou jen kolem kníru, vousů a vlasové linie.
Brada, obočí, obličej (ten pravý je štíhlý), nos atd. – porovnejte to se skutečným (vpravo) a bude to jasné jako den.
Abych zopakoval, když je vedle sebe ten pravý, je snadné rozeznat falešný.
Podrobnosti
Když spolu mluvíme, děje se toho hodně. Každý má své vlastní styly, které vedou rty, jazyk, bradu, tváře atd. k pohybu v určitém vzoru, který je pro něj jedinečný.
Kromě toho, technologie deepfake ještě nezvládne vizualizaci uvnitř úst při hovoru. Například nemůžete poukázat na jednotlivé spodní (čelistní) zuby v Obamově deepfake.
Vše, co vidíme, je bílý pruh ve spodní části a nejsou tam vůbec žádné známky pohybu jazyka.
Můžete se podívat na jakékoli skutečné Obamovo video a můžete pozorovat, že muž je mnohem výraznější se spoustou pohybů obličeje než tato replika umělé inteligence.
Kromě toho můžete vidět, že samotné video není příliš jasné. Je velmi nekvalitní, komprimovaný za účelem skrytí reality nebo kvůli výpočetním omezením.
Přechody
Jedním z omezení při vytváření deepfake je jejich generování snímek po snímku. Každý rám musí být zkontrolován na dokonalé maskování, aby zůstalo kouzlo neporušené.
Z tohoto důvodu je většina přesvědčivých deepfake videí extrémně omezená na pohyby obličeje. Zobrazují pouze čelní plochy bez bočních pohledů, protože přechody ze strany na stranu mohou odhalit kreativní překážky.
Podívejte se na toto ještě z deepfake Toma Cruise:
Pokud zpomalíte video a pozorně sledujete 35–40 sekund, přechody ze strany na přední stranu budou mít některé rozmazané části.
To jsou pravděpodobně nejobtížnější části k ukrytí a nejlepší k odhalení takových výtvorů AI.
Takže toto je několik věcí, které vám mohou pomoci odhalit deepfakes a omezit dezinformace. Shrnout:
1.Zkontrolujte odchylky v odstínu pleti.2.Dejte si pozor na nepřirozenou synchronizaci rtů, robotické nebo žádné mrkání atd.3.Přibližte zobrazení, abyste viděli, zda textura pokožky, reprodukce vlasů atd. odpovídá skutečnosti.4.Porovnejte obličej výrazy a styl mluvení se skutečnými videi.5.Zkontrolujte, zda jsou k dispozici vysoce kvalitní verze.6.Proveďte rychlé vyhledávání na Googlu, abyste zjistili, zda nejde o falešné.8.Poznamenejte si celkové rozměry obličeje a porovnejte je se skutečnými.9 .Zpomalte video, abyste zachytili špatné přechody.10.Vypadá vnitřek úst skutečně a detailně?11.Sdílejte a požádejte své přátele a rodinu o zpětnou vazbu v případě nejasností.Spotting Deepfakes 101
Deepfakes nejsou dokonalé!
Zatímco jsme se zabývali pouze deepfake video, zvuk vytvořený umělou inteligencí bude trpět podobnými omezeními. A přestože se stroje, jak o nich mluvíme, zlepšují, vždy budou zaostávat za živými.
Učení však není úplné, aniž byste si skutečně ušpinili ruce. V tom případě jsme vytvořili tuto příručku o tom, co jsou deepfakes a jak je vytvořit.