Máme tendenci důvěřovat obsahu video a audio nahrávek. Ale s umělou inteligencí lze tvář nebo hlas kohokoli znovu vytvořit s naprostou přesností. Produkt je deepfake, zosobnění, které lze použít pro memy, dezinformace nebo porno.
Jeden pohled na Nicholas Cage deepfakes nebo Jordan Peele’s deepfake PSA objasňuje, že máme co do činění s podivnou novou technologií. Tyto příklady, i když jsou relativně neškodné, vyvolávají otázky o budoucnosti. Můžeme věřit videu a zvuku? Můžeme lidi pohnat k odpovědnosti za jejich činy na obrazovce? Jsme připraveni na deepfakes?
Deepfakes jsou nové, snadno se vyrábějí a rychle rostou
Technologie Deepfake je stará jen pár let, ale již explodovala v něco, co je podmanivé i znepokojivé. Termín „deepfake“, který byl vytvořen na vláknu Reddit v roce 2017, se používá k popisu obnovení lidského vzhledu nebo hlasu pomocí umělé inteligence. Překvapivě, téměř každý může vytvořit deepfake s mizerným PC, nějakým softwarem a pár hodinami práce.
Věřte tomu nebo ne, obrázek vlevo je deepfake.
Stejně jako u každé nové technologie existuje kolem deepfakes určitý zmatek. Video „opilý Pelosi“ je vynikajícím příkladem tohoto zmatku. Deepfake jsou vytvořeny umělou inteligencí a jsou vyrobeny tak, aby se vydávaly za lidi. Video „dunk Pelosi“, které bylo označováno jako deepfake, je ve skutečnosti jen video Nancy Pelosi, které bylo zpomaleno a upraveno přidat efekt nezřetelné řeči.
To je také to, co dělá deepfakery odlišné od, řekněme, CGI Carrie Fisher ve Star Wars: Rogue One. Zatímco Disney utratil spoustu peněz za studium tváře Carrie Fisherové a její ruční znovuvytvoření, blbeček s nějakým deepfake softwarem může dělat stejnou práci zdarma za jediný den. Díky umělé inteligenci je práce neuvěřitelně jednoduchá, levná a přesvědčivá.
Jak vyrobit Deepfake
Stejně jako student ve třídě se AI musí „naučit“, jak vykonávat zamýšlený úkol. Dělá to procesem pokusů a omylů hrubou silou, který se obvykle nazývá strojové učení nebo hluboké učení. Umělá inteligence, která je navržena tak, aby dokončila například první úroveň hry Super Mario Bros, bude hru hrát znovu a znovu, dokud nevymyslí nejlepší způsob, jak vyhrát. Osoba, která navrhuje AI, musí poskytnout nějaká data, aby mohla začít, spolu s několika „pravidly“, když se něco pokazí. Kromě toho veškerou práci dělá AI.
Totéž platí pro deepfake rekreaci obličeje. Obnovení tváří ale samozřejmě není totéž jako poražení videohry. Pokud bychom měli vytvořit deepfake Nicholase Cage hostujícího show Wendy Williamsové, potřebovali bychom toto:
Cílové video: V současnosti fungují deepfakes nejlépe s jasnými a čistými cílovými videi. Proto jsou jedny z nejpřesvědčivějších deepfakes politiků; mají tendenci stát klidně na pódiu za stálého osvětlení. Takže potřebujeme video, kde Wendy nehybně sedí a mluví.
Dvě datové sady: Aby pohyby úst a hlavy vypadaly přesně, potřebujeme datovou sadu tváře Wendy Williamsové a datovou sadu tváře Nicholase Cage. Pokud se Wendy podívá doprava, potřebujeme fotku Nicholase Cage, který se dívá doprava. Jestli Wendy otevře pusu, potřebujeme obrázek Cage, jak otvírá pusu.
Poté necháme AI dělat svou práci. Snaží se vytvářet deepfake znovu a znovu a učí se přitom ze svých chyb. Jednoduché, že? No, video Cageovy tváře na Wendy Williamové