Výpis nejoblíbenějších podvodů Deepfake.
Začněme touto „speciální“ adresou „POTUS“ Joe Bidena:
To slabě připomíná, jak může vypadat hluboký falešný (hlasový) podvod. Ve skutečnosti to bylo zdarma Nástroj pro klonování hlasu AIa strávil jsem něco málo přes pět minut psaním (pomocí ChatGPT) a vkládáním textu, abych ho převedl do (Bidenovy) řeči.
Hluboké falešné podvody jsou však sofistikovanější než toto. Vše, co potřebujete, je několik vysoce kvalitních fotografií, videa nebo zvuku subjektu (oběti) a výkonná grafická karta, abyste mohli začít.
Ale nejsme tady, abychom diskutovali o tom, jak vytvořit hluboce falešná videa. Ani to není o odhalování deepfakes.
Místo toho tento článek sdílí krátký úvod o deepfakes a zmiňuje několik takových podvodů, na které byste si měli dát pozor.
Table of Contents
Co jsou Deepfakes?
Deepfake kombinuje dva pojmy: Deep (z hlubokého učení, které se používá k jejich vytvoření) a fake (označující povahu výstupu).
Stručně řečeno, algoritmy hlubokého učení se používají k vytváření přesvědčivých obrázků, zvuku nebo video obsahu z původního obsahu s vysokým rozlišením.
Toto je klasický deepfake příklad a zdá se být do určité míry efektivní. Ale přesto je to pět let a tato technologie se vyvíjí rychlým tempem.
A to není vždy vytvořeno pro zábavu nebo předvedení něčích schopností umělé inteligence. Jedním z takových vážných případů je, když „Mr. Volodymyr Zelenskyj“ je svými silami požádán, aby se vzdal Rusko-ukrajinská válka.
Bohužel se nejedná o jeden takový případ. Podle Zpráva Regula Forensics 202337 % globálních organizací čelilo hlasovým podvodům Deepfake, 29 % zažilo podvody se syntetickým videem a 46 % prošlo pokusy o krádež identity.
Nejde tedy jen o zábavu a deepfake je široce používán při šíření dezinformací a je zneužíván mnoha dalšími způsoby, které mohou být pro oběti nebezpečné a znepokojivé.
Kromě toho není boj s deepfake obsahem snadný. Jsou to vedlejší účinky významného pokroku v technologii AI a skutečnosti, že tyto nástroje jsou nyní široce dostupné pro veřejné použití.
Proto největší a nejčastější obranou, kterou máme, je informovanost.
Pojďme tedy na těchto aspektech zapracovat a podívat se na typy deepfake podvodů.
Typy Deepfake podvodů
Na základě obsahu a cíle lze hluboké falešné podvody rozdělit do několika forem, například:
- Předstírání identity videa
- Falešné rozhovory
- Falešné zprávy
- Hlasový podvod
- Odchyt medu
- Zákaznická podpora
- Posudky
Podrobně o nich a některých jejich modifikacích hovoří další sekce.
Předstírání identity videa
Jedná se o dobře známý deepfake podvod, kdy vidíme vymyšlené video obecně připomínající vysoce sledovaný cíl. Typickou obětí může být prezident země (jako Obama deepfake), populární hollywoodská hvězda nebo generální ředitel známé společnosti.
To, co z nich dělá snadný cíl, je veřejná dostupnost jejich obrázků, projevů atd., protože nástroje vytvářející hluboce falešná videa fungují dobře s odlišnými vstupy, zobrazují různé rozsahy emocí, úhly obličeje, světelné podmínky, pozadí a další.
Záměrem takového předstírání může být prostá zábava, pokus o vydírání, politická motivace, pomluva nebo cokoli jiného.
Ve vzácných případech lze vidět hluboce falešná videa členů rodiny, kteří žádají o peníze nebo přístup k cenným věcem.
Falešné rozhovory
Netřeba dodávat, že falešné rozhovory využívající technologii deepfake se zaměřují na zcela vzdálené pracovní pozice z domova. Tyto podvody zkoušejí hluboce falešná videa v reálném čase přes konferenční programy, jako je Zoom.
Kromě získání podprůměrného kandidáta cílová společnost riskuje vystavení svého majetku podvodné osobě. A na základě jednání společnosti to může nejen poškodit jejich vlastní zdroje, ale může to ohrozit i zájmy jejich země.
Jednodušším cílem hluboce falešných rozhovorů může být dostat zaplaceno ve vysoce hodnotných měnách.
Na druhé straně mohou podvodníci účtovat nevinným kandidátům poplatek za pohovor, aby je dostali před „průmyslové magnáty“ za to, že se jim podaří získat jejich vysněnou práci.
Fake News
Nejčastějším deepfake podvodem jsou fake news. Takové online dezinformační kampaně představují rizika, která se mohou stát fatálními v ošemetných situacích, jako jsou nepokoje nebo války.
Nejen to, může očerňovat veřejné osobnosti, když jejich hluboce falešná replika dělá komentáře, které ve skutečnosti nikdy neudělaly.
To, co pomáhá propagandě, jsou sociální média a streamovací platformy, jako je YouTube, které pomáhají takovým falešným zprávám šířit se jako požár. Konečně to vytváří atmosféru, kde jsou normální uživatelé zmateni autenticitou všeho, co vidí.
Hlasový podvod
Podobně jako u hluboce falešných videí a obrázků je syntetický hlas dalším přírůstkem do seznamu takových triků poháněných technologií.
V jednom takovém případě Jennifer DeStefano, obyvatelka Arizony, slyšela svou 15letou dceru vzlykat po telefonu, zatímco mužský hlas požadoval 1 milion dolarů za propuštění. Matka byla přesvědčena, že její dítě je v nebezpečí. Než stačila promyslet platbu, zavolala jejich kamarádka manželovi a potvrdila, že její dcera je v bezpečí.
Paní DeStefano později vyprávěla o utrpení, že hlasu naprosto věřila, nejen podle zvuku, ale podle celkového tónového podání, které přesně odpovídalo tomu, jak její dcera obvykle mluví.
Toto je klonování hlasu a provádí se pomocí nezpracovaných zvukových vzorků ze zdroje.
Honeytraps
Podle tradiční definice pasti je to místo, kde je subjekt přemlouván do vztahu k vydírání citlivých informací. Honeytraps se obvykle zaměřují na vysoce postavené subjekty, jako je někdo pracující v ozbrojených silách, nejvyšší vládní úředníci, sloužící politikům atd.
Díky technologii deepfake jsou tyto honeytrapes většinou online a může je provádět kdokoli ve velkém. To znamená, že oběť může dostávat žádosti o vztah od atraktivních partnerů prostřednictvím sociálních médií, které se rychle sblíží s konečným cílem finančního nebo informačního vydírání.
Takové hluboce falešné podvody jsou obecně vyhledávanými operacemi, které probíhají v pravý čas, než nastraží poslední past.
Zákaznická podpora
Podvody s technickou podporou jsou velmi běžné. Možná jste slyšeli o podvodech, kdy vás nějaký „Microsoft“ chlapík žádá, abyste zaplatili za vyřešení „závažných“ problémů vašeho počítače.
Před deepfake jejich přízvuky nebo neobvyklé řečové vzorce prozrazovaly zlomyslné pokusy. Ale nyní mají tito podvodníci superschopnosti umělé inteligence, které mohou snadno oklamat nevinné uživatele, aby si mysleli, že ve skutečnosti mluví s nějakým legitimním zástupcem společnosti.
Posudky
Mnoho z nás si před nákupem jakéhokoli produktu přečte recenze zákazníků. Stejně tak kontrola videoreferencí je dalším nákupním zvykem, který se dosud osvědčil.
Tento typ hluboce falešného podvodu přiměje více lidí ručit za špatný produkt, ovlivnit nákupní rozhodnutí a plýtvat penězi a časem zákazníků.
Je jich mnohem víc!
Co kromě textu vidíte na internetu?
Řekl bych, že videa, obrázky a zvuk. To vše lze s touto technologií umělé inteligence manipulovat, díky čemuž je internet v ne tak vzdálené budoucnosti živnou půdou pro podvody. Kromě toho je vytváření deepfake stále snadné, když o něm mluvíme, takže pro průměrného uživatele internetu je obtížné zůstat „správně“ informován.
V takové situaci, kdy už jen stěží něco zastaví rozšířené zneužívání technologií, bychom se měli alespoň snažit zůstat v obraze.
PS: Pokud jde o zábavné aplikace, máte k dispozici tyto hluboce falešné aplikace, abyste vytvořili některé z nejlepších memů, které vezmou sociální média útokem.