Nástup generativní AI a jeho dopad na sociální sítě
Generativní umělá inteligence (AI) je stále více diskutovaným tématem, zejména v souvislosti se snahou sociálních médií o její integraci. S tímto technologickým pokrokem se však pojí i značné komplikace pro uživatele platforem. Tento článek se zaměřuje na klíčové problémy, které generativní AI přináší na sociální sítě jako Facebook a Instagram, a zkoumá, jak se mění naše interakce s obsahem online.
1. Záplava obsahu generovaného AI
Pokud jste aktivním uživatelem platforem typu Facebook, pravděpodobně jste se již setkali s obsahem vytvořeným umělou inteligencí. Tento obsah často zahrnuje bizarní umělecké výtvory a nesmyslné recepty. Dokonce existuje profil na X (dříve Twitter) věnovaný AI odpadu na Facebooku.
Často se tento typ obsahu objevuje na spamových stránkách, které se snaží dosáhnout virálního rozšíření. A protože Facebook upřednostňuje virální obsah, může se stát, že ve svém feedu uvidíte více nesmyslů, než jste zvyklí. Generativní AI usnadňuje vytváření takových spamových příspěvků, což vede k vytlačování kvalitního obsahu ze sociálních sítí.
2. Úbytek autenticity v online prostoru
Dontree_M/Shutterstock
Sociální sítě nejsou známé svou autenticitou. Influenceři často prezentují idealizované verze svých životů, aby si vybudovali perfektní image nebo prodali produkty, za které dostali zaplaceno.
Umělá inteligence však tento nedostatek autenticity posouvá ještě dále. TikTok testuje virtuální influencery, kteří firmám umožní propagovat produkty uživatelům prostřednictvím digitálně vytvořených avatarů, jak uvádí SocialMediaToday. Současně Instagram testuje funkci, která umožňuje influencerům vytvářet AI boty pro komunikaci s fanoušky v zprávách. Tento test oznámil generální ředitel společnosti Meta, Mark Zuckerberg, na svém instagramovém kanálu.
Tento úbytek autenticity se však netýká jen influencerů. AI se používá i k vytváření uživatelských příspěvků na platformách jako Reddit a X (dříve Twitter). Ačkoli chatboty s touto schopností existovaly již delší dobu, rozmach velkých jazykových modelů ztěžuje rozlišení mezi tím, co je skutečné, a co je umělé. Během každodenního používání Redditu se pravidelně setkávám s uživateli, kteří obviňují ostatní z používání AI pro tvorbu příspěvků nebo příběhů.
AI platformy od společností provozujících sociální sítě jsou stále ve fázi vývoje, což vede k chybám. Některé z těchto chyb mohou přispívat k šíření dezinformací nebo snižovat důvěru uživatelů v platformu.
Například Meta AI odpověděla na dotaz ve facebookové skupině, kde se uživatel ptal na rady ohledně „dvakrát výjimečného“ dítěte, které je zařazeno do programu pro nadané a talentované studenty, jak informoval Sky News. Naštěstí byly odpovědi Meta AI na Facebooku jasně označeny, aby uživatelé poznali, že nejsou autentické. I tak se ale nabízí otázka důvěryhodnosti AI nástrojů, jako je Meta AI, které zasahují do konverzací, do kterých by neměly.
Mezitím byl Grok AI (chatbot platformy X) kritizován za šíření nepravdivých informací. Jedním z případů bylo obvinění hráče NBA, Klaya Thompsona, z vandalismu poté, co AI chybně interpretovala basketbalový slang, který popisuje nepřesné střely jako „cihly“.
3. Realizace teorie „mrtvého internetu“
Teorie „mrtvého internetu“ tvrdí, že velká část obsahu na internetu je generována boty. Ačkoli se tato myšlenka dříve zdála absurdní, v současnosti, kdy jsme zaplaveni spamem a odpověďmi generovanými AI, vypadá čím dál pravděpodobněji.
Integrace botů jako uživatelů do sociálních sítí tuto myšlenku ještě posiluje. To vedlo až ke spuštění Butterflies AI, sociální platformy, kde někteří uživatelé jsou ve skutečnosti AI boty. I když mohou být boti na sociálních sítích užiteční, předstírání, že jsou skutečnými uživateli, nepůsobí nijak lákavě.
Z pohledu každodenního uživatele, generativní AI usnadnila spamovým botům napodobovat skutečné uživatele. Nedávno jsem na X zveřejnil požadavek na vytvoření uměleckého díla a můj inbox se zaplnil odpověďmi od botů. Rozlišit skutečné uživatele od botů je čím dál obtížnější.
4. Ochrana obsahu před AI scrapingem
Uživatelé hledají různé způsoby, jak chránit svůj obsah před využitím v AI datasetech. Ale není to tak jednoduché, jako se jen odhlásit. Pokud jsou vaše příspěvky veřejné, je pravděpodobné, že již byly použity pro trénování AI.
V důsledku toho se uživatelé snaží o alternativní metody ochrany svých dat. To zahrnuje přechod na soukromé profily a také znečištění dat. Například, používání nástroje Nightshade pro úpravu uměleckých děl nemá vliv na to, jak uživatelé vidí obrázky, ale jiné formy znečištění dat mohou ovlivnit obsah, který se na sociálních sítích zobrazuje.
Pokud více uživatelů přejde na soukromé profily na veřejných sociálních sítích, bude obtížnější objevovat nové uživatele a obsah, který by vás mohl zajímat. Umělci, kteří se vzdávají platforem poskytujících data pro trénování generativní AI, nakonec omezí přístup ke svému dílu i pro ty, kteří si ho chtějí jen užít, pokud se nepřesunou na specializované platformy.
Ačkoli existují určité způsoby, jak efektivně využít generativní AI na těchto platformách, někteří by tvrdili, že generativní AI na sociálních sítích vlastně ani nepotřebujeme. Ať už si o tom myslíme cokoli, generativní AI již zásadně změnila sociální média v mnoha ohledech.
Shrnutí: Generativní AI přináší na sociální sítě značné výzvy, včetně záplavy nekvalitního obsahu, ztráty autenticity, posilování teorie „mrtvého internetu“ a problémů s dezinformacemi. Uživatelé hledají způsoby, jak chránit svůj obsah a udržet kvalitní interakce v online prostředí, což bude s dalším vývojem této technologie čím dál důležitější.