Klíčové postřehy
- V souvislosti s generativní AI se objevují znepokojivé otázky ohledně ochrany osobních údajů, a to zejména kvůli sběru a sdílení dat, což pro uživatele představuje zvýšené riziko.
- Snaha o integraci AI do aplikací může vést k frustrujícím uživatelským zážitkům a nejasným rozhraním, které uživatele spíše obtěžují.
- Generativní AI nemusí být vždy přínosem, dokonce může potlačovat kreativitu a originální myšlení, a navíc má značnou energetickou náročnost.
Generativní umělá inteligence (AI) představuje bezesporu významný technologický posun. Nicméně, je skutečně nutné ji implementovat do každé aplikace a služby, kterou používáme? Tento článek se zaměří na důvody, proč se domnívám, že tomu tak není. Detailně prozkoumáme obavy o ochranu soukromí, kvalitu uživatelské zkušenosti a skutečnou přidanou hodnotu generativní AI v různých aplikacích.
1. Ochrana soukromí v ohrožení s generativní AI
Jedním z hlavních kamenů úrazu spojených s generativní AI je ochrana soukromí a zabezpečení osobních údajů.
Specializované aplikace s umělou inteligencí, jako jsou ChatGPT nebo Gemini, dokážou rizika související s ochranou soukromí do jisté míry kontrolovat. Avšak, jakmile se tyto funkce začnou objevovat v aplikacích, jako jsou Dokumenty Google, Zprávy a další běžné nástroje, stává se zajištění ochrany citlivých osobních dat před zneužitím ze strany AI značně komplikovanější.
Přestože se zásady ochrany osobních údajů u společností zabývajících se umělou inteligencí liší, vezměme si jako příklad společnost OpenAI. OpenAI ve svých zásadách uvádí, že shromažďuje „osobní údaje, které jsou obsaženy ve vstupních datech, záznamech nebo zpětné vazbě“ a může je sdílet s třetími stranami.
Pokud jste navíc explicitně neodmítli využití vašich dat k trénování modelů OpenAI, je dost pravděpodobné, že vaše informace již byly použity. Je také důležité zmínit, že výzkumníci byli schopni získat přístup k trénovacím datům ChatGPT, jak informuje 404Media.
I když velcí technologičtí giganti tvrdí, že vaše data nesdílejí ani nezneužívají, je obtížné jim plně důvěřovat, vzhledem k jejich sporné minulosti v oblasti ochrany soukromí.
2. Nucená integrace AI do aplikací zhoršuje uživatelský zážitek
Pokud jste se někdy omylem dotkli ikony Meta AI při hledání konverzace ve WhatsApp, jistě víte, jak frustrující tyto funkce mohou být. Proč by někdo při zdravém rozumu otvíral WhatsApp jen proto, aby generoval „chutný dezert“ nebo „vymyslel nový jazyk“?
A nejde pouze o WhatsApp nebo společnost Meta. Podobné je to s funkcemi Gemini AI od Googlu, které se objevují v aplikacích Zprávy, Gmail, Disk a na mnoha dalších místech. AI přehledy ve vyhledávání Google si zaslouží také kritiku.
Nejvíce na těchto generativních funkcích AI vadí, jak narušují uživatelské rozhraní těchto aplikací, zejména když jsou uměle zvýrazňovány.
3. Generativní AI není vždy přínosem
Jsou situace, kdy je umělá inteligence velkým pomocníkem, ale jsou i takové, kdy tomu tak není. Minimálně prozatím tomu tak není.
Bohužel, technologické firmy jsou často více zaměřené na „naskočení do vlaku“ umělé inteligence, než na reálné posouzení, zda to pro uživatele bude skutečně přínosné.
Dalším problémem je trend uvádět na trh nehotové AI funkce, které mají k užitečnosti pro uživatele ještě daleko. Například AI přehledy ve vyhledávání Google, které dříve radily uživatelům přidávat lepidlo do pizzy, jsou toho názorným příkladem.
4. Používání generativní AI potlačuje originalitu a autentičnost
Mohu použít umělou inteligenci pro sepsání bezobsažného, ale profesionálního e-mailu. Když ale posílám zprávu rodině nebo reaguji na příspěvek svého přítele, nedovedu si představit, že bych použil umělou inteligenci. Existují i další důvody, proč by generativní AI neměla být součástí sociálních sítí.
Podobně, generativní AI může být nápomocná v kreativních nástrojích, ale ne každý kreativní software ji nutně potřebuje. Mezi kreativci stále probíhá diskuse o tom, zda tyto nástroje dokážou nahradit originalitu a invenci umělce.
Proto je zavádění generativní AI do oblastí, kde je vyžadována autenticita a jedinečnost, přinejmenším diskutabilní.
5. Plýtvání energií
Trénování a používání generativní AI vyžaduje značné množství energie. Například trénování OpenAI GPT-3 spotřebovalo odhadem 1287 MWh [PDF] energie. Dle IEA pak vygenerování odpovědi pomocí ChatGPT spotřebuje zhruba 10krát více energie než vyhledávání na Googlu. Takové množství energie by dokázalo zásobovat průměrnou americkou domácnost po dobu 120 let.
Velká spotřeba energie je snesitelnější, když je generativní AI využívána k produktivní práci. Nicméně, vnucování generativní AI do každé aplikace vede k plýtvání energií (a samozřejmě i ke zvyšování emisí) bez skutečného užitku.
Závěrem lze konstatovat, že ačkoliv generativní AI může být užitečná, rozhodně se nejedná o technologii, která by byla nezbytná pro fungování každé aplikace. Naopak, vyvolává obavy ohledně soukromí, zhoršuje uživatelské rozhraní a vede k nadměrnému plýtvání energií. A co je nejhorší, nadměrné využívání generativní AI může mít negativní dopad na vaše zdraví.