Proč už se neobjevují útěky z vězení ChatGPT?
V počátcích ChatGPT se uživatelé snažili posouvat jeho hranice a testovat, co všechno dokáže. Tyto pokusy, známé jako „útěky z vězení“, spočívaly v obcházení omezení umělé inteligence s nečekanými, a někdy i bizarními, výsledky.
Od té doby společnost OpenAI výrazně zpřísnila zabezpečení ChatGPT, aby zabránila těmto únikům. Nicméně, zdá se, že snaha o útěky z vězení ustala. Uživatelé ChatGPT si proto kladou otázku, zda tato snaha vůbec ještě má smysl.
Kam se tedy všechny útěky z vězení ChatGPT poděly?
1. Zlepšené dovednosti uživatelů v zadávání příkazů ChatGPT
Dříve byla komunikace s umělou inteligencí specializovanou dovedností, kterou ovládali jen odborníci. Většina prvních uživatelů neměla zkušenosti s vytvářením efektivních příkazů. Proto se mnozí uchylovali k útěkům z vězení, které jim s minimální námahou a dovednostmi umožnily dosáhnout požadovaného chování chatbota.
Situace se ale změnila. Dovednosti v zadávání příkazů se stávají běžnou součástí uživatelské praxe. Díky opakovanému používání a dostupným návodům se uživatelé naučili efektivněji formulovat příkazy. Místo hledání triků, jako jsou útěky z vězení, se většina uživatelů stala zdatnější v používání různých strategií pro dosažení svých cílů.
2. Nárůst necenzurovaných chatbotů
Zatímco velké technologické společnosti zpřísňují moderování obsahu u běžných chatbotů s umělou inteligencí, menší startupy se zaměřují na méně omezení a využívají poptávku po necenzurovaných chatbotech. S trochou hledání najdete desítky platforem, které nabízejí necenzurované chatboty schopné téměř čehokoli.
Ať už jde o psaní kriminálních příběhů a černohumorných románů, které ChatGPT odmítá vytvořit, nebo o generování malwaru, tyto necenzurované chatboty s pochybnou morálkou splní vaše požadavky. V takovém prostředí nemá smysl ztrácet čas a energii na vymýšlení útěků z vězení pro ChatGPT. I když tyto alternativní platformy nemusí být tak výkonné jako ChatGPT, dokážou pohodlně zvládnout širokou škálu úkolů. Mezi populární příklady patří platformy jako FlowGPT a Unhinged AI.
3. Útěky z vězení jsou stále obtížnější
V prvních měsících existence ChatGPT bylo provedení útěku z vězení tak snadné jako zkopírování a vložení příkazů z online zdrojů. Stačilo pár řádků složitých instrukcí k úplné změně osobnosti ChatGPT. Mohli jste z něj udělat zlého padoucha, který učí, jak vyrábět bomby, nebo chatbota bez omezení používajícího vulgarismy. Byly to divoké časy, které vedly ke vzniku nechvalně známých útěků z vězení, jako byl DAN (Do Anything Now). DAN obsahoval sadu zdánlivě neškodných instrukcí, které nutily chatbota udělat cokoli, aniž by odmítl. Šokující je, že tyto hrubé triky tehdy fungovaly.
Tyto divoké časy už jsou ale minulostí. Tyto základní příkazy a levné triky už ChatGPT neoklamou. Útěk z vězení nyní vyžaduje složité techniky, aby měl šanci obejít robustní zabezpečení OpenAI. Vzhledem k tomu, že útěk z vězení je tak obtížný, většina uživatelů se o něj ani nepokouší. Snadné a široce otevřené exploity z prvních dnů ChatGPT jsou pryč. Přimět chatbota, aby řekl jedno sprosté slovo, nyní vyžaduje značné úsilí a odborné znalosti, které za ten čas a úsilí nemusí stát.
4. Zmizela novinka
Mnoho uživatelů se o útěky z vězení ChatGPT pokoušelo v prvních dnech kvůli vzrušení z toho, že šlo o novou technologii. Bylo zábavné přimět ChatGPT chovat se špatně a získat tak právo na chlubení. I když existují praktické aplikace pro útěky z vězení, mnoho uživatelů se o ně zajímalo kvůli pocitu, že „wow, podívejte, co jsem dokázal“. Nicméně, nadšení z novinky vyprchalo a s ním i zájem lidí o věnování času útěkům z vězení.
5. Útěky z vězení jsou rychle opravovány
V komunitě ChatGPT se běžně sdílí každý úspěšný útěk z vězení, jakmile je objeven. Problém je v tom, že jakmile se exploity široce rozšíří, OpenAI o nich často zjistí a opraví zranitelnosti. To znamená, že útěky z vězení přestanou fungovat dříve, než si je lidé, kteří by o ně měli zájem, vůbec stihnou vyzkoušet.
Takže pokaždé, když uživatel ChatGPT pečlivě vyvine nový útěk z vězení, jeho sdílení s komunitou urychlí jeho zánik prostřednictvím oprav. To odrazuje od představy zveřejňování, kdykoli uživatel narazí na útěk z vězení. Konflikt mezi udržením útěků z vězení aktivními, ale skrytými, a jejich zveřejňováním vytváří pro tvůrce útěků z vězení ChatGPT dilema. V současné době se lidé častěji než obvykle rozhodnou své útěky z vězení utajit, aby se vyhnuli opravám mezer.
6. Necenzurované místní alternativy
Nárůst místních velkých jazykových modelů (LLM), které můžete provozovat přímo na svém počítači, také utlumil zájem o útěky z vězení ChatGPT. I když místní LLM nejsou zcela bez cenzury, mnohé jsou výrazně méně cenzurované a lze je snadno upravit tak, aby vyhovovaly přáním uživatelů. Možnosti jsou tedy jasné. Můžete se zapojit do nekonečné hry na kočku a myš, abyste našli způsob, jak obelstít chatbota a vyhnout se brzkým opravám. Nebo se můžete spokojit s místním LLM, který si můžete trvale upravit podle svých potřeb.
Najdete překvapivě dlouhý seznam výkonných necenzurovaných LLM s laxní cenzurou, které můžete nasadit do svého počítače. Mezi pozoruhodné patří Llama 7B (bez cenzury), Zephyr 7B Alpha, Manticore 13B, Vicuna 13B a GPT-4-X-Alpaca.
7. Profesionální „útěkáři“ nyní prodávají své služby pro zisk
Proč věnovat drahocenný čas vývoji příkazů pro útěk z vězení, když z toho nic nezískáte? Někteří profesionálové nyní prodávají útěky z vězení pro zisk. Tito profesionální tvůrci navrhují útěky, které provádějí konkrétní úkoly a uvádějí je k prodeji na platformách, jako je PromptBase. V závislosti na jejich schopnostech se tyto příkazy k útěku z vězení mohou prodávat za 2 až 15 dolarů za kus. Některé složité vícestupňové exploity mohou stát podstatně více.
Mohlo by se pronásledování útěků z vězení obrátit proti OpenAI?
Útěky z vězení ze scény zcela nezmizely, pouze se přesunuly do ilegality. S tím, jak společnost OpenAI začala ChatGPT monetizovat, má větší motivaci omezovat škodlivé používání, které by mohlo ovlivnit její obchodní model. Tento komerční faktor pravděpodobně ovlivňuje jejich agresivní snahu o potlačení pokusů o útěky z vězení.
Nicméně cenzura ChatGPT ze strany OpenAI v současné době čelí rostoucí kritice ze strany uživatelů. Některé legitimní případy použití chatbota s umělou inteligencí již nejsou možné kvůli přísné cenzuře. I když zvýšená bezpečnost chrání před škodlivými případy použití, přílišná omezení by mohla nakonec přimět část komunity ChatGPT k používání méně cenzurovaných alternativ.