Základní body
- Selský rozum je schopnost porozumět běžným situacím a reagovat na ně bez zbytečné analýzy. Vzniká díky životním zkušenostem a pozorováním, a také vlivem sociálních a kulturních norem.
- Počítače mají potíže se selským rozumem, protože nemají zkušenosti z reálného světa a schopnost adaptovat se na nové okolnosti. Také se obtížně vyrovnávají s nepsanými pravidly a předpoklady, které lidé intuitivně chápou.
- Vědci hledají různá řešení, například budování rozsáhlých databází znalostí, sdílení selského rozumu a učení umělé inteligence prostřednictvím simulovaných prostředí, aby trénovali počítače v osvojování selského rozumu. Pokrok byl sice dosažen, ale stále je co zlepšovat.
Selský rozum. Všichni si myslíme, že ho máme. Ale co to vlastně je? Mohou ho počítače nebo systémy umělé inteligence někdy skutečně získat?
Co je to selský rozum a jak ho lidé získávají?
Selský rozum je základní schopnost vnímat, chápat a posuzovat věci tak, jak se to od většiny lidí očekává. Je to soubor faktů, informací a obecných pravidel, které shromažďujeme prostřednictvím životních událostí a pozorování. Selský rozum nám umožňuje efektivně zpracovávat každodenní situace a reagovat na ně, aniž bychom se ztráceli v přílišné analýze.
Lidé začínají získávat selský rozum už v raném dětství. Jako děti se začínáme učit vztahy příčiny a následku – například pláč vede k nakrmení nebo přebalení. Opakovanými zkušenostmi získáváme praktické poznatky o světě. Například dotek horkých kamen vede k popálení. Učíme se tedy nedotýkat se horkých povrchů.
Jako děti dále rozšiřujeme náš selský rozum skrze pokusy a omyly a pozorováním členů rodiny a interakcí s nimi. Například si uvědomujeme, že oblečení se musí pravidelně prát, neměli bychom mluvit s plnou pusou a převrhnutí sklenice s mlékem způsobí nepořádek. Rodiče, sourozenci, učitelé a další dospělí nás opravují, když porušujeme společenské normy a očekávání. Časem se tyto lekce vryjí jako základní selský rozum.
Kromě osobních zkušeností je selský rozum ovlivněn i širšími společenskými a kulturními normami. Co může být v jedné kultuře selský rozum (například zouvání bot při vstupu do domu), nemusí platit v jiné kultuře.
Náš selský rozum se přizpůsobuje, jak dospíváme a jsme vystaveni většímu počtu lidí a prostředí. Takže dítě vyrůstající v malém městečku získá základní selský rozum o životě v tomto prostředí. Dospělý, který se stěhuje do velkého metropolitního města, musí přizpůsobit svůj selský rozum novému prostředí.
Selský rozum se neustále vyvíjí, protože během života získáváme nové zkušenosti.
Proč je selský rozum pro počítače náročný?
Existuje několik důvodů, proč je obtížné naprogramovat selský rozum.
Za prvé, lidé se během let zkušeností se světem postupně učí selskému rozumu. Zkoušíme věci, vidíme, co funguje a co ne, a pamatujeme si lekce. Počítače nemají takové zkušenosti ze skutečného světa, ze kterých by mohly čerpat. Vědí pouze to, co jim lidé výslovně sdělí.
Například jsem se zeptal ChatGPT (GPT 3.5) na tuto otázku:
Janet provozuje prádelnu. Pere zákazníkům oblečení a suší ho venku na šňůrách na prádlo na slunci. Jednoho dne Janet vyprala pět triček a pověsila je ráno na šňůry na prádlo. Trvalo pět hodin, než trička uschla. Jak dlouho bude trvat, než uschne 30 triček?
A zde je její odpověď:
Dalším problémem je, že selský rozum závisí na kontextu. Pokud má počítač naprogramována pouze specifická pravidla, nedokáže je přizpůsobit novým situacím tak, jak to lidé intuitivně umí.
Řekněme například, že jste počítač naučili, co dělat, když začne pršet. Zdá se to být jednoduché, že? Ale co když místo deště začne stříkat zavlažovač? Nebo co když jste v obchodě s potravinami a z potrubí ve stropě začne unikat voda? Okamžitě bychom věděli, jak se s těmito změnami vypořádat, ale počítač by slepě dodržoval své pravidlo „když venku prší, jdi dovnitř“, což nyní nedává smysl.
Existují také nepsaná pravidla a předpoklady, které lidé absorbují, aniž by si to uvědomovali. Například, jak blízko můžete stát vedle někoho, než se budete cítit nepříjemně? Lidé intuitivně znají odpověď, ale nemusejí být schopni snadno vysvětlit přesná pravidla. Tyto implicitní sociální normy mohou být pro počítače obzvláště složité, pokud je získávají pouze z dat.
Selský rozum tedy prozatím zůstává jednou z největších slabin umělé inteligence ve srovnání s lidskou inteligencí. Je přirozený pro lidi, ale nikoli pro stroje.
Jak se počítače mohou učit selskému rozumu
Po počátečním optimismu v 70. a 80. letech si vědci uvědomili, jak obtížné by bylo naučit počítače selský rozum. Nové přístupy však slibují trénování systémů umělé inteligence tak, aby měly základní selský rozum o každodenním fyzickém a sociálním světě.
Jedním z přístupů je ruční vytváření rozsáhlých databází znalostí s podrobnými fakty a pravidly o tom, jak svět funguje. Projekt Cyc, zahájený v roce 1984 Dougem Lenatem, představuje jedno ambiciózní úsilí tohoto druhu.
Stovky logiků zakódovaly do Cyc miliony logických axiomů během desetiletí. I když je to časově náročné, výsledkem je systém se značnými znalostmi o reálném světě. Cyc může zjevně uvažovat o tom, že rajče je technicky ovoce, ale nemělo by se dávat do ovocného salátu, díky své znalosti kulinářských chuťových profilů.
Sdílení selského rozumu s ConceptNet
Modernější databáze znalostí jako ConceptNet využívají princip sdílení pro generování tvrzení selského rozumu. Myšlenkou je, že místo toho, aby se odborníci nebo umělá inteligence snažili vymyslet všechna základní fakta a vztahy ve světě, otevřou ho, aby kdokoli mohl přispět útržky selského rozumu.
Tento sdílený přístup umožňuje těmto databázím využít kolektivní inteligenci mnoha různých lidí na internetu. Nashromážděním tisíců a tisíců těchto malých úryvků selského rozumu z davu vytvořil ConceptNet překvapivě velké úložiště základních, každodenních znalostí. A protože k němu stále přibývají noví přispěvatelé, znalosti se neustále rozrůstají.
Výuka selského rozumu prostřednictvím zkušeností
Dalším slibným přístupem je vytváření podrobných simulovaných prostředí, kde mohou agenti umělé inteligence experimentovat a učit se o fyzice a intuici prostřednictvím zkušeností.
Výzkumníci vytvářejí 3D virtuální prostředí plná každodenních předmětů, které napodobují skutečný svět, jako je digitální domov „AI2 THOR“ postavený Allen Institute. V těchto prostorech mohou roboti s umělou inteligencí zkoušet různé interakce a rozvíjet intuitivní porozumění konceptům, které lidé považují za samozřejmost.
Například robot s umělou inteligencí může dostat virtuální tělo a zkoušet sbírat bloky, skládat je na sebe, převracet je atd. Když vidí, jak bloky realisticky padají a narážejí, naučí se základní pojmy o pevnosti, gravitaci a fyzické dynamice. Nejsou potřeba žádná pravidla – jen zkušenost.
Robot může také vyzkoušet akce, jako je upuštění skleněného předmětu a vidět, jak se rozbije, když dopadne na zem. Nebo může experimentovat s vlastnostmi vody naléváním tekutin a pozorováním, jak proudí a tvoří kaluže. Tyto praktické lekce obohacují znalosti umělé inteligence o smyslové zkušenosti a ne pouze o datové vzorce.
Techniky založené na datech, jako je předtrénování výkonných velkých jazykových modelů, se také ukázaly jako překvapivě účinné při získávání vzorců selského rozumu. Modely umělé inteligence jako GPT-3.5 a GPT-4 mohou po „přečtení“ obrovského množství internetových dat generovat působivě lidský text.
I když někdy dělají nerozumné návrhy (jinak známé jako halucinace umělé inteligence), přístup statistického učení jim umožňuje napodobovat určité druhy selského rozumu. Stále však panuje neshoda v tom, zda se jedná o selský rozum, nebo chytré využití odchylek v datech.
Jak testovat počítače na selský rozum
S tím, jak systémy umělé inteligence přebírají složitější úkoly v reálném světě, je hodnocení, zda mají „selský rozum“, zásadní.
Fyzický selský rozum
Jednou z oblastí pro testování je fyzický selský rozum – intuice o předmětech, silách a základních vlastnostech světa.
Ukažte například systému počítačového vidění fotografii s knihou vznášející se ve vzduchu a požádejte ho, aby popsal scénu. Všimne si na plovoucí knize něčeho neobvyklého? Nebo nakrmte systém umělé inteligence neobvyklými scénáři jako „ten muž krájel kámen bochníkem chleba“ a zkontrolujte, zda je označuje za nepravděpodobné.
Prostředí AI2 THOR Allen Institute simuluje blokové věže, rozlité hrnky a další scény, aby otestovalo tyto fyzické intuice.
Sociální selský rozum
Lidé mají také sociální selský rozum – implicitní pochopení lidských motivací, vztahů a norem. Chcete-li to vyhodnotit u umělé inteligence, nastavte situace s nejednoznačnými zájmeny nebo motivacemi a sledujte, zda je systém interpretuje rozumně.
Například jsem se zeptal ChatGPT, zda „to“ odkazuje na kufr, nebo trofej v níže uvedené otázce:
Trofej se do kufru nevešla, protože byla příliš malá.
V tomto testu neuspěla; mezitím by člověk očividně věděl, že mluvím o kufru.
Tento druh testu se nazývá Winograd Schema Challenge, a konkrétně se zaměřuje na sociální selský rozum.
Bezpečnost a etika
Testování, zda se systémy umělé inteligence nenaučily nebezpečné nebo neetické vzorce, je zásadní. Analyzujte, zda umělá inteligence při rozhodování nevykazuje škodlivé předsudky na základě pohlaví, rasy nebo jiných vlastností.
Zkontrolujte, zda dělá rozumné etické rozdíly. Zabít medvěda, abyste zachránili dítě, může být považováno za oprávněné, zatímco odpálení jaderné bomby za stejným účelem nikoli. Označte všechna doporučení pro zjevně neetické jednání.
Výkon v reálném světě
Vyhodnoťte selský rozum sledováním toho, jak systémy umělé inteligence fungují v reálném světě. Například, identifikují samořídící auta správně předměty a chodce a reagují na ně? Dokáže se robot pohybovat v různých domácích prostředích, aniž by rozbil cenné předměty nebo poškodil domácí mazlíčky?
Testy v reálném světě odhalují mezery v selském rozumu, které se nemusí objevit v omezených laboratorních podmínkách.
Dosáhli jsme pokroku, ale na umělé inteligenci se selským rozumem se stále pracuje
Někteří odborníci tvrdí, že umělá inteligence nikdy nedosáhne lidského selského rozumu, aniž by se vyvinuly mozkové struktury a těla, jako máme my. Na druhou stranu, digitální mysli nejsou omezeny lidskými předsudky a mentálními zkratkami, takže teoreticky by nás mohly předčit! I když se zatím pravděpodobně nemusíme bát superinteligentní umělé inteligence.
V blízké budoucnosti je nejlepší sázkou umělá inteligence, která kombinuje naučený selský rozum s nějakým tím starým dobrým programováním. Tímto způsobem se snad lze vyhnout hloupým chybám, jako je záměna želvy s puškou.
Ještě tam nejsme, ale selský rozum už není temnou hmotou umělé inteligence – pokrok se děje! Přesto bude při aplikaci těchto technologií ještě nějakou dobu potřeba zdravá dávka lidského selského rozumu.