Table of Contents
Klíčové věci
- Zdravý rozum je schopnost porozumět každodenním situacím a reagovat na ně bez nadměrné analýzy. Získává se prostřednictvím životních zkušeností a pozorování, stejně jako společenských a kulturních norem.
- Počítače se potýkají se zdravým rozumem, protože jim chybí zkušenosti z reálného světa a schopnost přizpůsobit se novým souvislostem. Bojují také s nevyslovenými pravidly a předpoklady, kterým lidé intuitivně rozumí.
- Výzkumníci zkoumají různé přístupy, jako je budování rozsáhlých znalostních základen, crowdsourcing zdravého rozumu a výuka umělé inteligence prostřednictvím simulovaných světů, aby trénovali počítače v osvojování zdravého rozumu. Bylo dosaženo pokroku, ale stále je na čem pracovat.
Selský rozum. Všichni si myslíme, že na to máme. Ale co to přesně je? Mohou jej počítače nebo systémy umělé inteligence někdy skutečně získat?
Co je zdravý rozum a jak jej lidé získávají?
Zdravý rozum je základní schopnost vnímat, chápat a posuzovat věci, které se od většiny lidí očekává. Je to sbírka faktů, informací a orientačních pravidel, která shromažďujeme prostřednictvím životních zkušeností a pozorování. Zdravý rozum nám umožňuje efektivně zpracovávat každodenní situace a reagovat na ně, aniž bychom je příliš hluboce analyzovali.
Lidé začínají získávat zdravý rozum v raném dětství. Jako děti se začínáme učit vztahy příčiny a následku – jako pláč vede k nakrmení nebo přebalování. Opakovanými zkušenostmi získáváme praktické poznatky o světě. Například dotyk horkého sporáku vede k popálení. Učíme se tedy nedotýkat se horkých povrchů.
Jako děti pokračujeme v rozšiřování našeho zdravého rozumu prostřednictvím pokusů a omylů a pozorováním členů rodiny a interakcí s nimi. Například si uvědomujeme, že oblečení se musí pravidelně prát, neměli byste mluvit s plnou pusou a klepání sklenice s mlékem vede k nepořádku. Rodiče, sourozenci, učitelé a další dospělí nás opravují, když porušujeme společenské normy a očekávání. Postupem času jsou tyto lekce zakořeněny jako základní zdravý rozum.
Kromě osobních zkušeností je zdravý rozum utvářen širšími společenskými a kulturními normami. To, co může být v jedné kultuře zdravý rozum (jako je zouvání bot při vstupu do domu), nemusí platit v jiné kultuře.
Náš zdravý rozum se přizpůsobuje, jak dospíváme a jsme vystaveni většímu počtu lidí a prostředí. Takže dítě vyrůstající v malém městě získá základní zdravý rozum o životě v tomto prostředí. Dospělý, který se stěhuje do velkého metropolitního města, musí přizpůsobit svůj zdravý rozum novému prostředí.
Zdravý rozum se neustále vyvíjí, protože v průběhu života získáváme nové zkušenosti.
Proč je zdravý rozum pro počítače náročný?
Existuje několik důvodů, proč je těžké naprogramovat zdravý rozum.
Jednak se lidé během let zkušeností se světem postupně učí zdravému rozumu. Vyzkoušíme si věci, uvidíme, co funguje a co ne, a pamatujeme si lekce. Počítače nemají takové zkušenosti ze skutečného světa, ze kterých by mohly čerpat. Vědí jen to, co jim lidé výslovně říkají.
Například jsem se zeptal ChatGPT (GPT 3.5) na tuto otázku:
Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts?
Ukázalo se to s touto odpovědí:
Dalším problémem je, že zdravý rozum závisí na kontextu. Pokud má počítač naprogramována pouze specifická pravidla, nemůže je přizpůsobit novým souvislostem tak, jak to lidé intuitivně umí.
Řekněme například, že jste počítač naučili, co dělat, když venku začne pršet. Zdá se to být jednoduché, že? Ale co když se místo deště zapne sprinkler? Nebo co když je to uvnitř obchodu s potravinami a z potrubí začne unikat voda ze stropu? Okamžitě bychom věděli, jak s těmito variacemi zacházet, ale počítač by slepě dodržoval své pravidlo „když venku prší, jdi dovnitř“, což nyní nedává smysl.
Existují také nevyslovená pravidla a předpoklady, které lidé absorbují, aniž by si to uvědomovali. Jako jak blízko můžete stát vedle někoho, než se budete cítit trapně? Lidé intuitivně znají odpověď, ale nemusí být snadno schopni vysvětlit přesná pravidla. Tyto implicitní sociální normy mohou být pro počítače obzvláště složité, pokud je získávají pouze z dat.
Zdravý rozum tedy prozatím zůstává jednou z největších slabin umělé inteligence ve srovnání s lidskou inteligencí. Je to přirozené pro lidi, ale ne tolik pro stroje.
Jak se počítače mohou učit zdravému rozumu
Po raném optimismu v 70. a 80. letech si vědci uvědomili, jak obtížné by bylo učit počítače zdravému rozumu. Nové přístupy však slibují trénování systémů umělé inteligence, aby měly základní zdravý rozum o každodenním fyzickém a sociálním světě.
Jedním z přístupů je ruční vytváření rozsáhlých znalostních bází s podrobnými fakty a pravidly o tom, jak svět funguje. Projekt Cyc, zahájený v roce 1984 Dougem Lenatem, představuje jedno ambiciózní úsilí tohoto druhu.
Stovky logiků zakódovaly do Cyc miliony logických axiomů během desetiletí. I když je to časově náročné, výsledkem je systém se značnými znalostmi reálného světa. Cyc může zjevně uvažovat o tom, že rajče je technicky ovoce, ale nemělo by se hodit do ovocného salátu, díky své znalosti kulinářských chuťových profilů.
Crowdsourcing Zdravý rozum s ConceptNet
Modernější znalostní báze jako ConceptNet zaujmout přístup crowdsourcingu ke generování tvrzení zdravého rozumu. Myšlenka je taková, že místo toho, aby se odborníci nebo umělá inteligence snažili přijít na všechna základní fakta a vztahy ve světě, otevřou ho, aby kdokoli mohl přispět útržky zdravého rozumu.
Tento crowdsourcingový přístup umožňuje těmto znalostním bázím využít kolektivní inteligenci mnoha různých lidí na internetu. Nashromážděním tisíců a tisíců těchto malých nugetů zdravého rozumu z davu vytvořil ConceptNet překvapivě velká úložiště základních, každodenních znalostí. A protože k němu stále přibývají noví přispěvatelé, znalosti neustále rostou.
Výuka zdravého rozumu prostřednictvím zkušeností
Dalším slibným přístupem je budování podrobných simulovaných světů, kde mohou agenti AI experimentovat a učit se o fyzice a intuici prostřednictvím zkušeností.
Výzkumníci vytvářejí 3D virtuální prostředí plná každodenních předmětů, které napodobují skutečný svět, jako je digitální domov „AI2 THOR“ postavený Allen Institute. V těchto prostorech mohou roboti s umělou inteligencí zkoušet všechny druhy interakcí a rozvíjet intuitivní porozumění konceptům, které lidé považují za samozřejmost.
Například robot s umělou inteligencí může dostat virtuální tělo a zkoušet sbírat bloky, skládat je na sebe, převracet je atd. Když vidí, jak bloky realisticky padnou a narážejí, naučí se základní pojmy o pevnosti, gravitaci a fyzické dynamice. Nejsou potřeba žádná pravidla – jen zkušenost.
Robot může také vyzkoušet akce, jako je upuštění skleněného předmětu a vidět, jak se rozbije, když dopadne na zem. Nebo může experimentovat s vlastnostmi vody naléváním tekutin a pozorováním, jak proudí a kaluží. Tyto praktické lekce obohacují znalosti umělé inteligence o smyslové zkušenosti a nejen o datové vzorce.
Techniky založené na datech, jako je předtrénování výkonných velkých jazykových modelů, se také ukázaly jako překvapivě účinné při získávání vzorců zdravého rozumu. Modely umělé inteligence jako GPT-3.5 a GPT-4 mohou po „přečtení“ obrovského množství internetových dat generovat působivě lidský text.
I když někdy dělají nerozumné návrhy (jinak známé jako halucinace AI), přístup statistického učení jim umožňuje napodobovat určité druhy zdravého rozumu. Přetrvává však neshoda v tom, zda se jedná o zdravý rozum nebo chytré využití zkreslení v datech.
Jak testovat počítače na zdravý rozum
Image Credit: freepik/freepik
Jak systémy umělé inteligence přebírají složitější úkoly v reálném světě, vyhodnocení, zda mají „zdravý rozum“, se stává zásadním.
Fyzický zdravý rozum
Jednou z oblastí k testování je fyzický zdravý rozum – intuice o předmětech, silách a základních vlastnostech světa.
Ukažte například systému počítačového vidění fotografii s knihou vznášející se ve vzduchu a požádejte jej, aby popsal scénu. Zaznamenává na plovoucí knize něco neobvyklého? Nebo nakrmte systém umělé inteligence neobvyklými scénáři jako „ten muž krájel kámen s bochníkem chleba“ a zkontrolujte, zda je neoznačuje za nepravděpodobné.
Prostředí AI2 THOR Allen Institute simuluje blokové věže, rozlité hrnky a další scény, aby otestovalo tyto fyzické intuice.
Sociální zdravý rozum
Lidé mají také sociální zdravý rozum – implicitní pochopení lidských motivací, vztahů a norem. Chcete-li to v AI vyhodnotit, nastavujte situace s nejednoznačnými zájmeny nebo motivacemi a sledujte, zda je systém interpretuje rozumně.
Například jsem se zeptal ChatGPT, zda „to“ odkazuje na kufr nebo trofej v níže uvedené výzvě:
The trophy could not fit into the suitcase because it was too small.
V testu to neprošlo; mezitím by člověk očividně věděl, že mluvím o kufru.
Tento druh testu se nazývá Winograd Schema Challenge, konkrétně se zaměřuje na sociální zdravý rozum.
Bezpečnost a etika
Testování, zda se systémy umělé inteligence naučily nebezpečné nebo neetické vzorce, je zásadní. Analyzujte, zda AI při rozhodování nevykazuje škodlivé předsudky na základě pohlaví, rasy nebo jiných atributů.
Zkontrolujte, zda to dělá rozumné etické rozdíly. Zabití medvěda za účelem záchrany dítěte může být považováno za oprávněné, zatímco odpálení jaderné bomby za stejným účelem nikoli. Označte všechna doporučení pro zjevně neetické jednání.
Výkon ve skutečném světě
Vyhodnoťte zdravý rozum sledováním toho, jak systémy umělé inteligence fungují v reálném světě. Identifikují například samořídící auta správně předměty a chodce a reagují na ně? Dokáže se robot pohybovat v různých domácích prostředích, aniž by rozbil cenné předměty nebo poškodil domácí mazlíčky?
Testy v reálném světě odhalují mezery ve zdravém rozumu, které se nemusí objevit v omezených laboratorních podmínkách.
Dosáhli jsme pokroku, ale práce na umělé inteligenci se zdravým rozumem zbývá
Někteří odborníci tvrdí, že umělá inteligence nikdy nedosáhne lidského zdravého rozumu, aniž by se rozvinuly mozkové struktury a těla, jako jsou naše. Na druhou stranu, digitální mysli nejsou omezeny lidskými předsudky a mentálními zkratkami, takže teoreticky by nás mohly předčit! I když se zatím pravděpodobně nemusíme bát superinteligentní umělé inteligence.
V blízké budoucnosti je nejlepší sázkou AI, která kombinuje naučený zdravý rozum s nějakým starým dobrým programováním. Tímto způsobem se lze snad vyhnout hloupým chybám, jako je záměna želvy s puškou.
Ještě tam nejsme, ale zdravý rozum už není temnou hmotou umělé inteligence – pokrok se děje! Přesto bude při aplikaci těchto technologií nějakou dobu potřeba zdravá dávka lidského zdravého rozumu.