Otázkou zda stroje mohou myslet se lidé zabývají už dlouhou řadu let. Jako první se v 17. století podobným tématem zabýval filosof René Descartes, nicméně přímo si tuto otázku pokládá ve 40. letech minulého století matematik Alan Turing a v 80. letech ji znovu otevírá filosof John R. Searle. Následovalo mnoho dalších myslitelů, kteří na toto téma představili své teorie, nicméně stále se zdá, že se nepodařilo najít uspokojivou odpověď.
V této eseji se pokusím na některé autory navázat a představím svůj názor na tuto poměrně náročnou tématiku. Za stroj budu (podobně jako mnoho autorů od dob Turinga) považovat entitu založenou na digitálním zpracování informace, nicméně se budu snažit ukázat, že ptát se na uvedenou otázku nemusí mít vlastně valný smysl.
Nejasnost zadané otázky
Dříve než se pokusím nabourat adekvátnost otázky myslících digitálních zařízení, je dobré ukázat si, co všechno se za ní skrývá. Na první pohled možná celkem jednoduchý dotaz se totiž po hlubším rozboru rozroste v mnoho dalších podotázek či různých modifikací otázky původní. Můžeme se tedy rovnou ptát i stylem: „Mohou mít stroje vědomí či inteligenci?“, „Je lidská mysl jen určitým typem stroje?“ či „Jak vlastně poznat, že stroj myslí, či že má mentální stavy?“. Snadno se tak dostaneme do bodu, kdy už ani nevíme, zda je vhodnější zkoumat schopnosti strojů z hlediska podoby s lidským způsobem uvažování, nebo se spíše obecněji zabývat otázkou, který typ chování je ještě možné označit za myšlení.
Uvažování o uvedených tématech je ostatně velmi znesnadněno neurčitostí přesných definic souvisejících pojmů. Popis stroje zúžím na digitální počítač. Budeme jím tedy označovat zařízení vlastnící nějakou paměťovou a výpočetní jednotku založenou na zpracování číselných dat a pracující podle souboru pravidel, kdy bere data ze vstupu a následně generuje výstup. U dalších pojmů si už však nemusíme být zcela jisti jejich správným významem. Počítač byl vytvořen člověkem a není tedy těžké jej nějak definovat, nicméně existuje hned několik různých možností jak si vysvětlovat pojmy jako je myšlení, vědomí, inteligence nebo třeba i život. A pokud neznáme jasnou odpověď na to, co tato hesla označují u člověka, je dosti těžké posoudit, zda takovými vlastnostmi disponuje nějaké výpočetní zařízení či obecně jakákoliv jiná entita.
Definice pojmů
Pro potřeby eseje je tedy nutné přiřadit k uvedeným pojmům určité definice, aby bylo možné na něčem stavět případné argumenty. Zde tedy uvádím, jak jsou tyto výrazy často chápány, ačkoliv připouštím, že to nejsou jediné možné způsoby jejich výkladu.
- Myšlení – specifický způsob spojování, rozlišování, porovnávání a souzení jednotlivých vjemů a zkušeností. Souvisí s řečí, která je jeho prostředkem i určujícím prostředím.
- Vědomí – je základní atribut bdělého života. Integruje rozmanité duševní či mentální činnosti a do jisté míry je řídí. Je zdrojem vůle, volních aktů a rozhodování.
- Inteligence – rozumová schopnost řešit nově vzniklé nebo obtížné situace, učit se ze zkušeností či se přizpůsobovat novým okolnostem.
- Život – soubor signálních a sebeudržovacích procesů v těle určitého organismu, které zajišťují například látkovou výměnu, dráždivost nebo reprodukci.
Dále je dobré si ujasnit, způsob náhledu na problematiku. Jak již totiž bylo naznačeno, je hned několik témat, které můžeme při uvažování nad myslícím strojem rozebírat. V dalším textu tak budu k problému přistupovat z úhlu, kdy je cílem vytvoření takového digitálního stroje, který by dokázal plně simulovat schopnosti lidského mozku. Začnu však rovnou uvedením několika klíčových rozdílů člověka a stroje, které dle mého vylučují možnost takové zařízení realizovat.
Rozdíly mezi člověkem a počítačem
Stejně jako uvádí ve své knize Koukolík [2], hlavní rozdíl mezi člověkem a strojem je především ten, že člověk je živý. Tělo člověka má jen omezenou dobu existence a obsahuje spoustu mechanismů, které se snaží oddálit moment ukončení jeho biologických procesů. Pomineme-li různé složitější sociokulturní aspekty života, jedná se především o zajištění potravy a kyslíku. Další pudově zakořeněná vlastnost, která též stojí za zmínku, je touha po zachování genetické informace. Stroj ovšem žádné takové potřeby neřeší. Jeho tělo se samozřejmě také jednou rozpadne, nicméně zcela zásadní rozdíl je v tom, že fungování počítače je možné opakovaně přerušovat nebo též duplikovat na jinou výpočetní jednotku, aniž by v jeho systému docházelo k jakýmkoliv funkčním změnám.
Dalším podstatným rozdílem, který s tím předchozím úzce souvisí, je dle mého názoru rozpor lidské subjektivity a typické počítačové objektivity. Zatímco lidská bytost a její mysl mívá na určité věci nějaký názor pocházející z vlastních životních zkušeností (často i lišící se od názorů jiných lidí), myšlení digitálních počítačů je popsáno zcela formálně a nezaujatě vůči okolnímu světu. Jak se alespoň zdá, počítači schází jakákoliv forma vlastní intence, neboli cíleného zaměření k nějakému podnětu, který by se bezprostředním způsobem vztahoval k jeho fyzické (nebo virtuální) výpočetní jednotce. Jistě bychom byli schopni mu nějakou takovou vlastnost implementovat, nicméně toto rozhodování by jistě bylo postavené na příkazech samotného programátora, spíše než na vlastním zájmu daného zařízení.
Poslední neméně důležitou odlišností je dle mého i analogová povaha těla člověka vs. digitální povaha počítačů. Ta do hry vstupuje ve chvíli, kdy chceme stroji vytvořit senzory simulující lidské smysly, pomocí nichž by byl schopen vnímat signály z okolního světa i jinak než verbálně. Rushkoff [3] však správně upozorňuje na to, že převod informace z reálného (spojitého) světa do digitálního (nespojitého) způsobuje ztrátu informací, neboť proces je založen na tzv. vzorkování, které bere ze spojitého signálu jen některé hodnoty. A ačkoliv je dnes většina digitalizovaných signálů pořizována v takové kvalitě, aby postačila rozlišovacím schopnostem smyslů člověka, nelze předpokládat, že naměřená data mají stejný charakter jako ta spojitá. Mezi dvěma naměřenými vzorky se vždy skrývá nějaká detailnější informace, která se může při určitém typu percepce a vyhodnocování ukázat jako důležitá.
Pud sebezáchovy
Výše uvedené vlastnosti (tedy především lidský pud sebezáchovy a subjektivita myšlení) jsou při porovnávání člověka a stroje dle mého natolik klíčové, že vůbec nemá smysl snažit se o to, aby stroj vykazoval známky myšlení podobného člověku. Kdybychom se tomu však i přesto chtěli přiblížit, museli bychom do programu počítače vložit nějaký typ pudu sebezáchovy jako jeden z hlavních modulů, který by byl použit při naprosté většině jeho rozhodovací procesů.
Vytvoření stroje, který by se bál o vlastní přežití by s sebou ovšem neslo potřebu vytvořit v jeho systému mimo jiné i takovou sadu funkcí, která by v některých případech umožňovala pokusit se postavit člověku a zabránit mu v jeho rozhodnutích a aktivitách. To ovšem odporuje lidskému antropocentrismu a jeho vlastnímu pudu sebezáchovy, takže není příliš pravděpodobné, že by k něčemu takovému v budoucnu došlo.
Někdy se v literatuře o možnostech budoucích technologií objevují též scénáře, kdy je stroji připsána vyšší inteligence, a proto ho člověk nechává rozhodovat v klíčových otázkách týkajících se celé planety a lidského pokolení. Nejednalo by se tak už o čistý pud sebezáchovy člověka, ale spíše ochrany planetárního systému jako celku. Vzhledem k tomu, že by však takový počítač byl stvořen lidmi, musel by do něj už předem být vložen nějaký vyšší princip, který by určoval, co je pro kterou část biotopu či obyvatelstva výhodné. Ten dosud samo lidstvo nezná a je bláhové si myslet, že bez takto fatálního základu by dokázalo stvořit zařízení, které by bylo k planetě jako celku objektivní.
Myšlení vs. inteligence
Na začátku eseje jsem uvedl pojmy myšlení a inteligence, které jsou si sice velmi blízké, ale podle uvedených definic se v jednom aspektu velmi liší. Já tento rozdíl spatřuji především v tom, že součástí inteligence jsou určité kognitivní schopnosti, zatímco myšlení je přesně daný způsob manipulace se symboly. Inteligencí obdařená entita je tedy schopna vyhodnocovat nově nabyté zkušenosti a integrovat je do svého procesu myšlení, který se tímto v čase vyvíjí.
Searle [4] ve své knize představuje myšlenku vědce McCarthyho, že schopnost myšlení by za určitých podmínek mohlo být připisováno i obyčejnému termostatu neboli jakémukoliv zařízení, které obsahuje alespoň nějaký rozhodovací proces. Searle se takovému přístupu vysmívá a tvrdí, že myšlení člověka je obohaceno tím, že symboly s nimiž operuje pro něj mají i nějaký obsah. Jedná se tak vlastně o výše uvedenou subjektivitu a vztažení významů k vlastní osobě. Tvrdí dále, že je to způsobeno tím, že mysl lidí na rozdíl od stroje obsahuje i sémantiku, zatímco procesy ve stroji jsou popsané zcela formálně pomocí sady syntaktických pravidel. Myšlenku zakončuje tím, že syntaxe nestačí na popis sémantiky.
Já ovšem tvrdím, že pokud bychom byli schopni analyzovat obsah myšlení konkrétního člověka v konkrétním časovém okamžiku, je teoreticky možné jeho sadu rozhodovacích procesů v počítači nasimulovat. Kdybychom totiž pro daného jedince dokázali určit, jakých obsahů nabývají symboly v jeho myšlenkovém aparátu, bylo by pak možné pomocí syntaktických pravidel popsat, jaký sémantický význam pro něj mají. Nesouhlasím tedy se Searlem, že by syntax nestačila na sémantiku. Připisuji jeho názor tomu, že publikace vznikala v 80. letech 20. století, kdy bylo pro většinu lidí těžké si představit různé typy potencionálních meta-jazyků, které by byly schopny popisovat všemožné druhy symbolických asociací.
Jak jsme již řekli, původní otázka je formulována velmi volně, a proto není jasné, kterou z uvedených dvou vlastností (zda myšlení či inteligenci) u stroje vlastně chceme vytvořit. Zkusme se tedy zabývat oběma. Troufám si tvrdit, že v budoucnu nebude zas tak složité vytvořit digitální stroj, který bude schopný napodobit myšlení člověka v pevně daném časovém okamžiku, a který umožní přenést obsah mozku jedince do virtuálního zařízení včetně jeho vzpomínek a rozhodovacích procesů. Co se ovšem podle mého názoru lidem nepovede nikdy, je vytvořit zařízení založené na digitální reprezentaci, které by bylo obdařeno inteligencí schopné vyvíjet se stejným způsobem jako se to daří té lidské.
Zásadní problém tedy vidím v tom, že lidská zkušenost operuje s rozměrem času, neboť myšlení se neustále vyvíjí. To se děje na základě inteligence, která je závislá na subjektivitě jedince, a která je nejspíš tím hlavním zlatým grálem všech myslitelů a vědců zabývajících se otázkou myslících strojů.
Povaha inteligence
Inteligence je dle mého něco tak silně propojeného s biologickou podstatou, že entita založená na křemíku jí jednoduše není schopná. Organické bytosti v sobě kromě jiného totiž obsahují nějakou člověkem dosud zcela nerozluštěnou esenci, která na planetě Zemi zajišťuje mnoho procesů jako je vznik, vývoj a zánik živočišných druhů, či jejich schopnost adaptace na nové typy podnětů. Je schopná nejenom flexibilně reagovat na neustálé změny okolního prostředí, ale též často sama participuje na jejich vzniku. Za mnoho těchto skutečností lze samozřejmě vidět geny a v nich uložené informace, ale ani ty nám stále nedávají odpověď na otázku, proč a jak je vlastně zajištěna modifikace a vznik genů nových.
Inteligence je schopnost vzdělávat se, reagovat na nově vzniklé situace a poučit se z chyb. Už Turing [5] ve své eseji navrhuje abychom se při vývoji umělé inteligence nesnažili vytvořit kopii mozku dospělého jedince, ale spíše malého dítěte, které teprve pomocí experimentů bude interagovat s okolím a vytvoří si tak sadu svých vlastních rozhodovacích pravidel, priorit a názorů.
Tvrdý [6] ukazuje potencionální neschopnost dnešních strojů řešit nově vzniklou situaci na modelovém příkladu, kdy se na přechodu pro chodce rozsvítí zároveň červená i zelená signalizace. Pomineme-li možnost, že počítači bylo explicitně naprogramováno, jak se v takovém momentě zachovat, jen těžko dojde (na rozdíl od člověka) k nějakému řešení. Lze si sice představit stroj, který by podobně jako člověk prostě zkusil silnici přejít, podle výsledku si zapamatoval jak takový experiment dopadl a při příští podobné situaci se dle toho zařídil. Ale ani v takovém případě stále není jasné, proč by vůbec měl stroj nějakou vozovku přecházet. Pokud by to bylo na popud člověka, opět cítíme absenci nějakého vlastního záměru. Ten podle mě totiž nelze určit jinak než kombinací subjektivní intence a inteligence, kterou však stroj nedisponuje.
Podle Koukolíka je člověk sociální primát, který typicky něco nabízí a od ostatních něco požaduje. Pokud by tedy počítač měl být obdařen inteligencí podobnou člověku, musel by jistě mít možnost vstupovat do identických interakcí jako je tomu u lidí. K tomu by měl mít i pokud možno typ těla co nejpodobnější člověku, protože mysl se jistě neutváří pouze na základě verbálních vjemů, ale i všech ostatních smyslových počitků. Jeho zkušenost se světem by pak též byla hodně modelována i jeho vlastním vzhledem, protože v případě, že by měl jakékoliv robotické tělo rozeznatelné od lidského, okolí na něj bude příslušně reagovat a nikdy tak nezakusí totéž co zažívá člověk. Dostáváme se tak až k tomu, že by bylo potřeba vytvořit identickou kopii člověka.
V takovém bodě už má ale cenu se ptát, jaký smysl má vlastně vytvářet takovou bytost pomocí složitých procesů, můžeme-li si ho vytvořit mnohem jednodušším a přirozenějším způsobem. Není třeba si hrát na pána tvorstva, vždyť takových strojů již máme kolem sebe přes sedm miliard!
Závěr
Svět je dle mého názoru natolik komplexní prostředí, že není v dohledné době možné jej postihnout výpočetní silou digitálních zařízení. Toho není ostatně schopen ani člověk, ale ten si vzhledem ke své subjektivitě myšlení ze světa vybírá pouze to, co je pro něj v danou chvíli relevantní. Co ale do této skupiny vjemů patří, nedokážeme v současné době sami určit. Těžko tedy říci, co by mělo být relevantní pro počítač obdařený umělou inteligencí.
Pokud budeme myšlení definovat jako specifický způsob spojování, rozlišování, porovnávání a souzení jednotlivých vjemů a zkušeností tak, jak jsme to udělali v úvodu této eseje, můžeme s klidným svědomím prohlásit, že myslí je obdařeno každé digitální zařízení schopné generovat výstup na základě nějakého vstupu. Nás však při studiu původní otázky mnohem více zajímá proces jejího vzniku, spíše než její konkrétní instance. Co tedy můžeme naopak zcela kategoricky odmítnout, je možnost vytvoření takové strojové inteligence, která bude vykazovat stejné vlastnosti jako mozek člověka. Nervová povaha lidské mysli je založena na zcela jiných principech než křemíkový číslicový počítač, díky čemuž je zcela jasné, že inteligence člověka jednoduše není digitálně algoritmizovatelná.
Zde se tedy konečně dostávám k tomu, že nevidím žádný rozumný důvod pro tvorbu takového zařízení. Světu jistě mnohem více prospěje vytvoření specializovaných rozhodovacích nástrojů pro určité typy úloh a problémů, spíše než si dokazovat, že dokážeme stvořit inteligentní robotickou kopii člověka.
Použitá literatura
[1] Capra Fritjof. 2002. „Bod obratu. Věda, společnost a nová kultura“.
[2] Koukolík František. 2005. „Já – o vztahu mozku, vědomí a sebeuvědomování“.
[3] Rushkoff Douglas. 2010. “Program or be Programmed”.
[4] Searle John R.. 1994. „Mysl, mozek a věda“.
[5] Turing Alan. 1950. „Computing Machinery and Intelligence”.
[6] Tvrdý Filip. 2011. „Turingův test. Filosofické aspekty umělé inteligence“.
[7] Vadinský Ondřej. 2011. „Různé pohledy na otázku: Mohou stroje myslet?“