Hawking se plete! Máme se kvůli robotům obávat o jedinečnost člověka?


O technologické singularitě, tedy stavu, kdy počítače dosáhnou výkonu lidského mozku, uvědomí si sami sebe, vyhodnotí člověka jako škodnou a smetou ho z povrchu zemského, jsme psali již mnohokrát. Existují i názory, z druhé strany, jejichž argumenty, že se tak nikdy stát nemůže, jsou velmi logické. Nechme tedy zaznít i je.

Před několika dny jsem viděl část známého Spielbergova snímku A.I.: Umělá inteligence. Ve filmu figurovalo na první pohled ve všech ohledech normální dítě, které však nebylo zplozeno, ale spíše sešroubováno – robot. Robot který vidí, cítí, či miluje úplně jako člověk. Stroj k nerozeznání od člověka, který však pro své lidské tvůrce stále zůstává pouhým mechanismem. Představa, že se jednou podaří sestrojit počítač, mechanismus či robota, který bude po mentální stránce nerozeznatelný od člověka, je značně rozšířená a pro mnohé věřící může představovat určité ohrožení jejich představ o výlučnosti člověka. Dobrá zpráva je, že se rozhodně bát nemusí.

Je zřejmé z čeho pohled na dosažitelnost zkonstruování nějakého druhu „robočlověka” vychází? Z materialistického přesvědčení o povaze reality. V rámci materialistické představy nejsme nic jiného než nesmírně složité, čistě fyzické, mechanismy, které samy od sebe vznikly působením ryze přirozených procesů. Bůh, duše, duch, či cokoliv imateriálního neexistuje. Jestliže je to, co jsme, pouze obrovsky složitý bezduchý mechanismus, který se do současné chvíle vyvíjel bez pomoci nadpřirozené inteligence, pak je velice logické očekávat, že se nám nyní (při zapojení našich nabytých schopností o to jednodušeji) podaří vytvořit kopie sebe samých a nebo alespoň zkonstruovat nám velice podobné výtvory.

Faktem je, že jsme něčemu takovému na hony vzdáleni. Lidské vnímání a myšlení je schopnostem jakéhokoliv stroje nesmírně vzdáleno. Schopnosti stroje a člověka jsou nepřeklenutelně rozdílné. Neliší se kvantitou ani kvalitou, ale kategorií. Můžete naivně stokrát horlit pro myšlenku, že složitost budoucích počítačů dosáhne jednou takové míry, že se stroj jednoho dne tak nějak „probudí” k vnímání sebe samého, pravdou ale zůstává, že se tato možnost s rozvojem našeho poznání neustále zmenšuje. Pořád sice zrychlujeme rychlosti procesorů, navyšujeme kapacity pamětí, či zvyšujeme množství informací dodávaných počítačům v softwaru, nikdo však zároveň nemá tušení, co je třeba přidat k našim stávajícím „nevědomým” počítačům k tomu, aby se staly vědomými. Ani teoreticky nemáme nejmenší ponětí, co počítači dodat, aby se nám stal v mentálních schopnostech podobný. Je přitom zjevnou pravdou, že ani ty nejvýkonnější superpočítače dneška nejsou o nic blíže byť jenom nějakému určitému „zombie” stavu, než obyčejná školní kalkulačka. Čím ji převyšují? Nevědomé elektrické impulsy vybíhají z elektrických obvodů a reagují s nějakým z připojených zařízení. Tak to chodí u kalkulačky, ale zároveň i u super šachového počítače Deep Blue, který sváděl vyrovnané šachové partie s Kasparovem. Zmáčknete tlačítko 3, symbol pro násobení a klávesu pro číslo 5. Počítač však neví nic o trojkách, pětkách, nebo výsledku jejich násobení skrytých pod číslem 15. Vstup přetransformovaný na výstup v souladu s programem. Vše co se tu odehrává, jsou střety elektronů a změny v napětí. Žádné skutečné násobení a pochopení čehokoliv. Všechen smysl a pochopení, který se zdá kalkulačka nebo šachový program mít, je na straně lidského uživatele a programátora. Nevědomý počítač nemůže myslet. Může vám v tom pomoci, ale je to asi taková pomoc, jako když vám nemyslící hodiny ukáží čas. Samy o sobě neukazují nic.

Krásně věc ilustruje příběh z pera filozofa Johna Searla. Nabádá nás, ať si představíme pouze anglicky mluvící osobu uzavřenou v nějaké izolované místnosti v Číně. Čínsky nevládne ani trochu, má však k dispozici obrovskou knihu obsahující výčet všech myslitelných otázek a odpovědí na ně v čínštině. Číňané vně té místnosti sepisují otázky v čínštině a na kusu papíru mu je podsouvají pode dveřmi. Náš Angličan si v knize vyhledá otázku a odpověď na ní, přepíše ji na kus papíru a pode dveřmi předá tazateli. To co Angličan celou dobu dělá, není nic jiného, než algoritmický výpočetní úkon – spárování vstupu s výstupem. Kniha otázek a odpovědí (program) byla zajisté sepsána nějakým Číňanem (programátorem), který věděl co dělá, což se ale samozřejmě vůbec nedá říci o Angličanovi (počítači), který tupě a bez jakéhokoliv porozumnění přiřadil jeden znak k druhému a zareagoval daným výstupem. Počítač nedisponuje tím, co se nazývá intencionalita, což je výraz, který použijeme ve chvíli, kdy daný subjekt skutečně rozumí smyslu jím předáváné informace. To ale v tomto případě prokazatelně není možné. Číňané za dveřmi sice nacházeli v „odpovědích” Brita smysl, z hlediska pohledu na Angličana však šlo pouze o zdání, o mechanický úkon porovnávání symbolů podle algoritmu. Pouze takto pracuje a může pracovat počítač.

Zaslechl jsem námitku, že i když počítač nemyslí a nemá vědomí, může pořád ještě nicméně například člověku plně konkurovat smysly. Cožpak není počítač kupříkladu již dnes schopen na základě jím provedené analýzy elektromagnetického záření určité vlnové délky (světlo a barva) poskytnout výstup v tom smyslu, že tráva na kterou zaměřil připojenou kameru je zelená? Určitě ano. Vidí tedy počítač a co víc…vidí barvy? Jestliže ano, liší se vůbec od člověka? Opět se dotýkáme ohrožení jedinečnosti člověka. Je-li veškerá realita tvořená pouze a jenom fyzikálně popsatelnou realitou, pak by měli být teoreticky člověk i stroj schopni stejných výkonů. Není potom důvod, proč by se schopnosti robota neměly vyrovnat schopnostem člověka. Ta myšlenka je ale opět prokazatelně mylná. Veškerá realita není ani vzdáleně vysvětlitelná jenom fyzikou a chemií. Vezměte si na začátek fenomén barvy. Barva není pouze fyzikálně popsatelné světlo a nelze vysvětlit jenom s odkazem na fyziku vlnových délek světla. Když totiž zavřete oči v tom nejčernějším tunelu, hravě si představíte jasně žlutou či třebas červenou barvu, i když nikde okolo vás ani ve vás a vašem mozku žádné světlo není. Ani jeden jediný foton. Záhada že? Vidíme barvy, ale kde jsou jejich fyzičtí nositelé? Jak je například toto možné vysvětlit jinak než myšlenkou o ne plně fyzikálním charakteru fenoménu barvy a podstaty člověka? Co tedy s počítačem? Může vidět a vidí barvy? Již na základě toho co již jsme si řekli výše, je jasné že ne. Když si počítačový program udělá analýzu vlnové délky, může být výstupem jeho činnosti správná informace o detekci modré barvy, což nám klidně zahlásí skrze reproduktor. To ale vůbec neznamená, že vidí. Jediné co je počítač naprogramován udělat, je bez jakéhokoliv pochopení změřit vlnovou délku a v návaznosti na programové zadání svůj výstup označet termínem „modrá”. Žádný počítač (a tedy ani biologický „stroj” jako mozek) ale nikdy neměl a nemůže mít vizuální dojem. Nechal kvůli nám z reproduktoru zaznít slovo „modrá”, pro něj je to ale pouhý hluk bez významu. Podal nám hlášení o naměření 450 nanometrů vlnové délky světla, které ale člověku snažícímu se na základě této informace o prožití vjemu z modré barvy vůbec nijak nepomůže. Je to proto, že reprezentace fenoménu jeho fyzikálním popisem, není to samé co fenomén samotný. Fyzikální je ale bohužel vše, co počítač kdy může být. Modrá se nerovná (pouze) 450 nm a kvalita a existence vizuálního dojmu tak nelze popsat za pomocí nějakého číselného vyjádření. Vidí tedy počítač barvy? Ne, je slepý, nevidí nic.

Je-li člověk a jeho vnímání zcela vysvětlitelné v kategoriích fyziky a chemie, nebude problém vytvořit stroj, který se mu bude plně a ve všech ohledech podobat. Výše jsem se však snažil krátce poukázat na omezení, která logicky nutně postihují fyzické mechanismy jako jsou počítače či roboti. Vzhledem k tomu, že zároveň nepostihují člověka, lze usuzovat na to, že člověk není pouze fyzické podstaty, ale má vědomí. Toho, že by tedy prudký rozvoj robotiky otřásl tradičním vnímáním člověka se skutečně obávat nemusíme.

Autor: Jiří Lem (upraveno)