Jan Campbell: Na cestě do pekla

Osobně pokládám za nezbytné konat tak, aby dobro bylo nejenom zamýšleno, ale a především uskutečňováno. Jinak zůstane jalovým. Podobně jako právo zapsané v dokumentu, není právem. Právo totiž začíná existovat až tehdy, když se o něj přihlásím a prosazuji ho. V tomto příspěvku se pokusím ukázat na nebezpečí, která ušlechtilé či dobře míněné záměry v sobě mají a mohou při realizaci způsobit nenapravitelnou škodu.

O pravdivosti úsloví, že cesta do pekel je dlážděna dobrými úmysly, se přesvědčili mnozí dokumentaristé, včetně britské televize BBC a tvůrci seriálu Inside Story, stejně jako vědci a mnozí z nás, tzv. obyčejní lidé. Doporučuji proto se s nimi seznámit a nad nimi zamyslet. Rád bych věděl, kolik o pravdivosti úsloví vědí programátoři a výzkumnící. V této chvíli mám na mysli Google. Jeho algoritmus nedávno zvítězil nad nejlepším hráčem Go ve třech z pěti partií 3:0. Go patří do skupiny nejvíce komplexních her na světě. Šach je ve srovnání s Go procházka rájem. Pro jeden tah v Go existuje v průměru 200 možností. To znamená, že již po čtyřech tazích jsme v oblasti miliard možností! Vážení znalci v oblasti umělé inteligence si doposud mysleli, že umělá inteligence bude schopna vítězit nad člověkem až za desetiletí. Pokud vím, dosavadní algoritmy mohou řešit pouze jednotlivé a izolované úkoly. Proto je cílem výzkumu vytvořit tak zvané všeobecné algoritmy. Skutečnost je již dnes ale jiná. Proto je na čase spojit vývoj, pokrok s úvodním úslovím.

Demis Hassabis, šéf společnosti Deepmind, kterou koupil Google za stovky milionů USD, patří k těm nejlepším hráčům Go na světě. Během posledních deseti let vyhrál 18 titulů. Ještě v únoru t.r. si myslel, že zvítězí nad Lee Sedol. V Oxfordu hlásal, že nehledě na skutečnost, že většina profesionálních hráčů nám dává malou šanci na výhru, naše interní testy indikují něco jiného. Při takovém hlášení a v takové souvislosti je nezbytné být velice pozorný, umět naslouchat, a ptát se. Co měl Demis Hassabis na mysli, když mluvil o nás? Protože Go nehraje team, muselo se jednat o stroj zvaný AlphaGo. Pro úplnost uvádím, že společnost Deepmind je známa veřejnosti dvěma projekty. Ten první se zabývá algoritmem, který bez pomoci člověka hraje videohry. To této skupiny patří Pacman, Space Invaders a celá řada dalších her. Pořád se ale jedná o řešení jednoho úkolu: hra. Ten druhý projekt je (proto a logicky) AlphaGo. To i proto, že se o utajovaných výzkumech a projektech nikdy nemluví na jakýchkoliv konferencích. Tam se spíše mlží. Skutečností je, že AlphaGo se svými třemi výhrami nad Lee Sedol, z celkově pěti partií vyhrál, ať je již konečný výsledek jakýkoliv. Pro informaci uvádím, že svého času nejlepší šachista světa, Garry Kasparov, prohrál 1966 s šachovým komputerem Deep Blue jednu partii. V roce 1977 vyhrál Deep Blue celou soutěž sestávající z 6 partií v soutěžních podmínkách. Jaký je rozdíl mezi Deep Blue a AlphaGo? Jaký to má význam pro civilní a vojenský výzkum, o kterém jsem psal v příspěvku Drogy-WADA-Buran?

Zjednodušeně formulováno lze konstatovat, že Deep Blue je komputer fungující na počítání a výkonu. Deepmind pracuje na zcela jiném principu. Tento princip lze popsat jako intuice. Nejedná se o počítačový výkon. Tak to nazývá i sám Hassabis, původním vzděláním neurovědec. Pro laiky není jednoduché porozumět funkci intuice. Vím to z praxe jako přednášející na univerzitě. Vždy, když došlo na intuici, velká většina již tak vybraných studentů, kroutila jenom hlavou a při vysvětlování praktických příkladů měla oči velké, jako ryby v akváriu. Proto se často jako návod k vítězství v GO používá slovo a princip intuice. Aby mohl stroj vyhrát nad Lee Sedol musí stroj konat jako člověk.

Na tomto místě vznikají vážné otázky spojené s etikou a morálkou a tím i bezpečností společnosti. Společnost, ve které žijeme, neakceptuje tyto hodnoty jako prioritní. Ani je pořádně nevyučuje. Proto je riziko výzkumu tohoto typu pro lidstvo jako takové vysoké. Přidám-li k tomu úvahu o skutečnosti, že všechen dosavadní lidský pokrok byl, je a bude vždy nerovnoměrný, již kvůli pouze člověku typické vlastnosti zvané negentropie, jakákoliv bezpečností analýza bez zohlednění aspektu – stroj konající na principu intuice, nemá konec konců cenu papíru, na kterém je napsána.

Samozřejmě nevím a nikdy nebudu vědět jak daleko má a bude mít Demis Hassabis vše pod kontrolou. Vím v principu, že dvě programované neuronální sítě mohou simulovat lidský mozek. A že tyto sítě sestávají z mnoha úrovní a spojovacích bodů, uzlů. Úrovně vyhodnocují informaci, v tomto případě obraz hrací plochy, barvu apod. Spojovací body, uzly rozhodují o tahu stroje. V uvedeném případě, a podle slov Demis Hassabise výzkumný kolektiv trénoval algoritmus s pomocí analýzy 100 tisíc amatérských her. Toto množství dat stačilo k tomu, aby stroj mohl začít hrát sám proti sobě, trénovat se. Výsledkem je dnes skutečnost, že první neuronální síť rozhoduje o nejlepším možném tahu, zvaném Policy Network. Paralelně k tomuto existuje druhý algoritmus. Ten dává tipy, kdo na konci vyhraje. Tento proces se jmenuje Value Network. Obě sítě jsou kombinovány s tak zvaným Monte – Carlo procesem, metodou známou například ze simulování náhodných statistických jevů a událostí.

Jestli je možné věřit všem slovům Demis Hassabise, tak jeho program simuluje všechny pravděpodobné tahy a dá radu ohledně jejich následků. Náš AlphaGo-Systém nemusí brát na zřetel 200 tahů, ale stačí tři, ty s největší pravděpodobností. Z těchto slov Demis Hassabise vyplývá, že hra proti Lee Sedol je pouze mezihrou. Konečným cílem jeho práce proto je, nejenom podle mého skromného hodnocení, všeobecný algoritmus schopný nabídnout pro každý jednotlivý problém tzv. meta – řešení. Toto je téma, na další a mnohem delší příspěvek. Indikativně se zmiňuji o meta modelu činnosti mozku ve své knize Souhlasu netřeba, která bude v dubnu dostupná evropské veřejnosti. Jsem vděčný Gregory Batesonovi (1904 – 1980), britskému a posléze americkému biologu, antropologu a ekologu, ale i filosofu a psychologu za možnost seznámení se s jeho konceptem kybernetického modelu mozku v rámci studií a osobního setkání před několika desetiletími. Baterson byl univerzální myslitel, jenž ovlivnil mnoho vědeckých disciplín, podílel se mimo jiné na vzniku vědecké kybernetiky a měl jasnou představu o nebezpečí, které představuje stroj, který je inteligentní jako člověk. Osobně považuji za nutné si uvědomit, že bez patřičného lidského řešení znamenajícího omezení inteligentního stroje, naše šance na přežití v daném systému budou pomalu a jistě, každým dnem menší.

Pro vyvážení argumentu si dovoluji se zmínit o úspěšné ruské společnosti PromoBot sídlící ve městě Perm. Společnost má podle informací, potvrzených z velké části veřejně dostupnými prameny v RF a ČLR, výzkumný tým s podobnými schopnostmi jaké má výzkumný tým Deepmind. Předpokládám, že Rusové mají mnohem lépe vyvinutou lingvistikou stránku programu a vše s tímto aspektem spojené. PromoBot robot má největší stupeň autonomnosti ze všech veřejně známých řešení ve světě, vnímá smysl řečeného, odpovídá s pomocí syntezátoru, zapamatuje si každého, s kým měl kontakt, rozezná řeč při jakémkoliv hluku a pozná obličej, tvář i za naprosté tmy atd. Ovládání dialogu v čínštině indikuje nejlepší lingvistickou základnu na světě. Algoritmus sebevzdělání a vlastní navigační systém dělají produkt velice atraktivním. Proto se sami Číňané snaží o spolupráci a společný výzkum. Jenom zdánlivě existuje totiž neslučitelnost lingvistiky s rozhodováním a intuicí člověka. I tohle je však téma na nový příspěvek. Práce obou zmíněných společností, americké Google a ruské PromoBot, jako jednu z mnoha, se bezpochyby odrazí ve vývoji a realizaci projektů stíhaček šestého pokolení a podobných kosmických létacích a boje schopných pilotovaných a bezpilotních aparátů. Rozdíl bude především v investicích a ceně produktu. PromoBot stojí přibližně 10.000 USD! Nevím, co stojí více méně slušný komputer.

Dnešní příspěvek ukončím připomenutím skandálu z jara roku 1996. Před 20 roky zveřejnil Alan David Sokal (1955), profesor matematiky na University College London a profesor fyziky New York University článek v neodborném časopisu Social Text vydávaný Duke University. Článek byl nazván Transgressing the Boundaries: Towards a Transformative Hermeneutics of Quantum Gravity. V němčině zní název článku Die Grenzen transgredieren: hin zu einer transformativen Hermeneutik der Quantengravitation. Nevím, zda byl kdy článek přeložen a zveřejněn v ČR. To není ale podstatné. Podstatné totiž je míchání pojmů z fyziky a filosofie to jednoho programu. A také skutečnost, potvrzená samotným autorem: Parodií jsem položil na lopatky vydavatele časopisu a dokázal, že se lépe publikují články, které spadají do očekávání vydavatelů, vlastníků časopisů a jejich světonázoru. Já osobně kromě uvedeného konstatuji, že se i po 20 letech potvrzuje moment setrvačnosti, urputnost zástupců přírodních a humanitárních věd a tím i nebezpečí pro společnost vyplývající z omezenosti specialistů. Massimo Pigliucci, italský vědec, biolog a filosof přednášející v USA na Cuny City College svého času konstatoval: Die Naturwissenschafter, von denen ich weiss, dass sie über solche Dinge nachdenken, gehen tendenziell süffisant davon aus, dass Sokal der gesamten Philosophie eine harte Lektion erteilt hat.(Ve vlastním překladu to zní přibližně: Přírodovědci, které znám, že myslí o tomto tématu, vycházejí sufisantně z toho, že Sokal dal tvrdou lekci celé filosofii). Není tomu tak. Protože nelze věřit příběhům, i když přinášejí dar klidu na duši. Příběhy nejsou o životě, stejně jako věda není o životě a mapa není krajina, kterou zobrazuje. Nevím, co z uvedeného – pokrok a cesta do pekel charakterizuje dnešního člověka hlouběji: zda ta jasná, pevná, spolehlivá jistota člověka vědoucího a věřícího v Apeiron, nebo to nekonečné hledání a zkoušení pravdy za cenu boje na smrt a sám se sebou. Stará židovská pravda z Kabaly peněz možná napoví: Často nebereme v úvahu, z kterého účtu vlastně čerpáme. A nechápeme, že čím méně své porce z jiných světů proměníme v materiální hodnoty, tím lépe. Jedině tehdy budeme mít skutečnou, dobrou míru svého života, aniž bychom využívali svoje rezervy z jiných světů. Dalo by se dokonce říci, že naše skutečné bohatství se měří podle toho, co nemáme. Souhlasu netřeba.

Vyšlo na Vasevec.cz. Publikováno se souhlasem vydavatele.