Hlasy, že roboti jednou převezmou nadvládu nad člověkem, nebo alespoň budou hrát významnou roli ve skladbě společnosti, v posledních dekádách neslábnou. A protože jsme se v minulosti na naší facebookové stránce tímto tématem zabývali několikrát, pojďme se na něj podívat blíže.
Vzpoura robotů jako narativ západního světa
V literatuře, filmu a umění se s obrazy apokalyptické budoucnosti, ve které roboti zúčtují se svým stvořitelem, člověkem, objevují téměř sto let. Dosvědčit to může například Ana Matronic, autorka knihy Robot Takeover, která se rozhodla posbírat co nejvíce ,,robotích příběhů“, aby zjistila více o vztahu mezi člověkem a strojem. Ve článku Why we should raise robots like children pokládá otázku, proč se v souvislosti s roboty neustále objevují katastrofické scénáře, ve kterých přebírají nadvládu nad svými stvořiteli. Začíná už u Čapkova R.U.R., aby se dostala až k japonským literárním příběhům. Ačkoliv Japonsko lze považovat za zemi roboty posedlou, zdejší příběhy v minulosti chmurné scénáře o převzetí nadvlády neprodukovaly.
Matronic tedy tento narativ svazuje se západním imperialismem a se současnými společenskými hierarchiemi, do nichž je vepsané historické binární dělení pán-otrok. Revolta robotů je totiž to, co nás učí historie, podle Matronic jde o ,,narativ naší skutečnosti, takže jej činíme narativem naší fikce“. Spojíme-li ho se strachem z industrializace, ,,že ,si pro nás tyto stoje přichází‘, stane se strachem tak pronikavým, tak všudypřítomným, že revoltu robotů vnímáme jako nevyhnutelnou. Jsme tak zvyklí vídat, jak se umělá inteligence dostává mimo naši kontrolu, že nevěříme, že máme nyní věci pod kontrolu“. Jinými slovy, je pro nás těžko představitelné, že by se robotům, obdařeným umělou inteligencí, chtělo zůstat v roli služebného. Nejspíš proto, že vědomí společenské hierarchie je až dodnes založené vnitřním pnutí mezi ovládajícími a ovládanými, se tento narativ opakuje stále dokola ve mnoha a mnoha filmových snímcích, ať už v podobě staršího Terminatora, nebo novějších Ex Machina, Transcendence či seriálu Humans.
Přestože robotika ušla k dnešnímu dni velmi dlouhou cestu, dá se soudit, že je stále ještě v plenkách. Můžeme to tak trochu nesportovně říct na základě zábavných videí padajících robotů, ale také podle na první pohled nevinných, přesto velmi závažných událostí, mezi nimiž je například nedávné spuštění chatovacího robota Taye společností Microsoft. Tomu stačil den k tomu, aby se z něj stal rasista chválící Hitlera. Robotovi stačilo naučit se způsob komunikace těch, kteří si s ním psali. Podobně na tom byla robotka Sophie z dílny Hanson Robotics, která na otázku, zdali chce zničit lidstvo, odpověděla jednoduše: ,,Ok, I will destroy humans.“ Problém nemusí nutně spočívat v potřebě vymanit se z područí člověka, může ale dojít k tomu, že program UI vyhodnotí možnost vyhubit člověka jako logický výsledek svých výpočtů.
A co etika?
To všechno zatím pro naši bezpečnost mnoho neznamená, nicméně závod o dosažení skutečné umělé inteligence již začal. Je přitom provázen mnoha otázkami. V první řadě jsou to otázky etické, které provází také například vývoj autonomních zbraní či automatického řízení vozidel. Už otázce bezpilotních dronů, používaných v současnosti k odstraňování nepřátel americkou armádou, se věnuje Zygmunt Bauman v knize Tekutý dohled, která vyšla jako korespondence mezi jím a bezpečnostním analytikem Davidem Lyonem. Problematika vzdálenosti člověka, který vykonává ,,spravedlnost“ prostřednictvím bezpilotního dronu, spočívá zejména v odloučení člověka dané skutečnosti, kdy daný akt působí podobně jako počítačová hra. Podobně jako v případě automatického řízení vozidla musíme rovněž řešit otázky poruchy nebo nepřesnosti – co když přístroj vyhodnotí špatně situaci a dojde k usmrcení jiného cíle? Jak vyřešit právní otázku zodpovědnosti v případě, že dojde k nehodě automaticky řízeného vozidla? Nese zodpovědnost programátor, výrobce přístrojů nebo (ne)ovládající osoba? V případě UI potom naše obavy získávají na naléhavosti. Těchto a jiných souvislostí si mimochodem všímají autoři Otevřeného dopisu o umělé inteligenci, mezi nimiž jsou i Stephen Hawking nebo průkopník moderních technologií Elon Musk.
Ve článku Can Robots Be Ethical?, který vyšel v aktuálním čísle časopisu Philosohpy Now, jeho autor Robert Newman píše o etice UI. V jeho slovech můžeme cítit přinejmenším skepsi k současnému stavu, ve kterém se studium UI nachází: ,,Postoupení etiky robotům je neetické nejen proto, že roboti provádí binární kód, nikoliv etiku, ale proto, že žádný program nikdy nedokázal zahrnout nepočitatelné množství eventualit, proměnlivých nuancí a komplexit zahrnutých dokonce i v tom nejjednodušším případu, který se dostává před soudce a porotu.“
Jistě si říkáte, že člověk také nedokáže zvážit nepočitatelné množství eventualit ve svém jednání a že do určité míry fungujeme na principu dodržování psaných a nepsaných pravidel, tedy zákonů a norem. Ano, chybujeme také a máme na svědomí mnoho špatných rozhodnutí a činů. V těchto případech však zpravidla existují motivy a především individuální zodpovědnost. Naše rozhodování není pouze věcí chladného kalkulu. Tento základní rozdíl je dobře popsán ve snímku Já, robot, jehož hlavní postava nedůvěřuje robotům, protože se v minulosti jeden robot na základě kalkulace rizik a pravděpodobnosti rozhodl při nehodě zachránit jeho namísto malé dívky.
Myšlení bez emocí
Součástí našeho jednání jsou totiž emoce, které jsou něčím, s čím si současný vývoj UI neví rady. Všímá si toho také David Gelernter, autor knihy Tides of Mind: Uncovering the Spectrum of Consciousness. V nedávném článku Machines That Will Think and Feel nastiňuje nejdříve budoucnost, kdy si budeme moci stáhnout aplikaci se softwarem UI o IQ 150, 500 nebo 5000, aniž nyní víme, co to může znamenat. Tato aplikace za nás vyřídí veškeré úkoly a postará se o naši pohodu. Jenže stroje s IQ 5000 budou stále sotva schopni rozeznat skutečný rozdíl mezi člověkem a květinou. Vědci a filozofové se podle Gelerntera snaží myšlení stále spojovat s racionalitou a logikou, ačkoliv lidská mysl není statickým a racionálním strojem. Na tomto místě také zmiňuje svoji teorii spektra, v jejímž jádru stojí tvrzení, že lidská mysl je určená dvěma póly – momenty čistého myšlení (racionalitou) a momenty čistého bytí, pociťování existence, cítění (emocemi). Mezi nimi se v průběhu dne pohybujeme.
Reprodukovat myšlení se zdá být možné, myšlení o něčem / na něco lze simulovat na počítači. Pokud se jedná o cítění, to se dle Gelerntera může pouze stát, nelze ho spočítat, tedy simulovat. Připodobňuje přitom své spektrum ke smíchání modré a červené barvy, kdy se vytvoří spektrum obou barev, v různých místech různě promíchané, vytvářející různé odstíny barev a barvy nové, například fialovou. Spodní část spektra, která je spojená více s emocemi, je také oblastí kreativity. Ta je důležitá k vymýšlení nových analogií, jež nám dovolují vidět problémy v novém světle. Emoce totiž mají mít mocnou kódovací a sumarizující funkci, mají dokázat zahrnout celou komplexní situaci do jednoho drobného pocitu, díky kterému dokážeme vypátrat vzpomínku zasutou v obrovské sbírce kandidátů s hlubokou podobností věci, na kterou právě myslíme.
Když se vrátíme zpět k současnému stavu robotiky, ten je Gelernterem připodobňován k letu na měsíc. Jakmile máme raketové motory, rádia, počítače a další technologie, let na měsíc je nevyhnutelný. Cesta od reprodukce zmíněného spektra k nadlidskému robotovi však podle něj není krátký skok a přestože máme součástky pro takový let na měsíc, UI dnes není ani nablízku pochopení lidské mysli. Dokážeme možná vytvořit stroje s nadlidskou inteligencí, jak ukazují stroje, které dokáží porazit nejlepší hráče šachů nebo hry Go na světě, jsou však potenciálně nebezpečné jako atomová bomba.
A co společnost?
Do budoucích robotů je vkládána naděje, že se s jejich pomocí podaří vyřešit chudoba a řada dalších problémů, kterým v nastávajícím období antropocénu, kdy člověk poprvé v dějinách přímo ovlivňuje planetu, čelíme. Ostatně tato naděje se pojí s technologií dlouhodoběji, rozhodně déle, než jsme tušili o existenci robota. Technologie vyřešila mnohé problémy, s sebou však přinesla mnohé další. Idealistické představy navíc často nepřipouští, že technologie se může stát vlastním zdrojem nové nerovnosti.
Ve článku Are robots going to steal your job? Probably píše jeho autor Moshe Y Vardi o ekonomických důsledcích stále rostoucí míry robotizace práce. Začíná s fyzikálním termínem fázový přechod. Ten vyjadřuje například situaci, kdy při zahřívání vody nedojde k tomu, co bychom bez naší zkušenosti očekávali, a sice k neustálému zahřívání na vyšší stupeň. V určitém bodě totiž voda začne vřít a měnit se v páru. Podobnou situaci lze sledovat v procesu automatizace, jejíž míra v posledních dekádách neustále stoupala. O její efekty se pak dlouhou dobu přely dvě ekonomické školy v debatě o vlivu na práci, zaměstnanost a lidskou aktivitu, zdali nová technologie přinese masovou nezaměstnanost, nebo roboti poskytnou (či vytvoří) poptávku po nové lidské práci. Současný vývoj nás ovšem nutí opustit tento polarizující pohled z důvodu změny charakteru technologie opatřené UI.
I technologii prostou UI je třeba chápat jako sociálního aktéra, budeme-li se držet aktuálního kánonu v sociální teorii, situace se však s příchodem technologie s UI radikálně mění. Moshe Y Vardi se ptá, zdali si můžeme být jisti, že se neblížíme bodu zlomu, fázovému přechodu, a nepleteme si trend v technologii, která ničí, ale zároveň také vytváří práci, se zákonem, že to tímto způsobem bude pokračovat. Cituje přitom dva americké vědce: ,,Co když se stroje stávají díky svým mikroprocesorovým mozkům tak chytrými, že už nebudou nadále potřebovat nekvalifikovanou práci k tomu, aby fungovaly?“ Chytré stroje dnes přeci dělají nejrůznější práce, od výběru mýtného na dálnicích, po učení dětí a zabíjení nepřátel.
K čemu navíc došlo po 2. světové válce, bylo poměrně brzké oddělení produktivity práce od růstu reálných mezd pracovníků vyrábějících zboží (viz obrázek), přestože se věřilo tomu, že si americký pracovník bude užívat stále vyššího životního standardu. Technologie však ve výsledku pomohla zejména růstu ekonomika neposkytla většině lidí benefitovat z tohoto růstu. Americké mzdy postavené k HDP v průměru od roku 1970 stále klesají, globální nerovnost se stává stále palčivějším tématem, jak popsal Thomas Piketty v bestselleru Kapitál v 21. století.
Je samozřejmě otázkou, jakou měrou se automatizace, UI a robotika podílí na ekonomickém poklesu pracujících. Moshe Y Vardi nezapomíná přiznat vliv globalizace, deregulace, úpadek odborů a státu, nicméně připomíná, že 43 % předních ekonomů v roce 2014 v anketě Global Markets souhlasilo s tvrzením, že ,,informační technologie a automatizace jsou stěžejním důvodem, proč v poslední dekádě ve Spojených státech klesaly mediánové mzdy, navzdory rostoucí produktivitě“. Podobné výsledky pak nabídl Mezinárodní měnový fond ve studii platové nerovnosti v roce 2015. Hlavním závěrem je, že nyní nevidíme znaky toho, že by nové technologie dokázaly vytvářet stejné množství dobře placených pracovních míst, které se s nimi ztrácí.
Budoucnost je teď!
V tomto světle je také třeba sledovat s ostražitostí snahy některých dnešních politiků, kteří akcentují důležitost učebních oborů a zároveň vyvíjí snahy o omezení ,,zbytečných“ oborů, zejména sociálněvědních a humanitních. I vzhledem ke statistikám nezaměstnanosti je možné, že tyto snahy pramení z jiných, než realistických představ o struktuře pracovního trhu a práci 21. století jako takové.
Budoucnost, kterou známe ze sci-fi filmů a knih, se totiž přibližuje. Pokud nebudeme schopni pružně reagovat na měnící se životní podmínky, které technologie – a obzvlášť ty chytré, chytřejší a nejchytřejší – přináší, budoucnost se bude podobat stále více dystopickým představám, které ve filmu tak zbožňujeme, než nadšeným obrazům světa oproštěného od chudoby, nepřátel a nerovností.
Hrozba chytré technologie je tudíž dvojí. Zaprvé, dosud netušíme, jak se racionálně myslící nadlidská inteligence bude chovat, protože nerozumíme lidské mysli, jejíž součástí jsou emoce, a scénáře o vzpouře strojů tedy mají své opodstatnění nejen z důvodu potřeby vymanit se z otrockých okovů; může dojít jednoduše k chybnému vývoji simulace. Zadruhé, chytrá technologie může pomoci eskalovat ekonomickou a sociální nerovnost zvýšením produktivity práce na straně jedné, a zrušením milionů pracovních míst na straně druhé. To je za současného stavu kumulace bohatství v rukách hrstky jedinců a slábnutí moci států těžko myslitelné. Alespoň bez existence nějaké extrémní formy neofeudálního systému.
