Čína je zemí netušených možností, přesto bychom nedoporučili učit se od tamních představitelů, jak stabilizovat společnost. V tomto ohledu dost možná jeden z nejzávažnějších plánů, Social Credit System (SCS), má totiž v roce 2020 vejít do fungování jako povinný pro celou populaci. Úkol vytvořit sytém, který má zavést hodnocení spolehlivosti jednotlivých občanů, dostalo již v roce 2014 osm firem. Situaci si nyní přiblížíme v následujícím textu, který je volným překladem článku Big data meets Big Brother as China moves to rate its citizens, vydaném v časopise Wired.
Johne Spartane, máte pokutu jeden kredit za porušení morálního statutu!
Představte si svět, ve kterém je veškerá vaše činnost sledována a hodnocena: co nakupujete, jaké máte přátele, kolik hodin denně sledujete televizi, jak platíte své účty apod. Zní to poněkud povědomě, tyto údaje jsou přeci již dnes součástí tzv. big data, které o nás schraňují velké společnosti, jako jsou Google či Facebook. Jenže vezměme si taková data, přiřaďme jim nějaké hodnoty, ze kterých potom vyjde jedno jediné číslo stanovené na základě pravidel daných vládou, a dostáváme „občanské skóre“. To může ovlivnit možnosti výběru vašeho zaměstnání, školu, na kterou půjdou vaše děti nebo obyčejnou šanci, že s někým půjdete na rande.
V oficiálním dokumentu čínské vlády stojí: „[Social Credit System] posílí prostředí veřejného mínění, kde je nejdůležitější důvěra, posílí upřímnost ve vládních záležitostech, obchodní upřímnost a budování justiční důvěryhodnosti.“ Uf.
Jak jsou lidé hodnoceni? V systému vyvinutém společností Alibaba figuruje pět faktorů. Kreditní historie (platíte včas své účty?), kapacita plnění (schopnost plnit své smluvní závazky), osobní charakteristiky, chování a preference, mezilidské vztahy.
Zajímavé jsou zejména poslední dvě kategorie. Vaše chování a preference jsou měřeny něčím tak nevinným, jako jsou vaše spotřebitelské návyky. Kdo například tráví několik hodin denně hraním her, je považován za líného. Kdo kupuje pravidelně pleny, je považován za rodiče, který je pravděpodobně zodpovědný. Systém tedy jen nesleduje chování, ale formuje ho. Občany odrazuje od činností, které se vládě nelíbí.
Mezilidské vztahy například společnost Sesame Credit hodnotí na základě toho, s kým komunikujete a zdali šíříte „pozitivní energii“, takže takové psaní pozitivních zpráv o vládě či ekonomice země zvyšuje vaše skóre. Vyjadřovat se naopak kriticky nebo zmiňovat protest na náměstí Tiananmen skóre sníží. A pozor – budete-li komunikovat s přáteli, kteří se takto někde vyjádřili, ovlivní to negativně rovněž vaše skóre.
Dobré skóre bude výhodné. Máte 600 bodů? Dostanete možnost půjčky na online nákup. Máte 650? Půjčte si auto bez zálohy. VIP check-in na letišti. 666? Vyšší půjčka od jedné ze společností, které nyní připravují systém. 700? Let do Singapuru bez nutných dokladů, jako je potvrzení od zaměstnavatele. 750? Zrychlené získání schengenského víza.
Kredit je také otázkou statusu, hodnocením, které mohou lidé vystavit na sociálních sítích. Sesame Credit tak už nyní nabízí tipy, jak zlepšit své skóre: například se nepřátelit s lidmi s nízkým skóre. To otevírá skvělou příležitost pro konzultanty zaměřené na reputaci. Sociální kontrola udělá také svoje: „Nedělej to, nepiš to, nechci, aby to pokazilo moji reputaci.„
Jedná se o zásadní změnu v přístupu, jak upevnit moc vlády. Namísto mávání velkou holí nyní stačí ponechat vymáhání pořádku a správného chování na občanech samotných. Jedná se tak o metodu sociální kontroly převlečené za systém odměn. Špatné skóre vám přeci jednou může pěkně zavařit. Občany není ani třeba zavírat a trestat, neposlušní se potrestají sami. Nedůvěryhodní lidé si nepůjčí auto, peníze, nenajdou práci, postupně se sami vyloučí ze společnosti. V roce 2020 však přesto vejde v platnost dokument, z nějž jde strach už podle názvu: „Warning and Punishment Mechanisms for Persons Subject to Enforcement for Trust-Breaking„. Jeho principem je, že pokud je někde narušena důvěra, důsledky se projeví všude. Nedůvěryhodní budou mít zpomalený internet, omezený přístup do restaurací a klubů, zákaz cestování, nebudou se moci ucházet o některá zaměstnání, jako jsou novinařina nebo veřejná služba, jejich děti nebudou moci chodit do soukromých škol.
Onlife: smíšení online a offline života
Luciano Floridi z oxfordské univerzity mluví o třech zásadních posunech v lidském myšlení: Koperníkův model Země obíhající Slunce, Darwinovu teorii přirozeného výběru a Freudovo tvrzení, že naše jednání je kontrolováno nevědomou myslí. Nyní máme podle něj před sebou čtvrtý posun, při kterém se online a offline spojují do „onlife“. Naše společnost se stává infosférou, směsí fyzických a virtuálních zkušeností, kterými nabýváme „onlife“ osobnosti, odlišné od té, kterou máme ve „skutečném světě“. Je to vidět již dnes na Facebooku a jiných sociálních sítích, kde lidé upravují nebo idealizují své životy.
Systém hodnocení ale existuje i v našem běžném online prostředí – dnes hodnotíme prakticky veškeré služby, používáme aplikace jako Yelp či Peeple, kdy poslední jmenovaná umožňuje hodnotit prakticky kohokoliv. I čínský systém je nyní dobrovolný, má však již své důsledky. Letos v únoru Nejvyšší lidový soud uvedl, že více než 6 milionům občanů bylo zakázáno letět letadlem. Další milion a půl nesmí používat vlaky.
Algoritmy navíc nepracují s kontextem. Někdo například nezaplatí účet, protože byl v nemocnici, někdo jiný může být neplatič. To však platí nejen o čínském systému: jak mohou algoritmy, které ovlivňují životy lidí, zachytit nejrůznější nuance, inkonzistence a kontradikce inherentní lidským bytostem a jak mohou reflektovat skutečný život?
Staří známí
Hodnotící systém byl ovšem v západních společnostech přítomný po desetiletí. Už před 70 lety dva muži, Bill Fair a Earl Isaac, vymysleli kreditní skóre, které ovlivňuje mnoho finančních rozhodnutí, jako jsou půjčky či hypotéky. Většina čínské populace přitom do dneška neměla kreditní skóre, takže se nemohli ucházet o půjčky. Lidé nemají kreditní karty, tudíž ani kreditní historii, a podle čínského Ministerstva obchodu tak Čína přichází ročně o 600 miliard juanů. Chybějící kreditní historie rovněž ústí v masivní mikrokorupci či produkci padělků. Efektivní dozor a odpovědnost jsou tím pádem vítanými nástroji pro rozvoj čínské ekonomiky. Podle vlády chystaný systém zpřístupní nové možnosti lidem, kteří byli tradičně opomíjeni kreditovým systémem, jako jsou studenti a nízkopříjmové domácnosti. Podle Wang Shuqin z Capital Normal Univerzity v Číně je výhodou systému nejen stanovení „morálních standardů“, ale také získání finančních dat.
Ekonomizující slovník je v tomto ohledu velice pozoruhodný. A povědomý. Osvojením kapitalistické hantýrky, známé ze západních společností, může být systém protlačen pod záminkou „celkové konkurenceschopnosti země“ či zvýšení „mentality poctivosti a kreditní úrovně celé společnosti“. Není tak SCS vlastně jen transparentním přístupem ke sledování občanů v zemi, která má se sledováním občanů dlouhé zkušenosti? Je lepší žít s vědomím, že vše, co (zejména online) činíme, je monitorováno, a naučit se, jak dodržet pravidla, nebo žít v ignoranci a doufat, že stále existuje osobní soukromí a že nás vládnoucí natolik respektují, aby proti nám nezakročili? Podle některých lidí může takový systém přinést o něco více kontroly nad našimi daty.
Naše povídání tak má zajímavé pokračování. Zatímco se rozhořčujeme nad orwellovským přístupem Číny, hodnotíme restaurace, knihy či doktory, telefony rozeznávají naše tváře a na fotkách na sociálních sítích nás algoritmy dokáží poměrně spolehlivě otagovat. Všechna velká data, která jsou o našich životech sbírána, již nyní slouží k monitorování a hodnocení. Dávno již žijeme ve světě prediktivních algoritmů, které ovlivňují, zdali jsme dobrými a důvěryhodnými občany. Pomalu se tak blížíme k čínskému SCS, nastolený trend je jasný.
Éra hodnocení a algoritmů
Vstupujeme do éry, kde bude jednání jednotlivců hodnoceno standardy, které nemohou kontrolovat a kde rozhodnutí nemohou být vymazána. Důsledky jsou permanentní. Zapomeňte na právo smazat nebo být zapomenutý, být mladý a bláznivý.
Co bychom měli zajistit již nyní, než bude pozdě, je možnost hodnotit hodnotitele. V knize The Inevitable Kevina Kellyho je popsána budoucnost, ve které jsou sledující zároveň transparentně sledováni. „Naší ústřední volbou nyní je, zdali je tento dohled tajný, jednosměrný panoptikon, nebo oboustranný, transparentní druh ‚přehledu‘ [‚coveillance‘], který zahrnuje sledování sledujících,“ píše.
Naše důvěra by měla začínat u jedinců ve vládě. Data musí být používána zodpovědně a s naším svolením. V systému důvěry je třeba redukovat neznámé, což znamená redukci neprůhlednosti algoritmů. Proti povinnému zveřejňování mluví sice argument, že víme-li, co se děje pod pokličkou, systém lze narušit nebo hacknout, pokud jsou však lidé redukováni na hodnocení, která mohou významně ovlivnit jejich životy, musí existovat průhlednost ve fungování tohoto hodnocení.
V Číně budou lidé z vládnoucích vrstev stát nad systémem. Jaká bude veřejná reakce na jejich nežádoucí jednání? Ovlivní jejich skóre? Jaký vliv budou mít kauzy jako Panama Papers?
Zatím je brzy hodnotit, jaký bude mít SCS vliv na čínskou populaci po zavedení hodnocení sociální, morální a finanční historie. Jak hluboce zasáhne již tak potlačovanou svobodu slova ještě nevíme. Dnes to bude Čína, zítra nějaké jiné místo. Otázky o budoucnosti nejsou ekonomické nebo technologické, ale etické.
Distribuovaná důvěra se může stát hanbou propojenou v jednu síť. Život nekonečnou soutěží popularity, ve které se snažíme získat co nejvyšší hodnocení. Jak daleko jde o odraz toho, jak funguje lidská společnost, a nakolik máme k této distopii nakročeno? Musíme to zjistit.
—
Text je volným překladem článku Big data meets Big Brother as China moves to rate its citizens a slouží jako výpisky z něj. Ilustrace: Kevin Hong, wired.co.uk.
