Pošto potpuno proverenih informacija o temi koje se dotičem jedva da ima, moram da se oslonim na tekstove iz medija i poneki dokument koji se nalaze onlajn, te vas uputim da i sami odradite svoj deo čitanja i istraživanja. Niz simbola u podnaslovu Google Translate prevodi na engleski kao “Top-level design”. Otkrio sam kako se piše i šta znači na Social Credit System stranici engleske Wikipedia. Drugi izvori, poput Wired, o projektu budućeg onlajn reputacionog sistema čiju izgradnju planira Narodna Republika Kina, iznose nešto više detalja. Po svemu sudeći, još nikome nije jasno koje će funkcije obuhvatati sistem koji se očekuje u punom pogonu 2020. godine. Pilot-projekti već rade.

“Comprehensively move forward the construction of social sincerity”

(Podnaslov je pozajmljen iz Planning Outline for the Construction of a Social Credit System 2014-2020). Ono što je poznato je da trenutno osam kompanija aplicira za licencu za razvoj algoritama za onlajn reputaciju koje bi projekat koristio, a najviše pažnje se u medijima posvećuje sistemu Sesame Credit (kompanije Ant Financial Services Group, povezane sa moćnom Alibaba) koji pojedincu dodeljuje rejting od 350 do 950 bodova na osnovu nekoliko kategorija informacija. Te kategorije obuhvataju kreditnu istoriju, kapacitet ispunjenja (odnosi se na to u kojoj meri pojedinac ispunjava izvesne “ugovorne obaveze”), lične odlike (koliko mogu da se verifikuju lični podaci poput broja telefona, adrese i sl.), ponašanje i preferencije, te međuljudske odnose. Algoritam koji ove informacije kombinuje u rejting građanina je trenutno black box: termin koji koristimo u naučnoj metodologiji da označimo sistem čiji input i autput znamo, ali ne i funkciju koja input transformiše u autput. Odakle dolaze informacije za ovu skalameriju ostaviću čitaočevoj mašti na volju (Sesame Credit već sarađuje sa Didi Chuxing, kineskom verzijom Uber, koja pruža usluge za više od 450 miliona građana u 400 gradova, i Baihe, najvećim kineskim onlajn dejting servisom).

Prijatelji?

Čisto da se malo zamislimo o proporcijama događaja, Wired navodi da učešće kategorije međuljudskih odnosa u rejtingu građanina podrazumeva da ako osoba sa kojom ste povezani na socijalnim mrežama lupi nešto što ne treba, ne pada skor samo njoj već i vama makar ne uradili ništa. Ne navodi se koju dubinu rekurzije projektanti planiraju po ovom pitanju, ali ako je tačno, građani Kine će morati dobro da zapnu da održe “pozitivnu energiju” na Internetu u narednim godinama. Ako je tačno, i ako bude ostvareno, arhitektura sistema implicira da osoba A ima podsticaj da koriguje onlajn ponašanje svoje konekcije, osobe B, ukoliko B radi ili objavljuje nešto što obara socijalni rejting, i vice versa. To se zove reinforcement learning. Te neke teze i radovi koje sam potpisao u kognitivnim naukama me obavezuju da vas podsetim kako su i kreativne i sposobnosti rasuđivanja i učenja ljudskog uma daleko ispred tako nečega.

Retko te viđam sa devojkama

Veći rejting građanina, bolja mu vidljivost profila na onlajn dejting mreži, pa vi vidite. Nisam uspeo da proverim činjenički, ali govori se da manji rejting implicira sporiju Internet konekciju, što je još gore. Znate, ako ste ikad ikog zaveli ili bili zavedeni, jasno vam je da je sposobnost valjanog, masnog laganja u samoj suštini procesa: Umberto Eko, A Theory of Semiotics (1976),

“Tako je semiotika u principu discplina koja proučava sve što može da se iskoristi u svrhu laži”. 1

Leli si na prvom sastanku rekao da ima oči crne kao kosmos i zvezde u njima (Ok…), a Svetlani sutra da te njeno ime asocira na jutra i izlazak Sunca u kojima najviše uživaš (stvarno se izvinjavam, izmišljam primere na brzinu, nikad to nikom nisam stvarno rekao). Znaš kako, građanine… dobar Natural Language Processing algoritam i gotov si. Više se odluči, plave oči, zelene oči, brinete, plavuše, pa iskreno i konzistentno da stičeš reputaciju i aproksimiraš idealnu partnerku. Lepo kaže u pomenutom Planing Outline dokumentu, “… move forward the construction of social sincerity”. Dopalo vam se ili ne, ali kapacitet da dobro slažete i kapacitet da budete kreativni oba su podjednako najviši izrazi inteligencije i imaju zajedničko poreklo u istim simboličkim kognitivnim funkcijama. Programski jezik R koji svakodnevno koristimo u poslu hiljade mojih kolega i ja vam pruža mogućnost da na jednom prosečnom laptopu izvedete statističku klasifikaciju ogromnog broja tekstova (komentara sa socijalnih mreža kao i ma koje druge vrste teksta) po temama koje će algoritam poput slavnog LDA praktično otkriti sam za vas. Ako na raspolaganju imate klaster mašina i sistem za distribuirano izračunavanje poput Apache Spark – a možete za prihvatljivu cenu da iznajmite ovakvu infrastrukturu – skoro da nema granica tome šta možete da učinite. A šta mogu da urade hiljade doktora računarskih nauka, psihologije i matematike sa centralnom vladom iza leđa?

“… progressively implement the online real-name system.. “

Jedna ideja koja mi se dopala u dokumentu Planning Outline for the Construction of a Social Credit System 2014-2020. Davno sam još tvrdio da je realno predstavljanje na Internetu jedino što ima smisla, da je sve drugo preveliki rizik, Facebook traži od vas da se predstavljate kao što to činite na dokumentima, i ne vidim nikakav problem s tim, naprotiv. Posebno kad ste zajednica od 1.379 milijardi ljudi (podatak iz 2016, Google). Odavno mi je dosta Betmena i žena-mačaka, zaštitu dece onlajn da ne pominjem.

Izbeći ona zanimljiva vremena

Nema ničeg kontradiktornog u tome da pristajete samo na svet u kome je moguć Čarls Bukovski i osećate divljenje prema kineskoj kulturi u isto vreme. Veliki zid, hiljade ratnika od terakote, šest velikih škola filozofije, kosmički program, super-računari, milenijumi upornosti i doslednosti koji ulivaju strahopoštovanje. Ne volim da donosim sudove o drugim kulturama: možda građanin Kine i ne želi da bude slobodan na način na koji ja na Zapadu to želim. Ali opasnost koja vreba u ovom top-level dizajnu zajednička je tema za promišljanje. Ko donosi odluke o tome koji algoritmi i modeli donose ključne odluke u oblikovanju i nudging zajednice? Centralni Komitet? Ili inženjeri? Kada jednom te odluke donesete, da li ste svesni toga da ćete društvo oblikovati u suženom skupu mogućih budućnosti, zauvek eliminišući alternativne pravce razvoja i moguće spontane socijalne eksperimente i invencije? Ako se jednom predomislite i promenite algoritme, svesni ste da će efekti toga zavisiti i od onih prethodnih odluka, te da rezultati neće biti predvidljivi na osnovu lokalne informacije koju imate u datom trenutku? Imate matematiku koja će sve to da reši i predvidi, obezbedi eliminaciju potencijalno i katastrofičkih društvenih rizika? Zadivljen sam. Ali ne verujem: ne verujem ni da imate tu matematiku, ni da će to što gradite da vam donese rezultate kojima se nadate, ni da će da vam donese bilo šta dobro uopšte. Ni ideja libertarijanskog paternalizma mi se nije dopadala iz sličnih razloga.

Fokus ovog teksta je bio na potencijalu za kontrolu pojedinaca budućeg rejting sistema; kontrola poslovanja je takođe suštinski deo projekta, dok je sistem u celini zamišljen ambicioznije nego što sam ga diskutovao ovde.

  1. “Semiotics is concerned with everything that can be taken as a sign. A sign is everything which can be taken as significantly substituting for something else. […] Thus semiotics is in principle the discipline studying everything which can be used in order to lie.” (Eco, 1976).