Kto rządzi w Chinach ?

Długofalowe skutki społeczne automatycznego systemu oceny obywateli w Chinach

Wszystko jak zwykle zaczyna się niewinnie. Kilka kamer mających na celu monitoring obszarów na których najczęściej dokonywano przestępstw. Monitoring dróg i autostrad, monitoring imprez masowych, monitoring sklepów przed złodziejami, odcinkowy pomiar prędkości... I nawet się nie obejrzymy, jak od początkowej gęsiej skórki i oburzenia, kończymy ze wzruszeniem ramion otoczeni milionami kamer w dużych i całkiem malutkich firmach, na ulicach, nawet w domach... .

Kiedy wędrowałem jakiś czas temu ulicami Londynu, maszty z systemami kamer podskórnie powodowały u mnie dziwne uczucie ciągłej obserwacji. To samo pojawiło się kilka lat później w kilku polskich miastach. Niestety z przykrością muszę stwierdzić, że po kilku latach uczucie to ustąpiło kompletnemu zobojętnieniu. Niestety. Prosty mechanizm psychologiczny, powodujący wyłączenie bezpieczników, spowodowany tym, że ludzki mózg przy przeładowaniu bodźcami przestaje je już przyjmować, albo inaczej, odsiewa te najczęściej występujące, nie mające znaczenia dla jego bezpieczeństwa/przetrwania. Poprostu ludzki mózg nie potrafi być długo w stanie permanentnego pobudzenia i nieustającej koncentracji. W tym przypadku uwzględniania kolejnych nie wiadomo w którą stronę patrzących kopułkowych kamer monitoringu miejskiego.

Ale może to dlatego, że nasze systemy nie są, albo nie zdajemy sobie sprawy z tego, że są tak zaawansowane że mogą wpłynąć na nasze życie. Zniszczyć je bądź utrudnić... Z pewnością nie zdajemy sobie sprawy. Kilka lat temu polska policja nieopatrznie na konferencji z okazji sprawy Ryszarda Krauzego wygadała się na temat istniejącego i działającego operacyjnie w kilku większych miastach systemu śledzącego jednostki po rysach twarzy i rejestracjach samochodowych. System był w stanie prześledzić i opisać drobiazgowo trasę przemieszczania się osób, korelować je z osobami z którymi te się spotykały/rozmawiały, spięty mógł być również co ciekawe, z systemami monitoringu w większych hotelach.

O tym, że takie systemy istnieją coraz częściej słyszy się w przypadku rozbojów, kradzieży, kiedy niczego nie spodziewający się przestępca nagle widzi swoją twarz w mediach. Choć nie zauważył przecież żadnej kamery. Bo tyle ich jest, że nie jest już możliwe uniknięcie ich oczu.

Nie w kamerach jednak tkwi siła tych systemów, a w mechanizmach które znajdują się pod nimi. Tak, jak siła ludzkiego wzroku nie tkwi w naszych oczach, a w mózgu, który przetwarza spływające z nich niedoskonałe przecież obrazy.

Czytelnicy niepoprawnych nie będą zdziwieni informacją, jaką tu podam, ale ci, którzy tego nie wiedzą być może będą zaskoczeni.

W Chinach od kilku lat intensywnie testuje się coś, co możemy nazwać Wielkim Bratem: "powszechny automatyczny system oceny obywateli: Społeczny System Zaufania". Jest to potężna machina mająca przynajmniej w oficjalnym założeniu przywrócić ład i porządek w Chinach, sprawić że chińskie społeczeństwo będzie sprawne, silne, spokojne i szczęśliwe. Oficjalnie.

Jak działa ten system ? Każdy kto kiedykolwiek oglądał serial "Black mirror" z pewnością pamięta odcinek "Nosedive". Opowiada on historię kobiety jadącej na uroczystość bliskiej osoby. Żyje jednak w świecie, gdzie każdy ocenia każdego. Podoba ci się obsługa w kafeterii: dajesz plusika kelnerowi. Nie podoba ci się zdanie taksówkarza, albo brzydki zapach w jego aucie: minusik. Masz dużo plusików, masz tańszy bilet. Masz mało plusików: nie masz biletu na super promocję, tańszy przelot, nie możesz wziąć kredytu....

Niestety dokładnie taki właśnie system już zaczął działać w Chinach. Jednak w jeszcze bardziej złowieszczej wersji. Oceny nie dokonują wzajemnie obywatele/użytkownicy systemu, ale sam system. 

Tutaj odrobinę dygresji. Chińskie społeczeństwo działa w sferze cyfrowej trochę na innych zasadach. Praktycznie cała ich sieć to wydzielony Intranet (sieć wewnętrzna) odizolowany od globalnego Internetu. Nie ma wyszukiwarki Google (do niedawna), za to jest wzorem rosyjskiego Yandoo, wyszukiwarka Baidou. Zamiast Facebooka: WeChat (850mln użytkowników) lub Sina Weibo. Zamiast Allegro czy eBay'a: Alibaba/Aliexpress, Taobao czy DiDi Chuxing. Zamiast Tindera: Tantan. Zamiast znanych portali o tematyce podróżniczej z ocenami hoteli i miejsc: Dian Ping. Zamiast popularnego ostatnio Uber Eats i pokrewnych: Ele.me. Można tak wymieniać bez końca. Co ciekawe, wiele z tych aplikacji i systemów należy do konglomeratów którymi zarządzają takie wielkie firmy jak Baidou czy Tencent (specjalizujący się m.in. w przetwarzaniu obrazów). Praktycznie całe życie obywateli chińskich opiera się o aplikacje mobilne. Nie będąc użytkownikiem Weibo czy Wechat, nie jesteśmy w stanie nawet zapłacić w łatwy sposób za jedzenie, ponieważ jest to realizowane właśnie przez te systemy. Widzimy więc, że praktycznie cała chińska sieć to praktycznie odizolowany obszar który można kontrolować i na którym można testować pewne rozwiązania.

Zastanawiasz się pewnie, czemu autor jeszcze nie zaczął mówić o tych skutkach społeczno-psychologicznych a skupia się na technikaliach ?

Chciałem uzmysłowić Ci skalę problemu. od 2020 roku w Chinach system zaufania społecznego stanowić będzie realnie działający system oparty o mechanizmy uczenia maszynowego i szeroko rozumianej sztucznej inteligencji, agregujący informacje z wszystkich wymienionych przeze mnie obszarów (i wielu których nie wymieniłem) z danymi monitoringu wizyjnego i innymi danymi na temat 1.3 miliarda indywidualnych obywateli (bazy danych identyfikacyjnych, transportowych, kurierskich itp) i firm.

System ten ma za zadanie oceniać obywateli i w toku ich życia nadawać im odpowiednie punkty. Dodatnie za działania zgodne z listą pozytywnych zachowań/schematów postępowania, ujemne za działania nie należące do tej grupy lub do grupy negatywnej. Wszystko realizowane jest automatycznie, bez naszej kontroli, bez ujawnienia informacji co tak naprawdę znajduje się na każdej z tych "list". Oczywiście wiadomo tyle, ile powinniśmy wiedzieć. N.p. że dodatnie punkty dostaje się za terminową spłatę zobowiązań finansowych, za przepisową jazdę itp.. Ujemne punkty za przejście na czerwonym świetle (dodatkowo nasza twarz wraz z danymi będzie wyświetlona na billboardach, żebyśmy zostali od razu napiętnowani za nasze złe postępowanie), nieprzepisową jazdę itp.. Ale już ciekawsze rzeczy nie są tak oczywiste: robienie nieprzemyślanych zakupów, np mając małe dziecko nie kupowanie pieluch, albo kupowanie zbyt dużej ilości niezdrowych produktów mogą powodować ujemne punkty. 
Nagrody ? Lepsze oferty, zniżki, możliwość posłania dziecka do lepszej szkoły....
Kary: od niemożności zakupu biletu na samolot/kolej/po nawet taksówki, przez odmowę wzięcia kredytu, po bardziej dotkliwe: więzienie.

Co więcej: schematy na bazie których odbywa się przyznawanie/odejmowanie punktów nie są jawne.

Rzecz jasna będąc lojalnym obywatelem, realizując wytyczne twórców systemu, będziemy radośnie tworzyć nowe społeczeństwo ku chwale.... no właśnie czyjej ? Kto siedzi i ustala zasady ? Kto ustala reguły ? Czyich wytycznych mamy przestrzegać ? Ano właśnie. Takie pytania z pewnością zadaje sobie wiele osób. I tak jak wiele osób je sobie zadaje, tak wiele osób ponosi konsekwencje ich zadawania, a już z pewnością kwestionowania powyższych zasad. Wszelkiej maści dysydenci, dziennikarze ujawniający korupcję czy niemoralne działania rządzących (od najniższego szczebla), to oni nagle znajdują się w tej dolnej części wykresu, pod linią oznaczającą normę. I ponoszą automatycznie konsekwencje.

Dodatkowo w ramach systemu istnieją "czarne listy". Niestety jak w systemach działających w krajach zachodnich (USA, Anglia, UE), wpisanie człowieka na taką listę jest dużo łatwiejsze niż wypisanie. O ile państwa zachodnie inwigilację obywateli ukrywają, argumentując to bezpieczeństwem lub względami antyterrorystycznymi, o tyle Chińczycy się "nie szczypią" i "grają w otwarte karty".

Nawiasem mówiąc ciekawy przypadek zdarzył się kiedyś w Anglii, gdzie przelew na 4 funty pewnego starszego pana system sklasyfikował jako tak nieprawdopodobny, że wpisał go na listę potencjalnych terrorystów, co uruchomiło dla jego i jego rodziny lawinę problemów, z którymi nie uporał się przez kolejne 3 lata mając problem z wzięciem pożyczki, odkręcaniem zamknięcia rachunku bankowego czy blokadą pensji i szeregiem problemów ze stróżami prawa. To tak, by uzmysłowić przez dygresję możliwości błędu i jego konsekwencje przy tak błahej sprawie.

Najdoskonalsze więzienie to takie, którego nie widać. To więzienie, które każdy ma we własnym umyśle. Kajdany, które sami sobie zakładamy.

Obywatele Chin za chwilę, w 2020 roku, kiedy system zostanie wprowadzony w całych Chinach, po pierwszym szoku, który może trwać kilka/kilkanaście lat, powoli zaczną dostosowywać się do nowej sytuacji. Już z w tej chwili system jest na tyle potężny, że praktycznie nie ma możliwości jego destrukcji. Niczym Golem, którego stworzenie jest krokiem, którego nie da się już cofnąć i którego się nie da ujarzmić/zabić. Jak Skynet z filmu "Terminator". Ujgurzy i ludzie w wielu wielkich miastach już czują ciężki oddech jego działania na własnej skórze.

Ale co z tymi skutkami społeczno-psychologicznymi ?

Mówi się, że są pewne społeczeństwa bardziej skłonne do posłuszeństwa. Japończycy są niezwykle "karni". W obliczu kataklizmów zamiast rabować, stoją grzecznie w kolejkach po żywność i materiały pierwszej pomocy, nawet Triada się przyłącza. Niestety większość społeczeństw nie lubi czuć buta na głowie przyciśniętej do piachu. Niezależnie od tego jak pięknie będzie się to przedstawiało. Automatyczny system sterujący ludźmi będzie gorszy od opisywanego przez Orwella w "1984" systemu kontroli myślozbrodni. Powiem więcej: będzie gorszy od wizji z filmu "Equilibrium" czy "Fahrenheit 451". Z prostego powodu. Opisywane rzeczywistości były niedoskonale kontrolowane. Obecnie każdy z nas ma w kieszeni szpiega. Jakby on pięknie nie wyglądał, każde nasze działanie jest przez niego kontrolowane. Każda litera zapisana, każde słowo nagrane. "Nie masz nic do ukrycia, nie masz się czego obawiać" mówią. Ale co to w ogóle znaczy ? Kto ocenia, co jest akceptowalne, dobre a co niepoprawne, nieakceptowalne, naganne i kwalifikuje się do ukarania ? WŁAŚNIE, KTO ? Teraz jesteś być może nikim, ale za rok, dwa kilka będziesz chciał być politykiem, zrobić coś dla swoich ludzi. Co wtedy okaże się dla Ciebie godne kary ? 

"Dajcie mi człowieka, a znajdę paragraf"

W tej sławnej sentencji nie chodzi bynajmniej o to, że każdy jest zły. Ludzie są, byli i będą niedoskonali. Automatyczny system zaufania społecznego to taki wielki brat, który będzie straszył każdego przed dokonaniem myślozbrodni. I jeśli Chińczycy zachowają choć odrobinę ludzkich cech, to niestety boserwować będziemy bardzo niepokojące tendencje. Z zewnątrz idealni, swoje flustracje będą przelewali w depresjach, alkoholu, napięciach wewnątrzrodzinnych (w tym braku możliwości wyrażenia swojej prawdziwej opinii, przecież nie wiadomo kto słucha). Wzrośnie ich agresywność, co moim zdaniem może spowodować powstanie masowego ruchu turystyki emocjonalnej. Gdzie całe rzesze obywateli Chin będą wyjeżdżały w inne rejony Świata, by tam się "zrelaksować", wykrzyczeć swoje flustracje, dokonywać przestępstw, za które zostali by ukarani u siebie. Idealni klienci parku rozrywki z serialu "Westworld". Czy to takie mało prawdopodobne ?

Paradoksalnie system, który ma służyć do kontroli i oficjalnie "stworzenia idealnego społeczeństwa", nadmiernie kontrolując jednostki, spowoduje wypaczenie tego założenia i powstanie ukrytego potwora, z którym być może nikt z nas nie będzie chciał się nigdy zmierzyć. Człowiek, nie będąc maszyną, potrzebuje swojej strefy komfortu, wolności. Nie mając jej, ujawniają się najgorsze demony. 

Niestety, czy tego chcemy czy nie, dzieje się to na naszych oczach. Piłeczka leży po stronie obywateli Chin.