Cyfrowe utopie i antyutopie – przewodnik po zakrętach technologicznej codzienności

Włączasz komputer, łapiesz za telefon – czy to naprawdę drzwi do świata, czy może raczej klucz do klatki, którą ktoś dla nas zaprojektował? Jeszcze niedawno technologia wydawała się obietnicą wolności: świat bez granic, szybkie połączenia, nowe możliwości. A dziś? Gdzieś na osi od projektów typu Wifi4EU i blackout w Afganistanie rozpięto cyfrową linę, przez którą przedzieramy się z dużą dozą nadziei pomieszanej z lękiem przed ekstremalnie intensywnym rozwojem cyberprzestrzeni.

Jeden hotspot dla Europy, jeden guzik dla Afganistanu

Unia Europejska zapewnia „Wi-Fi dla wszystkich” – publiczne hotspoty we wszystkich zakątkach kontynentu mają być gwarancją dostępności i równości. Wystarczy jednak spojrzeć na Bliski Wschód, by poczuć chłód: blackout w Afganistanie uderza nagle, zostawiając 43 miliony ludzi w cyfrowej próżni bez kontaktu, informacji, głosu. To nie awaria, to kalkulacja – narzędzie władzy, która wyłącza z globalnego obiegu nie tylko Internet, lecz także ludzi. W jednej chwili zamiast otwartego okna mamy mur. Nawet jeśli nie widzimy go za własną szybą, to jego cień pada i na nas.

Punkty za posłuszeństwo, punkty za bunt – chińska opowieść science fiction, która dzieje się naprawdę

Wyobraź sobie, że wszystkie Twoje kroki są rejestrowane na niewidocznym liczniku. Każdy ruch ma swoją cenę, a algorytm nie zapomina nikogo. Chiński system punktowej oceny obywateli to nie science fiction, lecz rzeczywistość ponad miliarda ludzi. Rządowy tryb „śledzenia obiektu” działa nieprzerwanie, a jego soczewki podważają koncepcję anonimowości. Każdy ruch, każda transakcja, każde zachowanie online i offline trafia do algorytmów, które przyznają lub odejmują punkty.

Zasady gry są proste i bezwzględne:​

• Każdy pozytywny czyn – wolontariat, terminowe spłacanie zobowiązań, udział w oficjalnych ankietach, ponadnormatywna praca, whistleblowing, najprostsze uczestnictwo w zorganizowanym przez państwo życiu publicznym – jest premiowany dodatnimi punktami.
• Każde wykroczenie drogowe, spóźnienie się ze spłatą rachunku, krytyczny komentarz w Internecie lub złamanie zakazu nagrywania spotkania urzędowego kosztuje minusowe punkty.

 

Skala jest elastyczna. Zależnie od regionu system przybiera różne nazwy, a zakres kryteriów jest elastyczny, natomiast cel pozostaje ten sam: motywacja poprzez nagrodę i karę. W Chinach wysoki scoring (punktowanie obywateli) gwarantuje m.in. zniżki u partnerów handlowych, priorytetową obsługę w urzędach oraz zwiększony limit kredytowy. Niski wiąże się nie tylko ze wstydem społecznym, a także realnymi konsekwencjami, których spektrum rozciąga się od zakazu wykupienia biletu na szybką kolej aż po blokadę rekrutacji na studia podyplomowe oraz ograniczoną możliwość rozwoju społecznego.

W ujęciu publicystycznym system ten jest przewrotnie tytułowany jako “wsparcie zaufania społecznego”, z kolei jego krytycy ostrzegają przed wszechogarniającą inwigilacją oraz arbitralnym charakterem oceniania. Decyzje o przyznaniu lub odebraniu punktów podejmują algorytmy, często oparte na nieprzejrzystych kryteriach, a obywatele nie mają prawa do odwołania. Konsekwencje systemu dotykają całych rodzin, gdyż spadek liczby punktów jednego z jej członków automatycznie rzutuje na uprawnienia innych.

W praktyce scoring obywatelski to model nadzoru zbudowany na danych, od urzędowych rejestrów po monitoring i analizę sieci społecznościowych. Każdy posterunek policyjny, bank czy korporacja technologiczna dokłada swoje informacje do wspólnej puli, tworząc cyfrowy kolaż życiorysu obywatela.

Europa stawia granice, ale czy sama będzie ich przestrzegać?

Stary Kontynent odpowiada nieco inaczej – debaty o algorytmach, kategorie ryzyka, zakazy dla najbardziej opresyjnych systemów. Parlament Europejski podjął próbę przejęcia sterów nad sztuczną inteligencją. Efekt? Trzy kategorie ryzyka:

• Systemy niedopuszczalne – od zdalnych systemów rozpoznawania twarzy w czasie rzeczywistym do głosowych zabawek, które mogą namawiać dzieci do niebezpiecznych czynności zabaw, a przede wszystkim – scoring obywateli i klasyfikacja za pomocą algorytmu.
• Systemy wysokiego ryzyka – te związane z decydującymi o ludzkich losach procesami, od przyznawania kredytów po nadzór nad infrastrukturą.
• Aplikacje ograniczonego ryzyka – generatory obrazów i treści, deepfake’i pod warunkiem jawności i oznaczenia treści jako AI.

 

Z jednej strony to wyważony kompromis między innowacją a ochroną społeczeństwa. Z drugiej strony to znak, że bez regulacji algorytmiczne uprzedzenia potrafią naruszać każdy obszar życia.

Twarzą w twarz z algorytmem – nie tylko fikcja i strach

W popkulturze nie brakuje przykładów obrazujących technologiczne ryzyko związane z bezpośrednią ingerencją w życie człowieka. O tym problemie opowiada dokument Zakodowane uprzedzenie obrazujący historię Joy Buolamwini z MIT Media Lab. W jej przypadku algorytmy rozpoznawania twarzy gubiły się przy ciemniejszej karnacji i żeńskich rysach twarzy, odsłaniając jak głęboko zakorzenione są historyczne nierówności.

Warto jednak pamiętać, że technologia ma też jasne oblicze. Historia instruktorki fitness i nauczycielki wychowania fizycznego Khing Hnin Wai z Mjanmy to opowieść o niezamierzonym dokumentowaniu momentu, gdy wojsko zaczyna obalać rząd. Jej poranna transmisja stała się świadectwem przełomowego zdarzenia, dowodem na to, że wystarczy jeden live, by świat dowiedział się o tym, co skrywa zasłona władzy. Czasem informacja sama wyrywa się z rąk cenzorów, by trafić na ekrany widzów.

Jesteśmy twórcami czy tworzywem tej rzeczywistości?

Największy paradoks: publiczne Wi-Fi łączy sąsiadów i wspiera biznes, ale równie łatwo zamienia się w narzędzie nadzoru i nowy cel dla cyberprzestępców. Algorytmy pomagają przy diagnozach lub zarządzaniu ruchem, lecz z drugiej strony mogą utrwalić i powtórzyć nasze podskórne uprzedzenia w skali, o której nie śniło się ludzkości.

Chcemy być autorami czy tylko widzami tej opowieści?

Każdy wybór, każda decyzja rodzi konsekwencje. Czy włączysz VPN-a, czy zgodzisz się na śledzenie przez aplikację do zamawiania pizzy, czy zatańczysz na TikToku, współdecydujesz o cyfrowym krajobrazie, w którym dorastają kolejne pokolenia.

Porozmawiajmy o tym, czy jesteśmy twórcami czy tworzywem tej rzeczywistości. Zapraszamy do odsłuchania pełnej rozmowy na naszych streamingach, oraz na kolejne odsłony audycji CyberLUZ w każdy poniedziałek o godzinie 14:00 na 91,6 FM.

 

Tekst: Michał Cimaszewski
Redakcja: Pola Sosin