Gabinet horrorów

Powstanie maszyn i przejęcie władzy przez sztuczną inteligencję. Świat totalnego nadzoru i kontroli społecznej. Wojna nuklearna i degeneracja cywilizacji. Wiele mrocznych wizji przyszłości, narysowanych wiele lat temu, powinno się wydarzyć dzisiaj. A tymczasem patrzymy wstecz i wydaje się, że ich tam nie było. Jesteś pewny?

Istnieje dość stereotypowy repertuar popularnych proroctwa dystopijne (o czarnej wizji przyszłości). Oprócz najczęstszych, związanych z niszczeniem środowiska i zasobów naturalnych, powszechnie uważa się, że najnowsze technologie niszczą komunikację międzyludzką, relacje i społeczeństwo.

Przestrzeń wirtualna zwodniczo zastąpi rzeczywiste uczestnictwo w świecie. Inne poglądy dystopijne postrzegają rozwój technologiczny jako sposób na zwiększenie nierówności społecznych, koncentrację władzy i bogactwa w rękach małych grup. Wysokie wymagania nowoczesnych technologii koncentrują wiedzę i umiejętności w wąskich kręgach uprzywilejowanych osób, zwiększają inwigilację ludzi i niszczą prywatność.

Według wielu futurystów wyższa produktywność i większy widoczny wybór mogą zaszkodzić jakości ludzkiego życia, powodując stres, zagrażając miejscom pracy i czyniąc nas coraz bardziej materialistycznymi w świecie.

Jeden ze słynnych technologicznych „dystopian”, James Gleick, podaje pozornie banalny przykład pilota do telewizora jako klasycznego wynalazku, który nie rozwiązuje ani jednego istotnego problemu, dając początek wielu nowym. Gleick, cytując historyka techniki Edwarda Tennerapisze, że umiejętność i łatwość przełączania kanałów za pomocą pilota służy przede wszystkim do coraz większego rozpraszania widza.

Zamiast satysfakcji ludzie są coraz bardziej niezadowoleni z oglądanych kanałów. Zamiast zaspokajania potrzeb pojawia się uczucie niekończącego się rozczarowania.

Czy samochody zatrzymają nas w rezerwacjach?

Czy będziemy w stanie kontrolować to, co jest nieuniknione i prawdopodobnie wkrótce nadejdzie? Nad sztuczną inteligencją? Jeśli tak ma być, jak głosi wiele wizji dystopijnych, to nie. (1).

Trudno zapanować nad czymś, co jest wielokrotnie silniejsze od nas. wraz ze wzrostem liczby zadań. Dwadzieścia lat temu nikt by nie uwierzył, że potrafi odczytywać emocje w czyimś głosie i stawiać czoła o wiele dokładniej niż my sami. Tymczasem obecnie wytrenowane algorytmy już to potrafią, analizując mimikę, barwę i sposób, w jaki mówimy.

Komputery rysują obrazy, komponują muzykę, a jeden z nich wygrał nawet konkurs poezji w Japonii. Od dawna biją ludzi w szachy, ucząc się gry od podstaw. To samo dotyczy znacznie bardziej złożonej gry Go.

przestrzega praw coraz szybszego przyspieszenia. To, co sztuczna inteligencja osiągnęła – z pomocą ludzi – w ciągu ostatnich dziesięcioleci podwoi się w ciągu najbliższych kilku lat, może tylko miesięcy, a potem zajmie to tylko tygodnie, dni, sekundy…

Jak się niedawno okazało, algorytmy wykorzystywane w smartfonach czy na lotniskach do analizy zdjęć z wszechobecnych aparatów potrafią nie tylko rozpoznać kogoś w różnych kadrach, ale także określić wyłącznie intymne cechy psychologiczne. Powiedzieć, że jest to ogromne ryzyko dla prywatności, to jak nic nie mówić. Nie chodzi tu o zwykłą inwigilację, obserwowanie każdego kroku, ale o informacje, które powstają w wyniku samego pojawienia się osoby, o jej ukrytych pragnieniach i osobistych preferencjach. 

Algorytmy mogą się tego nauczyć stosunkowo szybko, analizując setki tysięcy przypadków, czyli znacznie więcej, niż nawet najbardziej bystra osoba może zobaczyć w ciągu życia. Uzbrojeni w tak bogate doświadczenie są w stanie zeskanować osobę dokładniej niż nawet najbardziej doświadczony psycholog, analityk mowy ciała i gestów.

Tak więc prawdziwa mrożąca krew w żyłach dystopia nie polega na tym, że komputery grają w szachy lub występują przeciwko nam, ale że widzą naszą duszę głębiej niż ktokolwiek inny niż my sami, pełną zakazów i blokad w rozpoznawaniu tych lub innych skłonności.

Elona Muska uważa, że ​​w miarę jak systemy sztucznej inteligencji zaczynają się uczyć i rozumować na coraz większą skalę, „inteligencja” może gdzieś się rozwinąć głęboko w warstwach internetowych, niezauważalne dla nas.

Według amerykańskiego badania opublikowanego w 2016 roku, w ciągu najbliższych 45 lat sztuczna inteligencja ma 50 procent szans na prześcignięcie człowieka we wszystkich zadaniach. Prognostycy twierdzą, że tak, sztuczna inteligencja rozwiąże problem raka, poprawi i przyspieszy gospodarkę, zapewni rozrywkę, poprawi jakość i długość życia, wyedukuje nas, abyśmy nie mogli bez niej żyć, ale jest możliwe, że pewnego dnia, bez nienawiść, tylko za to, że oparta na logicznej kalkulacji, po prostu nas usuwa. Może fizycznie nie zadziała, bo w każdym systemie warto oszczędzać, archiwizować i przechowywać zasoby, które „mogą się kiedyś przydać”. Tak, to jest zasób, jakim możemy być dla AI. Chroniona siła robocza?

Optymiści pocieszają się tym, że zawsze istnieje możliwość wyciągnięcia wtyczki z gniazdka. Jednak wszystko nie jest takie proste. Już teraz ludzkie życie stało się tak uzależnione od komputerów, że radykalny krok przeciwko nim byłby dla nas katastrofą.

W końcu coraz częściej tworzymy systemy decyzyjne oparte na sztucznej inteligencji, dając im prawo do latania samolotami, ustalania stóp procentowych, uruchamiania elektrowni – wiemy, że algorytmy zrobią to znacznie lepiej od nas. Jednocześnie nie do końca rozumiemy, jak podejmowane są te cyfrowe decyzje.

Istnieją obawy, że superinteligentne systemy dowodzenia, takie jak „Reduce Congestion”, mogą doprowadzić ich do wniosku, że jedynym skutecznym sposobem wykonania zadania jest… zmniejszenie populacji o jedną trzecią lub nawet połowę.

Tak, warto przekazać maszynie najważniejszą instrukcję typu „Przede wszystkim ratuj ludzkie życie!”. Jednak kto wie, czy wtedy logika cyfrowa doprowadzi do uwięzienia ludzkości, czy pod stodołą, gdzie możemy być bezpieczni, ale na pewno nie wolni.

Cyberprzestępczość jako usługa

W przeszłości dystopie i obrazy postapokaliptycznego świata w literaturze i kinie były zazwyczaj osadzone w epoce postnuklearnej. Dziś nuklearna zagłada nie wydaje się konieczna do katastrofy i zniszczenia świata, jaki znamy, choć nie w taki sposób, jak sobie to wyobrażamy. , jest mało prawdopodobne, aby zniszczył świat jak w „Terminatorze”, gdzie połączono go z nuklearną zagładą. Gdyby tak było, nie byłaby superinteligencją, ale prymitywną siłą. W końcu nawet ludzkość nie zrealizowała jeszcze globalnego scenariusza niszczycielskiego konfliktu nuklearnego.

Prawdziwa apokalipsa maszynowa może być znacznie mniej imponująca.

Cyberwojna, ataki wirusów, hakowanie systemu i oprogramowanie ransomware, oprogramowanie ransomware (2) paraliżują i niszczą nasz świat nie mniej skutecznie niż bomby. Jeśli ich skala się powiększy, możemy wejść w fazę totalnej wojny, w której staniemy się ofiarami i zakładnikami maszyn, choć nie muszą one działać autonomicznie, a za wszystkim nadal będą stać ludzie.

Latem ubiegłego roku amerykańska Agencja ds. Bezpieczeństwa Cybernetycznego i Infrastruktury (CISA) nazwała ataki ransomware „najbardziej widocznym zagrożeniem dla cyberbezpieczeństwa”.

CISA twierdzi, że wiele działań, w których cyberprzestępca przechwytuje i szyfruje dane osoby lub organizacji, a następnie wymusza okup, nigdy nie jest zgłaszanych, ponieważ ofiara płaci cyberprzestępcom i nie chce nagłaśniać problemów z ich niezabezpieczonymi systemami. Na poziomie mikro cyberprzestępcy często atakują osoby starsze, które mają problem z odróżnieniem uczciwych i nieuczciwych treści w Internecie. Robią to za pomocą złośliwego oprogramowania osadzonego w załączniku do wiadomości e-mail lub wyskakującym okienku na zainfekowanej stronie internetowej. Jednocześnie nasilają się ataki na duże korporacje, szpitale, agencje rządowe i rządy.

Te ostatnie były szczególnie atakowane ze względu na poufne dane, które posiadali i możliwość płacenia wysokich okupów.

Niektóre informacje, takie jak informacje o stanie zdrowia, są dla właściciela o wiele bardziej wartościowe niż inne i mogą przynosić przestępcom więcej pieniędzy. Złodzieje mogą przechwycić lub poddać kwarantannie duże bloki danych klinicznych ważnych dla opieki nad pacjentem, takie jak wyniki testów lub informacje o lekach. Kiedy stawką jest życie, w szpitalu nie ma miejsca na negocjacje. Jeden z amerykańskich szpitali został zamknięty na stałe w listopadzie ubiegłego roku po sierpniowym ataku terrorystycznym.

Prawdopodobnie z czasem będzie się tylko pogarszać. W 2017 r. Departament Bezpieczeństwa Wewnętrznego USA ogłosił, że cyberataki mogą być skierowane przeciwko infrastrukturze krytycznej, takiej jak wodociągi. A narzędzia potrzebne do przeprowadzenia takich działań są coraz bardziej dostępne dla mniejszych operatorów, którym sprzedają pakiety oprogramowania ransomware, takie jak oprogramowanie Cerber i Petya, i pobierają opłatę okupu po udanych atakach. Oparta na cyberprzestępczości jako usłudze.

Niebezpieczne zaburzenie w genomie

Jednym z popularnych tematów dystopii jest genetyka, manipulacja DNA i hodowla ludzi – w dodatku „zaprogramowana” we właściwy sposób (władze, korporacje, wojsko).

Współczesne ucieleśnienie tych niepokojów to metoda popularyzacji Edycja genów CRISPR (3). Niepokojące są przede wszystkim mechanizmy, które zawiera. wymuszanie pożądanych funkcji w kolejnych pokoleniach i ich potencjał rozprzestrzenił się na całą populację. Jeden z wynalazców tej techniki, Jennifer Doudna, nawet niedawno wezwał do moratorium na takie techniki redagowania „linii zarodkowej” ze względu na potencjalnie katastrofalne konsekwencje.

Przypomnijmy, że kilka miesięcy temu chiński naukowiec н Jiankui był szeroko krytykowany za edytowanie genów ludzkich embrionów w celu uodpornienia ich na wirusa AIDS. Powodem było to, że wprowadzone przez niego zmiany mogły być przekazywane z pokolenia na pokolenie z nieprzewidywalnymi konsekwencjami.

Szczególny niepokój budzą tzw. d (przepisywanie genów, napęd genowy), czyli genetycznie zmodyfikowany mechanizm, który koduje system edycji w DNA danej osoby Genom CRISPR/CAS9 z ustawieniem go na edycję tego wariantu niechcianego genu. Dzięki temu potomkowie automatycznie (bez udziału genetyków) nadpisują niepożądany wariant genu pożądanym.

Jednak niepożądany wariant genu może otrzymać potomstwo „w prezencie” od niezmodyfikowanego drugiego rodzica. Więc napęd genowy, zróbmy przerwę Mendlowskie prawa dziedziczeniaktóre mówią, że połowa dominujących genów trafia do potomstwa jednego z rodziców. Krótko mówiąc, doprowadzi to ostatecznie do rozprzestrzenienia się danego wariantu genu na całą populację.

Biolog na Uniwersytecie Stanforda Krystyna Smolke, podczas panelu poświęconego inżynierii genetycznej w 2016 r., ostrzegł, że ten mechanizm może mieć szkodliwe, a w skrajnych przypadkach przerażające konsekwencje. Napęd genowy jest w stanie mutować na przestrzeni pokoleń i powodować zaburzenia genetyczne, takie jak hemofilia lub hemofilia.

Jak czytamy w artykule opublikowanym w Nature Reviews przez naukowców z University of California w Riverside, nawet jeśli napęd działa zgodnie z założeniami w jednej populacji organizmu, ta sama cecha dziedziczna może być szkodliwa, jeśli zostanie w jakiś sposób wprowadzona do innej populacji. . ten sam wygląd.

Istnieje również niebezpieczeństwo, że naukowcy tworzą napędy genowe za zamkniętymi drzwiami i bez wzajemnej oceny. Jeśli ktoś celowo lub nieumyślnie wprowadzi do ludzkiego genomu szkodliwy napęd genowy, taki jak ten, który niszczy naszą odporność na grypę, może to nawet oznaczać koniec gatunku homo sapiens…

Kapitalizm nadzoru

Wersja dystopii, której dawni pisarze science fiction nie mogli sobie wyobrazić, to rzeczywistość Internetu, a zwłaszcza mediów społecznościowych, ze wszystkimi szeroko opisanymi konsekwencjami, które niszczą prywatność, relacje i integralność psychiczną ludzi.

Ten świat jest malowany tylko w nowszych przedstawieniach artystycznych, takich jak to, co mogliśmy zobaczyć w serii Black Mirror w odcinku „The Diving” z 2016 roku (4). Shoshana Zuboff, ekonomista z Harvardu, nazywa tę rzeczywistość całkowicie zależną od społecznej autoafirmacji i całkowicie „zdeprywatyzowaną”. kapitalizm nadzoru (), a jednocześnie ukoronowanie pracy Google i Facebooka.

4. Scena z „Czarnego lustra” – odcinek „Nurkowanie”

Według Zuboffa pierwszym wynalazcą jest Google. Ponadto stale rozszerza swoją działalność inwigilacyjną, na przykład poprzez pozornie niewinne projekty „smart city”. Przykładem jest projekt The World's Most Innovative Neighborhood realizowany przez Sidewalk Labs, spółkę zależną Google. molo w Toronto.

Google planuje zbierać wszystkie najmniejsze dane o życiu mieszkańców nabrzeża, ich ruchu, a nawet oddychaniu za pomocą wszechobecnych czujników monitorujących.

Trudno też wybrać internetową dystopię, o której na Facebooku nie ma mowy. Kapitalizm nadzoru mógł zostać wymyślony przez Google, ale to Facebook przeniósł go na zupełnie nowy poziom. Dokonano tego poprzez społeczne i emocjonalne mechanizmy wirusowe oraz bezwzględne prześladowania nawet tych, którzy nie są użytkownikami platformy Zuckerberg.

Strzeżona sztuczna inteligencja, zanurzona w wirtualnej rzeczywistości, żyjąca z UBI

Według wielu futurystów przyszłość świata i technologii wyznacza pięć skrótów – AI, AR, VR, BC i UBI.

Czytelnicy „MT” zapewne dobrze wiedzą, czym one są i z czego składają się pierwsze trzy. Znajomy okazuje się też być czwartym „BC”, kiedy zrozumiemy, o co chodzi. A piąty? UBD to skrót pojęcia, oznaczający „powszechny dochód podstawowy » (5). Jest to postulowana od czasu do czasu korzyść publiczna, która w miarę rozwoju innych technologii, zwłaszcza sztucznej inteligencji, otrzyma każda osoba zwolniona z pracy.

5. Uniwersalny dochód podstawowy – UBI

Szwajcaria poddała ten pomysł nawet w zeszłym roku referendum, ale jej obywatele odrzucili go, obawiając się, że wprowadzenie gwarantowanego dochodu doprowadzi do napływu imigrantów. UBI niesie ze sobą również szereg innych niebezpieczeństw, w tym ryzyko utrwalania istniejących nierówności społecznych.

Każda rewolucja technologiczna kryjąca się za tym akronimem (zobacz też:) – jeśli rozprzestrzeni się i rozwinie w oczekiwanym kierunku – niesie ze sobą ogromne konsekwencje dla ludzkości i naszego świata, w tym oczywiście ogromną dawkę dystopii. Na przykład uważa się, że może zastąpić czteroletnie cykle wyborcze i doprowadzić do referendów w niezliczonych kwestiach.

Z kolei rzeczywistość wirtualna jest w stanie „wykluczyć” część ludzkości z realnego świata. Tak było na przykład z Koreanką Jang Ji-sun, która po śmierci córki w 2016 roku z powodu śmiertelnej choroby poznała swojego awatara w VR. Przestrzeń wirtualna stwarza również nowe rodzaje problemów, a właściwie przenosi wszystkie znane, stare problemy do „nowego” świata, a nawet do wielu innych światów. Do pewnego stopnia już to widać na portalach społecznościowych, gdzie zdarza się, że zbyt mała ilość lajków na postach prowadzi do depresji i samobójstwa.

Opowieści prorocze mniej więcej

Przecież historia powstawania wizji dystopijnych uczy też ostrożności w formułowaniu przewidywań.

6. Okładka „Wyspy w sieci”

W zeszłym roku nakręcono słynne arcydzieło science fiction Ridleya Scottałowca androidów» Od 1982 roku. Można dyskutować o spełnieniu się lub nie wielu konkretnych elementów, ale bezsporne jest, że najważniejsza przepowiednia dotycząca istnienia w naszych czasach inteligentnych, humanoidalnych androidów, pod wieloma względami przewyższających ludzi, nie stała się jeszcze rzeczywistością.

Bylibyśmy gotowi tolerować o wiele więcej proroczych trafień”.Neuromancerzy»czyli powieści William Gibson od 1984 roku, który spopularyzował pojęcie „cyberprzestrzeni”.

Jednak w tamtej dekadzie pojawiła się nieco mniej znana książka (w naszym kraju prawie w całości, bo nie została przetłumaczona na język polski), która znacznie dokładniej przewidziała dzisiejszy czas. mówię o romansieWyspy w sieci(6) Bruce Sterling od 1988 r., osadzony w 2023 r. Przedstawia świat zanurzony w czymś podobnym do Internetu, zwanym „siecią”. Jest kontrolowany przez duże międzynarodowe korporacje. „Wyspy w sieci” wyróżniają się zapewnianiem kontroli, nadzoru i monopolizacji rzekomo wolnego Internetu.

Interesujące jest również przewidzenie operacji wojskowych prowadzonych przy użyciu bezzałogowych statków powietrznych (dronów) przeciwko internetowym piratom/terrorystom. Operatorzy znajdujący się w odległości tysięcy mil z bezpiecznymi komputerami stacjonarnymi — skąd o tym wiemy? Książka nie opowiada o niekończącym się konflikcie z islamskim terroryzmem, ale o walce z siłami, które sprzeciwiają się globalizacji. Świat Wysp w Sieci jest również wypełniony urządzeniami konsumenckimi, które bardzo przypominają smartwatche i inteligentne buty sportowe.

Jest jeszcze jedna książka z lat 80., która chociaż niektóre wydarzenia wydają się bardziej fantastyczne, dobrze ilustruje nasze współczesne dystopijne lęki. Ten "Oprogramowanie georadarowe", Historia Rudy Rookerustawiony w 2020 roku. Świat, stan społeczeństwa i jego konflikty wydają się niewiarygodnie podobne do tego, z czym mamy do czynienia dzisiaj. Istnieją również roboty znane jako boppery, które zyskały samoświadomość i uciekły do ​​miast na Księżycu. Ten element jeszcze się nie zmaterializował, ale bunt maszyn staje się nieustannym refrenem czarnych prognoz.

Wizje naszych czasów zawarte w książkach są również pod wieloma względami uderzająco dokładne. Oktawia Butler, szczególnie wPrzypowieści o siewcy» (1993). Akcja rozpoczyna się w 2024 roku w Los Angeles, a toczy się w zniszczonej przez powodzie, burze i susze wywołane zmianami klimatycznymi Kalifornii. Rodziny z klasy średniej i robotniczej spotykają się w zamkniętych osiedlach, próbując uciec od świata zewnętrznego z uzależniającymi narkotykami i zestawami do wirtualnej rzeczywistości. Pojawiają się nowe religie i teorie spiskowe. Karawana uchodźców kieruje się na północ, aby uniknąć załamania ekologicznego i społecznego. Do władzy dochodzi prezydent, który posługuje się hasłem kampanii „Make America Great Again” (to hasło Donalda Trumpa)…

Druga książka Butlera ”Przypowieść o talentachopowiada, jak członkowie nowego kultu religijnego opuszczają Ziemię statkiem kosmicznym, by skolonizować Alpha Centauri.

***

Jaka lekcja płynie z tego obszernego przeglądu przepowiedni i wizji sprzed kilkudziesięciu lat dotyczących naszego codziennego życia?

Prawdopodobnie faktem jest, że dystopie zdarzają się często, ale najczęściej tylko częściowo.