Przyszłość – głębokie trendy

Zebrałem niedawno kilka świeżych książek futurologicznych z zamiarem napisania o prognozach na przyszłość. Gdy wybuchła epidemia, wydawało się, że wszystko napisane przed marcem 2020 r. straciło sens, nadawało się najwyżej na archeologię futurologii. Tymczasem są tam opisane pewne głębokie trendy, które do nas wrócą – pisze Jan ŚLIWA

Oczywiście, zastrzegam, dziś widzimy, że wizje te w pewnych punktach są naiwne, niektóre aspekty nie były zauważalne – choć dobry futurolog powinien o nich pomyśleć. Głównie dotyczy to polityki, konfliktów i spraw społecznych. Ale weźmy się do omówienia. Lista literatury znajduje się na końcu, tu używam tylko nazwisk autorów.

Dominujące tematy to postęp technologii, ekologia, a zwłaszcza przeganiająca nas sztuczna inteligencja.

Niektórzy twierdzą, że dążymy do punktu „osobliwości” (singularity), gdzie sztuczna inteligencja przewyższy na tyle naturalną, że będziemy musieli się poddać i dostosować. Bostrom i Harari podchodzą do tego z akceptacją lub wręcz entuzjazmem. Nasza kultura, nasz system wartości zostaną przeorane – więc cóż? Otwiera to nowe, nieznane perspektywy. Leonhard pragnie, byśmy byli świadomi, co nas odróżnia od techniki, co stawia nas w innej kategorii, nawet gdy we wszystkich algorytmicznych zadaniach maszyny nas pokonają – i to powinniśmy starać się zachować. Alexandre zastanawia się, jak wykorzystać komplementarność inteligencji ludzkiej i sztucznej.

Jak też żyć w świecie, gdzie coraz mniej jest zadań, gdzie udział człowieka coś wnosi? Jak zachować system pracy dla każdego w ciągu czterdziestu lat, czego się uczyć, by dać radę w tak szybko zmieniającym się świecie? Prace można podzielić na fizyczne i umysłowe, proste i skomplikowane. Z koparkami dawno się nie ścigamy, tysiąc ludzi z łopatami nie ma żadnej wartości.

Co ciekawe, prace fizyczne wymagające skomplikowanych, nietypowych ruchów w zmiennych sytuacjach, wciąż są domeną ludzi. Ale przykręcanie śrubek, jak u Chaplina w „Dzisiejszych czasach”, lepiej wykonają roboty. Coraz więcej prac, dawniej uważanych za umysłowe, jest przejmowanych przez maszyny. W „Sercu” Amicisa biedna wdowa adresowała w domu ręcznie koperty dla banku. Dziś potrzeba na to paru klików. Nie ma biur linii lotniczych, urząd zastępuje e-government. Owszem, są potrzebni ludzie do programowania takich systemów, ale potrzeba ich niewielu.

Jeżeli chodzi o ludzką inteligencję, krzywa Gaussa jest jednak nieubłagana. Gdy podwyższa się poprzeczka dla ludzi, którzy w ogóle dadzą sobie radę w życiu zawodowym, najlepiej do emerytury, coraz więcej osób będzie niepotrzebnych.

Wciąż jeszcze są prace pomocnicze, ale będzie to zanikać. Nawet w wojsku mięśnie to za mało. Pojawia się pytanie, czy ulepszać sobie inteligencję – genetycznie, chemicznie lub elektronicznie. Po to, by konkurować nie tyle z maszynami, lecz z innymi ludźmi walczącymi o pracę i dochody. Również z narodami, które mają mniejsze opory, by sobie inteligencję podkręcić – dobrowolnie lub odgórnie.

U wymienionych autorów widać, że wpływ na dobór tematów i stanowisk ma ich osobiste doświadczenie. I tak Lovelock, twórca hipotezy Gai, akcentuje ekologię, w długiej perspektywie czasowej. Pamięta o wybuchu wulkanu w Indonezji, który zaledwie 74 000 lat temu zredukował ludzkość do kilku tysięcy. Z kolei Helbing, inżynier, zna problematykę samoorganizujących się systemów kompleksowych, połączonych siecią nieliniowych oddziaływań. Systemy takie zachowują się mianowicie chaotycznie, dochodzi w nich do nieprzewidywalnych zjawisk, jak w popularnym efekcie motyla, który drgnięciem skrzydełek w Amazonii powoduje tornado w Teksasie.

Dopiero lektura kilku książek daje szerszą orientację, a i tak niekompletną. Większość autorów pomija na przykład problemy polityczne. Wyróżnia się tu Herman Kahn, pionier futurologii, strateg wojny nuklearnej, jeden z pierwowzorów postaci doktora Strangelove’a z filmu Kubricka. Kahn, jak wielu wybitnych Amerykanów, był synem żydowskiego krawca z Polski. Nie jest to życie w spokojnej bańce dobrobytu. W książce „Things to Come” z 1972 r. jak najbardziej widzi politykę, państwa, problemy społeczne i kondycję psychiczną społeczeństw. Zastanawia się nad przyszłością EWG, gdzie gospodarczo dominuje Francja, Wielka Brytania coraz bardziej odstaje, a Niemcy dopiero stają na nogi. A co z ZSRR? Czy kraje satelickie przystąpią do niego jako republiki jak Białoruś? Na wschodzie obserwujemy wzrost Japonii. Oczywiście ważnym tematem jest technika, gdzie w połowie wykresu rozwoju komputerów zaznaczone jest przejście z lamp na tranzystory. To może budzić nasz uśmiech, ale imponuje szerokie, wieloaspektowe spojrzenie. Pamiętajmy też, że książka Kahna ma pół wieku, a nowe książki nie przeszły nawet próby pięciu lat.

A teraz parę słów komentarza. Typowe dla tych prognoz jest rozpatrywanie problemów z perspektywy ludzkości, „nas”.

„My” vs. superinteligencja, „my” vs. zmiany klimatu. Nie ma polityki, mało jest socjologii. Większość autorów zakłada atrofię państw. Ostatni rok pokazał, że tendencja jest dokładnie przeciwna.

Nawet ci, którzy głoszą walkę z (cudzym) nacjonalizmem, twardo bronią swoich interesów. Technologia używana jest do celów politycznych, do wygrywania konfliktów. Również technologia informacyjna – już podczas I wojny Anglicy przecinali Niemcom podmorskie kable, dziś będą odstrzeliwane satelity.

Dekady postępu i dobrobytu większość z nas uśpiły. Prąd elektryczny po prostu „był”, internet „był”, to samo GPS, satelity komunikacyjne i transport przez cieśninę Malakka. Nagle się okazało, że kawałki szmatki na usta to produkt strategiczny. Oraz że można drugiemu odciąć dostęp do rozliczeń bankowych, próbować wyłączyć go ze strefy dolara. Nie pochwalam tego, lecz tak jest. „Beatus qui tenet, powiedział pan Benet” – szczęśliwy, kto trzyma.

W odniesieniu do etyki na ogół rozważa się, czy maszyny będą potrafiły i chciały implementować „naszą” etykę. Ale jest taka? Dla niektórych aborcja to prawo człowieka, dla innych zabójstwo. To samo z eutanazją. Wielkie grupy społeczeństwa – zwłaszcza starzy i młodzi – doprowadzane są do nędzy, po czym oferuje się im „godne wyjście”.

Nie ma etyki uniwersalnej. Nie można też wymagać, by robot nie skrzywdził człowieka, bo robot bywa tworzony przez jednego człowieka dokładnie w tym celu, by wygrać z innym człowiekiem.

Dalsza kwestia to niezawodność. Zwłaszcza humaniści przeceniają potęgę techniki. Zakładają, że maszyny robią to, co im kazano, i jeżeli szkodzą ludziom, to tylko z powodu złej woli twórcy. Ewentualnie maszyna może się znarowić, jeżeli osiągnie poziom świadomości i wolnej woli. Każdy programista wie, jak wiele jest niedociągnięć w oddanym do użytku softwarze, zwłaszcza gdy był pisany przez junior programmers pod presją czasową. Potem jest zapakowany w błyszczące pudełko, ale nie powinno nas to zwieść. Program myli się na sposoby o wiele bardziej fantazyjne, niż taka belka, która może się po prostu złamać. Był przypadek statku, który sterowany komputerowo zaczął krążyć w kółko. Inteligentnym samochodom zdarzało się uznać właściciela za intruza i zaryglować drzwi. Systemy Internet of Things, zbudowane z tanich elementów bez dokumentacji i serwisu, to pułapka. Im więcej takich systemów jest w otoczeniu, im poważniejsze decyzje podejmują, tym większe ryzyko niekontrolowanych zachowań. W softwarze dominują monokultury: Microsoft, Google, Amazon. Jeden dobry wirus, awaria lub atak na farmy serwerów wystarczy, by położyć świat na łopatki.

Dalej – raz zbudowane urządzenia i instalacje wymagają serwisu. Metro londyńskie zostało otwarte w styczniu 1863 r., gdy nasi chłopcy stawiali kos na sztorc i szli do walki z Moskalem. To długo. Gdyby uznano, że metro po prostu jest, do dzisiaj by się rozsypało i zarosło jak świątynie Majów. W przypadku budowli jest to widoczne. Tak wyglądał dworzec w Katowicach pod koniec swojego istnienia. Między płytami pojawiała się coraz bujniejsza roślinność, jak na Jukatanie. Ale podobnie jest z oprogramowaniem. Widzimy, na ilu stronach internetowych z czasem coraz mniej rzeczy działa. Następuje erozja, wzrost entropii. Czyli jeżeli zabraknie ludzi, pieniędzy i ochoty, systemy zaczną się sypać, do tego w sposób niekontrolowany.

Ale zanim to nastąpi, systemy zawładną nami. Nie myślę tu o żadnych demonicznych zjawiskach w rodzaju buntu maszyn. Po prostu przekazujemy systemom automatycznym coraz więcej zadań. Sterowanie elektrownią, dystrybucją energii, sygnalizacją świetlną, ogrzewaniem. Inteligentne budynki, inteligentne miasta, inteligentne kraje. Programy optymalizujące, uczące się z doświadczenia. Robią to lepiej niż ludzie, mają więcej danych, szybciej je potrafią przetwarzać.

Wielu by chciało, by automatyczne decyzje dało się sprowadzić do jasnych reguł, ale w przypadku systemów uczących się z danych jest to bardzo trudne. I tak jak niedawno pro forma wspominało się o ochronie danych, teraz widzimy w całej okazałości, że wszystko, co zbiera dane, daje się wykorzystać do inwigilacji i kontroli.

Informacje o obywatelu dają jego profil, na podstawie parametrów można go nie wpuścić do pociągu, zablokować mu kartę, wyłączyć internet, a w ostateczności prąd. To brzmi jak model chiński? Owszem, ale i w Europie zaczyna się to podobać, nie tylko w krajach oskarżanych o autorytaryzm. I znowu – nie chodzi tu o jakąś „ludzkość”, lecz o to, kto konkretnie trzyma pokrętła.

Problemy opisane w wymienionych książkach są autentyczne, ale zawsze należy zapytać o to, kto kogo kontroluje, kto zarabia, kto traci. Na przykład na problem struktury siły roboczej nakłada się imigracja z Afryki. Z jednej strony Europa się wyludnia, ale praca, którą mogliby zaoferować przyjezdni to dokładnie ta, która przestaje być potrzebna. A jak ze spójnością społeczną, z tożsamością kulturową?

Epidemia pokazała, jak w stresie narastają napięcia i nerwowość. Rządy kierują przy niepełnej informacji, ale lepszej nie ma. Ludzie nie wytrzymują obostrzeń, wychodzą na ulicę. Mnożą się teorie spiskowe. Najpierw słychać, że szczepionka zabija, że z powodu obcego DNA pacjentowi „wyrosną płetwy”. Żąda się: „Namawiasz do szczepienia? Sam się zaszczep!”. Ledwo szczepionka się pojawiła, słychać: „Czemu się celebryci wpychają bez kolejki?” – równie głośno jak poprzednio. To tylko przykład. Ale przedstawiane czasem wyobrażenia jakiejś cyfrowej nirwany, gdzie ludzie z okularami wirtualnej rzeczywistości snują się jak zombies, nic nie mając do roboty, są bez sensu. Zresztą do kogo się odnoszą takie wizje? Kto miałby się przemienić w transhumanistycznego cyborga? Milcząco zakłada się mieszkańców Silicon Valley, najbardziej kierownictwo wielkich firm. Ale jaki to ma związek z francuskimi „żółtymi kamizelkami”, którym brakuje do pierwszego? Obok się toczy społeczne życie normalnych ludzi.

Rosnąca koncentracja majątku w rękach nielicznych przy pauperyzacji mas to beczka prochu.

Mamy więc wzajemne oddziaływania techniki, środowiska, państw, społeczeństw, armii, służb specjalnych, spisków prawdziwych i wymyślonych. Ale na jedną zależność chciałbym zwrócić uwagę. Podstawą tego wszystkiego jest energia. Całe nasze życie zaczyna się toczyć na serwerach – tam są nasze pieniądze, nasze personalia, tam jest nasza dokumentacja medyczna. My sami jesteśmy tylko białkowymi urządzeniami peryferyjnymi. I teraz – bez prądu możemy o tym wszystkim zapomnieć. Nie ma telefonu, lodówki, windy, autobusu. Po dniu ludzie zaczynają ginąć. Wygrywa ten, kto sadził kartofle w ogródku i łapie do wiadra deszczówkę. Zielony ład to piękna rzecz, ale bezwietrzne, pochmurne lato to katastrofa.

.Ale o kolapsologii, czyli na ile sposobów wszystko się może zawalić, porozmawiamy innym razem.

Jan Śliwa
POLECAM LEKTURZE:

• Herman KAHN „Things to Come: thinking about the seventies and eighties” (MacMillan, 1972)
• James LOVELOCK „Novacene: The Coming Age of Hyperintelligence” (Allen Lane, 2019)
• Luciano FIORDI „The 4th Revolution: How the Infosphere Is Reshaping Human Reality” (Oxford University Press, 2014)
• Nick BOSTROM „Superintelligence” (Oxford University Press, 2014)
• Yuval Noah HARARI „Homo Deus: A Brief History of Tomorrow” (Vintage, 2017)
• Gerd LEONARD „Technology vs. Humanity: The coming clash between man and machine” (Fast Future Publishing, 2016)
• Dirk HELBING „The Automation of Society is Next: How to Survive the Digital Revolution” (Dirk Helbing, 2015)
• Laurent ALEXANDRE „La guerre des intelligences: Comment l’Intelligence Artificielle va révolutioner l’éducation” (JCLattès, 2017)
• Kai-Fu LEE „AI Superpowers: China, Silicon Valley and the New World Order” (Houghton Mifflin Harcourt, 2018)