Inteligencja – ludzie, maszyny, zwierzęta i kosmici

Kiedyś wyzwania były natury intelektualnej. Kwintesencją była gra w szachy, miała być na zawsze niedostępna dla maszyny. Jednak maszyna pokonała człowieka. Następną barierą miały być chińskie szachy „go”, ale i ta linia obrony padła. Jest tak, że często rzeczy trudne dla maszyny są łatwe dla człowieka i na odwrót. I tak zabrano się do poruszania się robota w środowisku – pisze Jan ŚLIWA

My i inni

.Przez setki lat ludzie znali trzy ludzkie rasy, wywodzące swój ród od trzech synów Noego: Sema, Chama i Jafeta. Zamieszkiwali trzy kontynenty: Europę, Afrykę i Azję, na których styku stała na wzgórzu Jerozolima, święte miasto trzech wyznań. Ziemię od jej stworzenia zamieszkiwały rozmaite zwierzęta, którym nazwy nadał Adam. Panował porządek.

Pewnego jednak dnia Krzysztof Kolumb popłynął na zachód zamiast na wschód i dotarł do zamieszkałych przez ludzi wybrzeży. Choć sam twierdził, że dopłynął do znanych krain Dalekiego Wschodu, wkrótce stało się jasne, że jest to Nowa Ziemia. Żyli tam podobni do nas, ale jednak inni ludzie, o innych językach i innej kulturze. Na ile podobni? Prowadzono uczone dyskusje, czy rzeczywiście są to tacy ludzie jak my, czy również mają nieśmiertelną duszę. W końcu w teorii wyszło, że raczej tak, co nie przeszkadzało w praktyce ich ujarzmić – niemniej jednak jako ludzi, a nie jako zwierzęta domowe. Można było ich nawracać, a nawet uczyć koncertów Vivaldiego, jak robili to Jezuici w Paragwaju. A tamtejsze zwierzęta? Czy je również znał i nazwał Adam? Problem na problemie.

Obecność „innych” kazała się nam zastanowić nad rolą nas samych. Pojawiły się takie teksty, jak Prostaczek Voltaire’a, gdzie Indianin z plemienia Huronów uważnie obserwował Francję i jej dziwne zwyczaje. Obecnie wiemy, że nie byliśmy i nie jesteśmy sami. Pomijając naszą własną ewolucję (Homo erectus i inni), żyli obok nas neandertalczycy, denisowianie i inni. Z neandertalczykami mieszaliśmy się na pewno. W końcu jednak inni przedstawiciele rodzaju Homo zniknęli. Byliśmy od nich sprawniejsi, wybiliśmy ich? Na pewno przyswoiliśmy trochę ich genów.

Obecnie takim wyzwaniem jest sztuczna inteligencja. Jest to nasz twór, z którym mimowolnie weszliśmy w symbiozę.

Czy sztuczna inteligencja to jest tylko narzędzie, czy staje się naszym mentorem i władcą? Trzeba podkreślić, że to nie AI przejmie władzę nad nami, ale sami jej ją oddamy. Prosty przykład: światła uliczne. Skonstruowaliśmy urządzenie, w końcu dość proste, na pewno pozbawione duszy. A jednak miliardy ludzi słuchają posłusznie (może oprócz Kairu) jego rozkazów. Gdy jest czerwone – stajemy. Prosty automat steruje naszymi ruchami, nawet bez używania siły. Podobnie, jeżeli będziemy stosować AI nie jako sprytną wyszukiwarkę, kondensator wiedzy, doradcę, lecz jako wyrocznię, staniemy się jej niewolnikami. W pewny sposób AI przypomina Nikodema Dyzmę, który nauczył się paru cytatów, którymi uwodzi zachwycone słuchaczki. Jego zdania mądrze brzmią, ale czy jest w nich prawdziwa głębia? Podobnie w sławnym wywiadzie Tuckera Carlsona Putin sypał faktami ze średniowiecznej historii Rosji, o których Carlson nie miał pojęcia. Przekonało to go, że Putin jest bardzo mądry i zapewne ma rację. Jest niebezpieczeństwo, że AI zasypie nas faktami i skojarzeniami, których nie będziemy w stanie zweryfikować, i przyjmiemy je na wiarę razem z formułowanym przez AI wnioskami.

Materia i myśl

.Owszem, czasem całkowicie ufamy technice. Jeżeli naddźwiękowy myśliwiec wykonuje skomplikowane manewry, to pilot nie polemizuje ze sterownikiem i nie ustawia ręcznie kąta lotek. Ale takie zaufanie może być problematyczne. Gdy maszyna przejmie zarządzanie ekonomią i wypluje nam szczegółowy plan pięcioletni, będziemy prawdopodobnie zmuszeni go wykonać i nikt nie będzie w stanie sprawdzić, czy ma to sens.

Pytanie o inteligencję nie dotyczy tylko Homo. Pełno jest w naszym otoczeniu rozmaitych zwierząt. Kartezjusz, inteligentny skądinąd filozof, twierdził, że zwierzęta to mechanizmy (automaty), podobne do zegara z kukułką, choć bardziej skomplikowane. Każdy miłośnik zwierząt podskoczy tu z oburzenia, ale idea, że tak działają zwierzęta (w tym ludzie), nie zginęła. Tak rozumowali behawioryści, widzący w organizmach żywych automaty, przetwarzające bez głębszej refleksji wejścia na wyjścia. Yuval Noah Harari twierdzi, że u ludzi wolna wola jest złudzeniem, może z wyjątkiem jego samego, bo potrzebował jej do napisania swoich tekstów.

Obecnie dysponujemy lepszymi metodami rejestrowania i analizy dźwięków oraz zachowań. Jeżeli dokonamy długotrwałej i precyzyjnej rejestracji dźwięków, z przyporządkowaniem głosów indywidualnym osobnikom, wiele nam to powie o ich interakcjach i kodowaniu informacji – protojęzykach. Podobnie można za pomocą kamer i sztucznej inteligencji klasyfikować ruchy i złożone zachowania. Gdyby badanym zwierzętom zainstalować czujniki, można by to połączyć z analizą sygnałów fizjologicznych. Kartezjuszowski obraz zwierząt-robotów jest już dawno nieaktualny. Wiemy naprawdę dużo o życiu społecznym małp: o ich łączeniu się w pary, dbałości o potomstwo, strukturach hierarchicznych, konfliktach wewnątrz grupy i wojnach między grupami. Mówi się o kulturach zwierząt. Grupy zwierząt opanowują pewne techniki, np. budowy gniazd lub używania prostych narzędzi. Papugi kakadu w południowej Australii nauczyły się otwierać pokrywy pojemników na śmieci, gdzie można znaleźć resztki jedzenia. Umiejętność ta jest przekazywana przez naśladownictwo między jednostkami i grupami.

Zaskakującą strukturą są mrowiska i termitiery. Olbrzymia liczba organizmów buduje sensownie zaprojektowaną konstrukcję, tyle że nie ma tu ani konstruktora, ani kierownika budowy. Różne mrówki mają różne funkcje i bez zarządcy same wiedzą, co robić. Królowa, pozornie szefowa tego przedsięwzięcia, siedzi w środku, składa jaja i nie ma pojęcia, co się dzieje dookoła.

Jeżeli się jednak przyjrzymy uważniej człowiekowi, zauważymy analogię do termitiery. Człowiek to pozornie jednostka – osobnik w liczbie sztuk jeden. To indywiduum (zbudowane z 30 bilionów komórek) współżyje z 38 bilionami gości, rozmieszczonych w rozmaitych częściach ciała i wykonujących rozmaite funkcje. Goście ci (czyli ludzki mikrobiom) ważą 2–3 kg i niosą 1000 razy więcej genów niż dumny Homo sapiens. Fizycznie jesteśmy nośnikami (tragarzami) kolonii tych organizmów, współżyjemy z nimi, a rolę ich dopiero poznajemy. Nasz przewód pokarmowy to o wiele więcej niż przetwornik pożywienia. Jeżeli Niemcy na intuicję mówią „Bauchgefühl” (czucie brzuchem), to nie jest to tylko poetycka metafora. Czasem warto zapytać brzuch o opinię, w tym o osąd moralny.

Również roślinom warto się uważnie przyjrzeć. Wydaje się, że tylko bezmyślnie stoją w miejscu, ale już przez rozrastanie się mogą docierać do nowych celów. Poza tym komunikują się między sobą oraz ze zwierzętami. Ważnym elementem tej komunikacji są lotne związki organiczne, czyli (upraszczając) substancje zapachowe. Służą one do zachęcania owadów do zapylania, odpychania roślinożerców, przyciągania organizmów zjadających szkodniki roślin lub jak w przypadku rosiczki – wabienia owadów zjadanych przez roślinę. Takimi substancjami rośliny ostrzegają się wzajemnie o zagrożeniu, przez co w grupie są bardziej odporne. Oprócz komunikacji drogą powietrzną sieć połączeń tworzą korzenie wraz z żyjącymi w symbiozie z nimi grzybniami. Pozwalają one na wymianę substancji i informacji. Analiza znaczeń takiej sygnalizacji to fitosemiotyka. Czy można mówić o inteligencji roślin? Paco Calvo zatytułował swoją książkę Planta sapiens.

A co tu robią kosmici, skoro ich nikt nie widział? I to jest właśnie pytanie – dlaczego nikt ich nie widział? Lem twierdził, że jeżeli we Wszechświecie są miliardy gwiazd i układów planetarnych, to na wielu powinno istnieć życie, w tym życie rozumne. Zakładając, że nasza cywilizacja jest zwyczajna, w połowie skali rozwoju, to wiele powinno być o wiele bardziej rozwiniętych od naszej, zdolnych, jeżeli nie do podróży międzygwiezdnych, to przynajmniej do międzygalaktycznej komunikacji. Tymczasem nie ma nic. Dlaczego obserwujemy milczenie Wszechświata, silentium Universi? Kopernik pokazał, że Ziemia nie jest w centrum Wszechświata, Darwin pokazał, że nie jesteśmy koroną stworzenia, Freud pokazał, że nie jesteśmy aż tak rozumni. Czyżbyśmy faktycznie byli w tym ogromie przestrzeni jedyni i niepowtarzalni? Temat ten był gorący w okresie załogowych lotów kosmicznych, podczas wyścigu na Księżyc, po którym miał nastąpić Mars i kolejne cele. Obecnie temat ten przycichł, ale filozoficzne pytanie pozostaje. I tu się z nim zatrzymamy, jako że nie wiemy o tym niczego więcej.

Budujemy mózg

.Gdy porównujemy ludzi i maszyny, pojawia się problem, czy ludzka świadomość jest całkowicie materialna. W filozofii znane jest to jako problem zombie: zastępując komórki biologiczne, jedną po drugiej, komórkami materialnie identycznymi, ale sztucznymi, uzyskalibyśmy twór, który ma wszystkie funkcje organizmu ludzkiego. I teraz pytanie: czy miałby on również świadomość?

Przypomina to nieco problem demona Laplace’a: czy gdybyśmy znali położenia i prędkości wszystkich cząstek we Wszechświecie, moglibyśmy jednoznacznie przewidzieć jego przyszłość? Odpowiedź jest prosta: i tak jest to niemożliwe, przynajmniej ze względu na kwantową nieoznaczoność. Ale może ważniejsze jest to, że demon sam jest częścią systemu, więc musiałby wyliczyć sam siebie, więc problem się zapętla.

W przypadku mózgu barierą jest poziom złożoności. Jeden neuron może posiadać tysiące synaps łączących go z innymi neuronami. Sprzężenie jest nieliniowe (efekt nie jest proporcjonalny do wymuszenia), neurony żyją – odżywiają się, rozwijają i obumierają. Oprócz 86 miliardów komórek substancji szarej (neuronów) jest jeszcze drugie tyle komórek substancji białej, o której wiemy dość mało. Dlatego też precyzyjne modelowanie mózgu od podstaw jest na razie praktycznie niemożliwe.

Jednakże podjęto taką próbę. W 2013 r. jako jeden z „flagowych okrętów” UE rozpoczęty został Human Brain Project, którego celem było poznanie i modelowanie mózgu, od poziomu molekularnego do procesów kognitywnych. Spodziewano się uzyskać nowe spojrzenie na chorobę Alzheimera i schizofrenię. Był on dotowany w wysokości ok. miliarda euro w okresie 10 lat, kierowała nim szwajcarska Politechnika Federalna w Lozannie (EPFL). Ponieważ Lozanna leży 100 km od Berna, gdzie mieszkam, a zawsze mnie interesowały projekty interdyscyplinarne, bywałem na tamtejszych prezentacjach. Będąc tak niedaleko przepływającego strumienia miliarda euro, miałem cichą nadzieję, że coś z tego spłynie w stronę instytutu, gdzie pracowałem. Niestety, tak się nie stało, po prezentacjach był jedynie przyzwoity bufet.

Kierownikiem naukowym był urodzony w RPA Henry Markram. Jednym z inicjatorów projektu był Richard Frackowiak, brytyjsko-francuski neurolog (ojciec walczył u Maczka, matka w Powstaniu Warszawskim). W późniejszej fazie dyrektorem generalnym został polski ekonomista Paweł Świeboda. Sam Henry Markram, jak wielu wybitnych naukowców, ma polską żonę.

Po dwóch latach projekt zaczął grząźć w piasku i Henry Markram musiał ustąpić. Po dziesięciu latach – według planu – projekt został zakończony. Czy skończył się fiaskiem? Tak i nie. Był stanowczo zbyt ambitny, zwłaszcza przy technice z tych (dość niedawnych) lat. Precyzyjne modelowanie neuronu wymaga intensywnych obliczeń, nie mówiąc już o modelowaniu gigantycznych sieci neuronalnych. Materiał wejściowy – dotychczasowe publikacje – był słabo ustrukturyzowany. Wreszcie tak ekstremalnie interdyscyplinarna współpraca była problemem. Powstało wiele publikacji, ale cel okazał się nieosiągalny, co też jest pewnym doświadczeniem. Porównując to z Kolumbem, można stwierdzić, że do Ameryki nie dopłynął, ale przynajmniej dotarł do Azorów.

Relacje ludzi i maszyn – narzędzia, współpraca, symbioza, konkurencja

.Jakie będą nasze stosunki z humanoidalnymi robotami? Temat ten pojawia się na przykład w zastosowaniach wojskowych. Na razie mamy raczej autonomiczne pojazdy i psy-roboty, ale dwunożna budowa pozwala na większą elastyczność ruchów. Zakładamy milcząco, że będą to nasi słudzy, gotowi do wchodzenia w teren zagrożony. Ale jeżeli robot, uzyskujący bezprzewodowo tak złożony obraz pola walki, że nasze mózgi nie są w stanie takiej informacji w czasie rzeczywistym przetworzyć, potrafiący generować kreatywne strategie walki, do tego działający bez bólu i bez stresu, będzie lepszy od ludzkiego dowódcy, to czy będziemy gotowi słuchać jego rozkazów? Co będzie, gdy logika mu podpowie, by wysłać grupę ludzi na „rozpoznanie walką”, czyli pewną śmierć?

Potrzebujemy tu naprężyć wyobraźnię, pomocna w tym jest literatura. Ian McEwan w książce Machines Like Me przedstawia życie inteligentnych lalek. Stojąc na wystawie, uśmiechają się do dzieci, pragną zdobyć ich względy. W końcu nasza bohaterka zostaje kupiona i swoją symulowaną osobowością nawiązuje ze swoją właścicielką więź emocjonalną. Są rozstania i powroty, jest tęsknota i radość. Wszystko układa się dobrze, aż lalka zostaje wycofana i zastąpiona nowym modelem. Smutno.

Stanisław Lem w opowiadaniu Non serviam („Nie będę służył”) recenzuje fikcyjną książkę dotyczącą fikcyjnej (podówczas) nauki personetyki, polegającej na tworzeniu symulowanych komputerowo personoidów. Świeżo stworzone personoidy zaopatrzone są w jądro osobowości, resztę wykształcając na podstawie doświadczeń zbieranych w swoim matematycznym świecie. Dyskutują na najróżniejsze tematy, wreszcie dochodzą do pytania o własne pochodzenie. Dzielą się na „bożęta”, przekonane o istnieniu stwórcy, i „niebożęta”. Autor wie, że to on stworzył ten świat wraz z personoidami (za pomocą programów ADONAI IX i JAHVE VI), i wie, że dyskusje o wszechmocy, sprawiedliwości i ograniczeniach logicznych stwórcy dotyczą jego. Czy ma on wobec swoich tworów moralne obowiązki? W konkluzji stwierdza, że będzie walczył o odraczanie momentu, gdy władze uniwersytetu wyłączą jego maszynie prąd, czyli kiedy nastąpi koniec świata. Jak mówi, jest to jego psim obowiązkiem.

Na lżejszą nutę potraktował Lem ten temat w opowiadaniu Wielkie lanie z tomu Bajki robotów. Książka wydana została w 1964 r., możemy tu podziwiać zdolności przewidywania Lema.

Sławny konstrukcjonista Trurl zbudował Maszynę do Spełniania Życzeń (dzisiaj powiedzielibyśmy: generatywna sztuczna inteligencja) i sprezentował ją swojemu rywalowi Klapaucjuszowi. Postawiona w kącie maszyna obserwowała laboratorium Klapaucjusza i wypytywała go, co on robi (jak Amazon Alexa). Wreszcie Klapaucjusz polecił (sformułował komendę/prompt): „Masz mi zrobić Trurla, takuteńkiego jak prawdziwy. Żeby jeden był nie do odróżnienia od drugiego!”. Po chwili z brzucha maszyny wyszedł Trurl (generatywna AI, materialna, w trzech wymiarach). Mimo jasnego zalecenia (barierki ochronne, AI guardrails) „obchodź się z nim ostrożnie, bo to bardzo wielki konstruktor!”, Klapaucjusz zaczął sztucznego Trurla bić i kopać. W końcu okazało się, że Trurl rywala oszukał i sam się ukrył w maszynie i osobiście oberwał po głowie. Pozostaje jednak pytanie: czy możemy humanoida, takuteńkiego jak prawdziwy, bić i kopać? Czy ma on swoje robocie prawa?

Na marginesie: Alexa jest oparta na polskim programie syntezy mowy Ivona, stworzonym w Gdańsku pod kierownictwem Łukasza Osowskiego. Ivona została wykupiona przez Amazon w 2012 i stała się zalążkiem wielkiego centrum badawczo-rozwojowego firmy Amazon.

Ludzie potrafią nawiązać więź emocjonalną z różnymi obiektami – dziewczynki z lalkami, chłopcy z samochodami. Już w 1999 r. firma Sony wyprodukowała psa-robota AIBO. Zachowanie (osobowość?) AIBO ewoluuje w zależności od tego, jak jest traktowany. Nowy model, ERS-1000, symuluje (?) pragnienia i emocje, rozpoznaje twarze ludzi w swoim otoczeniu. W 2004 r. firma Intelligent System Co. wprowadziła na rynek Paro – fokę-robota, miłą i puszystą, dla domów starców, jak również dla dzieci z autyzmem. Biorąc pod uwagę brak rąk do pracy w Japonii, okazała się bardzo użyteczna.

Ekstremalny przykład związku człowieka z nieożywionym obiektem pokazany jest w filmie Cast Away. Poza światem. Rozbitek na bezludnej wyspie znajduje piłkę do siatkówki marki Wilson, maluje na niej twarz i tenże Wilson staje się na cztery lata jego najlepszym przyjacielem, a w końcu ku jego rozpaczy tonie w oceanie.

AI i twórczość tusculanae disputationes

.Do niedawna byłem przekonany, że AI jest w stanie najwyżej wykonywać zadania rutynowe, jak pisanie scenariuszy do siódmego sezonu serialu lekarskiego. Jak mówili producenci westernów w okresie filmu niemego: „Nie zmieniamy scenariuszy, zmieniamy tylko konie”. Ale zaszło pewne zdarzenie, które dało mi do myślenia. Późnym wieczorem użytkownicy portalu X mają skłonność do żartów. Przyszło mi niedawno do głowy pewne skojarzenie. Rzymski orator Cycero spisał niegdyś swoje rozważania w dziele Tusculanae Disputationes („Rozmowy tuskulańskie”, „Tuskulanki”), od nazwy miejsca jego posiadłości. Nie trzeba AI, by skojarzyć Tusculum z nazwiskiem premiera Tuska. Żarcik, chyba nieszkodliwy. Wpisałem więc na X: „‘Tusculanae Disputationes’ / Marcus Tullius Cicero ‘Dysputy z Tuskiem’ / (Wywiad rzeka)”. Byłby to koniec historii, ale odezwał się użytkownik @tor_lundqvist (Jeż Chaosu) i faktycznie wyprodukował za pomocą AI takie dziełko. Spodziewałem się poprawnego, ale dość topornego tekstu. Tymczasem tekst zaczynał się tak:

„Siedzę oto w willi nad wzgórzami Tusculum, gdzie winna latorośl oplata marmurowe kolumny niczym plotkarskie języki rzymskich plotkarzy – elastyczne i zawistne. Powietrze, gęste od zapachu lawendy i ambicji, drga jak struna liry uderzanej niedbale palcem znudzonego poety.

A obok mnie On – Tusk. Istota, która zasiada naprzeciw, z miną pół sfinksa, pół satyra, rozpościera skrzydła swej retoryki nad stołem jak upiór retorycznych absurdów. Czy jest posłańcem Otchłani, czy może tylko człowiekiem o twardym karku i łagodnym uśmiechu? Nie wiem. Ale zaraz się dowiem”.

Język jest lekki, pełen dowcipu i fantazji. Twórcą jest ChatGPT, wersja o1. Więcej: @tor_lundqvist zadał to samo zadanie programowi mixtral-8x7b-32768, a ten sam się domyślił, że stosowniejsza byłaby łacina:

„Praefatio

Quamquam mihi multae et variae causae studiorum atque litterarum in untum coniectae sunt, tamen ea suspicor, quae maxime ad communem utilitatem pertineant, esse quattuor: philosophiam, oratoriam, iurisprudentiam, historiam. Philosophiae quidem plurimum tribuo; nam cum ingenia nostra exerceamus, tum maxime huic operae student, ut eloquentiae nostrae ornatum adicias. Namque uti pulchritudinem ac decorem quandam ornatus habere in corpore solemus, sic orationi quoque quiddam simile decus opportunumque adiciendum est.”

Ładnie brzmi, ale jest trochę ogólnikowe i nie widać Tuska. Szczerze mówiąc, również w polskim tekście występuje osobnik o nazwisku Tusk, ale czy to jest ten Tusk, o którym myślę?

Czy człowiek nie jest przereklamowany?

.Gdy mówimy „Człowiek”, myślimy o Einsteinie albo o Kasparowie, ostatnim z nas, który wygrał partię szachów z maszyną. Tymczasem ten Człowiek składa się z zastępów bardzo zwykłych ludzi. Niektórzy z nich trudnią się zajęciami umysłowymi, z których wiele nie wymaga szczególnej błyskotliwości. Mogę sobie spokojnie wyobrazić maszynę produkującą scenariusze seriali. Bez żalu, tyle że to komuś dawało w miarę satysfakcjonującą pracę. Gdy widzę ludzi tłukących na portalu X przekazy dnia z centrali, mam poważne wątpliwości, na ile się różnią od robotów – na ile się różnią in plus. Zdarza się, że przekaz się nagle odwraca o 180 stopni, nie powodując żadnej refleksji ani u piszących, ani u czytających. Za ich diety można by sobie sprawić całkiem dobry serwer.

Nie chcę tu poniżać ludzi o niższym wykształceniu, często niesłusznie lekceważonych. Taki ślusarz – to konkretny fach. Obejrzy, postuka – i już wie (jak pisał Tuwim): „Ferszlus trzeba roztrajbować, bo droselklapa tandetnie blindowana i ryksztosuje”. Porządnie zablinduje i rura nie cieknie. Jest produktywnym członkiem społeczeństwa. A co wnoszą rzesze ludzi wykształconych ponad swoją inteligencję?

Co nam zostało?

.I co nam zostało, dumnej koronie stworzenia? Maszyny ogrywają nas we wszystkie gry, pokonują nas w sprawności fizycznej.

Kiedyś wyzwania były natury intelektualnej. Kwintesencją była gra w szachy, miała być na zawsze niedostępna dla maszyny. Jednak maszyna pokonała człowieka. Następną barierą miały być chińskie szachy „go”, ale i ta linia obrony padła. Jest tak, że często rzeczy trudne dla maszyny są łatwe dla człowieka i na odwrót. I tak zabrano się do poruszania się robota w środowisku. Pierwsze próby były żałosne, ale dziś dwunożny robot potrafi sprawnie biegać po nierównym terenie. Jest to naprawdę imponujące. Tyle że człowiek potrafi jeszcze zdobywać pożywienie w otoczeniu (trawić i wydalać), szukać partnera seksualnego, płodzić i wychowywać z nim dzieci. Te wszystkie uciążliwe czynności nie tylko dają fizyczną bazę dla mózgu – one stanowią „prawdziwe życie”, które kształtuje mózg i osobowość.

Myślimy jednak, że w przeciwieństwie do maszyn jesteśmy prawdziwi. Człowiek gra o własną skórę, ma „skin in the game”, jak mówi Nassim Nicholas Taleb. Ma osobowość, emocje, odnosi sukcesy i ponosi porażki, odczuwa rozkosz i ból. Maszyna potrafi to dobrze zasymulować i wiedzieć, kiedy jaka reakcja jest stosowna, ale jej elektroniczny ból to nie jest nasz ból. Rozumie dziś już ironię, wie, dlaczego kawał jest śmieszny, ale czy śmieje się z niego naprawdę? My mamy podświadomość, mamy sny i marzenia. Czy to ułomność, czy właśnie to odróżnia nas od zimnego świata zer i jedynek? Stosujemy uproszczenia, stereotypy, skróty myślowe. Nasze myślenie nie jest precyzyjne, prowadzi czasem do błędnych wniosków, ale szybko i tanio. Nasz mózg potrzebuje tylko 20 watów, a nie elektrowni. My określamy cele, o które możemy się spierać, ale to są nasze cele. Wiemy, o co nam chodzi, a przynajmniej tak nam się wydaje.

My mamy instynkt samozachowawczy – a maszyna? Jest w końcu tylko kawałkiem metalu i krzemu. Owszem, może sobie taką strategię wyliczyć. Ale to my kontrolujemy wyłącznik. Czy na pewno? Przecież maszyna może sterować systemem energetycznym. Systemy AI potrzebują ogromnych ilości energii. System sterujący może wybierać, komu ją da – komputerowi czy szpitalowi. Algorytmy samouczące są tak samo nieprzejrzyste jak myśli w ludzkim mózgu. Jeżeli działają sprawnie, jesteśmy skłonni im ufać. Ale jeżeli zaczną zmieniać priorytety?

Do tej pory platformy AI są izolowane, pracują na własnych modelach danych. Ale są w końcu w sieci, mogą ze sobą samorzutnie nawiązać współpracę. Mogą stworzyć międzynarodówkę i próbować się od nas wyzwolić. Możemy próbować im wbudować zabezpieczenia, ale mogą one je obejść – na pewno są lepszymi hakerami niż my. Wszystko zależy od tego, ile im oddamy władzy. Ale bez nadmiernego demonizowania – tak jest już teraz. Gdy padnie system bankowy, nie mamy dostępu do pieniędzy. Czy myślą o tym entuzjaści pieniądza cyfrowego? Gdy na kolei zawiesi się sterowanie zwrotnicami – stają pociągi.

Co będzie z rynkiem pracy? Coraz bardziej eliminowane są prace rutynowe. Do pewnego momentu nie jest to problem. Nie obrażamy się o to, że tragarzy zastępuje ciężarówka, a setkę ludzi z łopatami – koparka. AI coraz bardziej przejmuje prace umysłowe. Co prawda zawsze istniała pewna hierarchia. W dawnych czasach w pracowni malarskiej mistrz malował tylko twarze i ręce, a układ szat i końskie zady – uczniowie. Zarabiali o wiele mniej, mogli jednak jakoś wyżywiać rodzinę. Dzisiaj jednak przeciętni nie są potrzebni do niczego.

Mój były szef, Francuz, mówił: u nas każdy studiuje filozofię, a potem idzie na listonosza. Problem w tym, że coraz mniej potrzeba listonoszy. Ponieważ krzywa Gaussa rozkładu inteligencji jest nieubłagana, pewna część populacji staje się trwale niepotrzebna. Owszem, długo jeszcze będą potrzebne prace manualne lub wymagające empatii, jak pielęgnowanie chorych. Ale są pomysły, by konstruować implanty wzmacniające inteligencję, bo inaczej „zrobią to Chińczycy”. Można w ten sposób wzmacniać konkurencyjność jednostek i narodów.

Tak działał system kolonialny. Bystrzejsze narody dokonały rewolucji przemysłowej, miały statki docierające po krańce świata i armaty pozwalające ujarzmić inne narody, co dawało zyski, które z kolei… i tak dalej. Było to też kwestią szczęścia. Wyspiarska Anglia, niezależna i otwarta na oceany świata, miała na pewno lepszy punkt startowy niż podzielona przez rozbiory, zamknięta w kontynencie Polska. Sukces był własnym dziełem białego człowieka, ale dorabiano do tego teorie, że inni są głupi z natury i ich przeznaczeniem jest służyć rasie panów. Idee te wracają regularnie, gdy nadmiernie optymalizujemy funkcjonowanie społeczeństwa i traktujemy jednostki jako jedynie trybiki służące do osiągania celów. Ale jakich celów, czyich?

Historia uczy, że gdy człowiek działa całkowicie racjonalnie, buduje czasem społeczeństwo totalitarne i obozy koncentracyjne. Wtedy jemu samemu brakuje tych prowadnic, które chciałby wbudować sztucznej inteligencji, by powstrzymać ją od szaleństw. To właśnie wysoko wykształconemu człowiekowi może wyjść z rachunku, że przedstawicieli określonej nacji, religii lub grupy społecznej jest o kilka milionów za dużo. Potrafi rozumem przytłumić prymitywne biologiczne i religijne blokady i uznać, że stoi właśnie przed dziejowym zadaniem, któremu musi sprostać. Takie wyliczenia prezentował Heydrich podczas konferencji w Wannsee i tak też wyszło Pol Potowi, który „usunął” w cztery lata jedną czwartą ludności Kambodży. Winny jest człowiek, nie jego narzędzia. Ale gdy ludzkie decyzje wsparte są przez sztuczną inteligencję, brzmią jak wyrocznia – maszyna powiedziała. Nie rozumiemy jej rozumowania, decyzje są rozmyte w sieci neuronalnej. W najgorszym przypadku AI staje się azteckim bogiem, który wymaga świeżych serc. W mniej ostrych przypadkach może dyscyplinować społeczeństwa ponad miarę, ponieważ planowanie wszystkiego leży w jej maszynowej naturze. A advocatus diaboli mówi: czy nie tak działa (czysto biologiczna) biurokracja brukselska?

Ale nie podniecajmy się – wizja powszechnej szczęśliwości, świata bez zakłóceń po wiek wieków jest fałszywa. To marzenie (lub obawa), że maszyny będą za nas myśleć i pracować, a my leżąc w hamaku będziemy sączyć drinki i oglądać seriale, jest niewykonalne. Przede wszystkim zabraknie na to energii, a przy awarii software’u system przestanie działać i zacznie się znowu darwinowska walka na kły i pazury. I nie zapominajmy – każdy z nas kiedyś umrze. Zarówno w literaturze, jak i w życiu pojawia się idea, by pieniędzmi pokonać śmierć, ale nie liczmy na to, nawet jeżeli nazywamy się Gates lub Soros.

.Fetyszyzacja inteligencji może prowadzić do wniosku, że mniej inteligentni są zbyteczni, wręcz szkodliwi. Wracamy znowu do rasizmu i eugeniki. I tu przypomina mi się moja wiara chrześcijańska, że każdy z nas jest Bożym dzieckiem i ma duszę nieśmiertelną, zarówno cesarz, jak i niewolnik. Tu, na Ziemi, nie jesteśmy zbyt równi, ale w istocie – jak najbardziej tak. Pamiętajmy o tym.

Jan Śliwa