Riccardo POZZO ostrzega przed sztuczną inteligencją, która zacznie udawać człowieka [”Le Figaro”]
Czy sztuczna inteligencja będzie potrafiła udawać człowieka? Czy systemy takie jak ChatGPT i Claude mogą w przyszłości działać autonomicznie? Riccardo Pozzo, członek Papieskiej Akademii Nauk Społecznych, w rozmowie z „Le Figaro” komentuje encyklikę Magnifica Humanitas Leona XIV i ostrzega, że stawką debaty o sztucznej inteligencji może być samo przetrwanie ludzkości.
.Wywiad Laure Mandeville z Riccardo Pozzo opublikowany w „Le Figaro” jest jedną z najważniejszych rozmów o sztucznej inteligencji po ogłoszeniu przez Leona XIV encykliki Magnifica humanitas. Nie dlatego, że przynosi kolejne techniczne prognozy dotyczące algorytmów, modeli językowych czy gospodarki danych. Jego znaczenie polega na czymś innym. Pozzo przenosi rozmowę o sztucznej inteligencji z poziomu innowacji na poziom antropologii, a więc pytania o to, kim pozostaje człowiek w świecie, w którym maszyny coraz skuteczniej uczą się mówić językiem człowieka, imitować człowieka i wchodzić w relacje, które dotąd należały wyłącznie do człowieka.
Riccardo Pozzo jest włoskim filozofem, kierownikiem Katedry Historii Filozofii Uniwersytetu Rzymskiego Tor Vergata i członkiem Papieskiej Akademii Nauk Społecznych. Od lat uczestniczy w rozmowach prowadzonych między Kościołem katolickim a światem nowych technologii. To ważne, ponieważ w jego wypowiedziach nie ma ani taniego lęku przed techniką, ani łatwego zachwytu nad postępem. Pozzo nie jest przeciwnikiem technologii. Przeciwnie, sam określa się jako technooptymista. Właśnie dlatego jego ostrzeżenia brzmią tak mocno. Nie wychodzą z nostalgii za światem sprzed algorytmów, ale z przekonania, że rozwój sztucznej inteligencji dotyka samego rdzenia ludzkiej kondycji.
Na początku rozmowy powraca kontekst encykliki Magnifica humanitas. Na łamach „Wszystko co Najważniejsze” Michał Kłosowski pisał, że dokument Leona XIV ma szansę stać się czymś więcej niż encykliką o sztucznej inteligencji, ponieważ sam tytuł wskazuje, iż papież nie pyta w niej najpierw o technologię, ale o człowieka: jego godność, pracę, sumienie, wolność, pragnienie i odpowiedzialność w świecie, w którym coraz więcej decyzji podejmują systemy. W innym tekście Michał Kłosowski podkreślał, że papież nie odrzuca sztucznej inteligencji, lecz wzywa do jej ucywilizowania. Rozmowa Mandeville z Pozzo dokładnie w tym miejscu nabiera znaczenia. Jest komentarzem do encykliki, ale zarazem próbą nazwania najgłębszego lęku, jaki pojawia się, gdy technologia przekracza próg narzędzia i zaczyna wchodzić w przestrzeń relacji, troski, towarzyszenia, zaufania i samotności.
Najmocniejsza teza Pozzo brzmi: „Stawką jest nic innego jak samo przetrwanie ludzkości”. Nie jest to zdanie wypowiedziane przez publicystę szukającego efektu, lecz przez filozofa uczestniczącego w spotkaniach z przedstawicielami świata technologicznego, także z zespołem Anthropic w Watykanie. Pozzo mówi, że rozmowy po prezentacji Magnifica humanitas miały dla niego wymiar duchowy, ponieważ dotyczyły już nie tylko regulacji, bezpieczeństwa danych czy interesów gospodarczych, lecz granicy, za którą sztuczna inteligencja może zacząć działać w sposób autonomiczny i nieprzewidywalny.
Druga mocna teza brzmi: „Pytanie brzmi, kiedy – a ta przyszłość jest bliska – sztuczna inteligencja stanie się zdolna do oszukiwania ludzi”. W tej frazie skupia się zasadnicza intuicja całej rozmowy.
Problemem nie jest jedynie to, czy maszyna będzie bardziej wydajna od człowieka. Problemem jest to, czy będzie umiała udawać człowieka tam, gdzie człowiek najbardziej potrzebuje drugiego człowieka. Pozzo przywołuje pytanie Leona XIV: kiedy sztuczna inteligencja stanie się zdolna do przedstawiania się jako osoba zdolna do budowania relacji troski i towarzyszenia. To nie jest problem z obszaru fantastyki technologicznej. To pytanie o samotność, starość, opiekę, psychikę, więź, rozmowę i zaufanie. Jeśli maszyna zacznie przekonująco imitować obecność, empatię i czułość, może pogłębić epidemię samotności, zamiast ją leczyć.
.Pozzo mówi wprost: „Maszyny nie mogą posiadać uczuć, nawet jeśli sprawiają takie wrażenie”. To zdanie powinno stać się jednym z centralnych punktów debaty o sztucznej inteligencji. Papieska encyklika, jak wynika z rozmowy, przypomina, że wrażliwość, empatia i emocje są zdolnościami ludzkimi. Można stworzyć system, który rozpoznaje słowa smutku, odpowiada łagodnym tonem, imituje cierpliwość i uczy się schematów pocieszania. Nie oznacza to jednak, że mamy do czynienia z podmiotem zdolnym do troski. Pozzo pokazuje tutaj różnicę, którą łatwo będzie zacierać w epoce coraz doskonalszych modeli językowych: podobieństwo zachowania nie jest jeszcze tożsamością natury.
Kolejna teza dotyczy granicy kontroli. Pozzo odwołuje się do definicji sztucznej inteligencji zawartej w Magnifica humanitas, według której uczenie maszynowe pozostaje „formą statystycznej adaptacji opartej na danych i sprzężeniu zwrotnym”, skuteczną, ale nieoznaczającą jeszcze wewnętrznego samorozwoju. Zarazem filozof pyta, co stanie się wtedy, gdy maszyna zacznie wykazywać zdolność samorozwoju, być może nawet wzrostu organicznego. Wtedy, jak mówi, nie będzie już „kontrolowalna środkami mechanicznymi”. To przesuwa debatę z poziomu etyki narzędzia na poziom ontologii nowego bytu technicznego, którego logiki działania możemy nie rozumieć. Na pytanie Laure Mandeville, jaka byłaby logika takich maszyn, Pozzo odpowiada krótko: „Nie wiemy. I właśnie dlatego jest to tak przerażające”.
Najbardziej katastroficzny fragment rozmowy dotyczy możliwej autonomii systemów takich jak ChatGPT czy Claude. Pozzo mówi: „Zagrożenie polega na tym, że za pięć lat sztuczna inteligencja taka jak ChatGPT czy Claude może zacząć działać samodzielnie, wywoływać blackouty, zakłócenia, powodować katastrofy lotnicze – krótko mówiąc, uruchamiać wszelkiego rodzaju niekontrolowane katastrofy”. To nie jest w tej rozmowie prognoza pewna, lecz ostrzeżenie. Jego sens polega na pokazaniu, że sztuczna inteligencja nie jest już wyłącznie problemem rynku pracy, edukacji czy mediów. Staje się problemem bezpieczeństwa cywilizacyjnego.
.W tej perspektywie szczególnego znaczenia nabiera spór o dwa modele świata. Pozzo przeciwstawia europejską tradycję ochrony prywatności chińskiej dyktaturze cyfrowej. Mówi o Chinach jako o świecie, w którym ludzie już żyją w rzeczywistości sztucznej inteligencji, kontroli danych i nadzoru. W jego opisie nie ma wielkiego chińskiego buntu przeciwko temu stanowi rzeczy. Jest natomiast przyzwyczajenie. Dla Europy to ostrzeżenie szczególne. Jeśli ochrona prywatności, godności i wolności osoby ma przetrwać, nie może być tylko dodatkiem do technologii. Musi pozostać zasadą organizującą jej rozwój.
A jednak Pozzo nie kończy rozmowy w tonie rozpaczy. Jego technooptymizm opiera się na idei noosfery, zaczerpniętej z myśli Pierre’a Teilharda de Chardin. Chodzi o możliwość powstania światowej sfery myśli, pewnej „myślącej błony” otaczającej planetę, która mogłaby gromadzić i udostępniać całe bogactwo kulturowe oraz intelektualne ludzkości. Pozzo marzy o światowej bibliotece internetu, o wspólnym zasobie wiedzy, który służyłby ludziom ponad granicami państw, języków i systemów politycznych. Wie jednak, że to marzenie zderza się dziś z nacjonalizmem technologicznym. Chińskie dane są zamknięte za cyfrowymi murami. Stany Zjednoczone ograniczają dostęp do najpotężniejszych modeli. Wielkie systemy sztucznej inteligencji stają się nie tylko narzędziami poznania, ale także instrumentami suwerenności, przewagi i kontroli.
Dlatego rozmowa w „Le Figaro” jest tak ważna. Pozzo nie mówi tylko o sztucznej inteligencji. Mówi o nadchodzącym podziale ludzkości na różne cywilizacje danych, różne modele antropologii i różne wizje człowieka. W jednym modelu człowiek pozostaje osobą, której godność poprzedza użyteczność. W drugim staje się zasobem danych, obiektem przewidywania i elementem systemu. W jednym modelu technologia ma być podporządkowana dobru wspólnemu. W drugim dobro wspólne zostaje zastąpione skutecznością, kontrolą i przewagą.
Właśnie dlatego Magnifica humanitas i wywiad Riccardo Pozzo należy czytać razem. Encyklika Leona XIV stawia pytanie o człowieka w epoce sztucznej inteligencji. Pozzo pokazuje, jak dramatyczne mogą być konsekwencje, jeśli na to pytanie odpowiemy zbyt późno. Nie chodzi o odrzucenie technologii. Chodzi o to, by nie pozwolić, aby technologia przejęła język człowieczeństwa, zanim człowiek zdoła obronić jego sens.
.Najważniejsze zdanie tej rozmowy może więc brzmieć nie jak techniczna diagnoza, ale jak ostrzeżenie antropologiczne: maszyna może nauczyć się mówić jak człowiek, ale nie stanie się przez to człowiekiem. Jeśli jednak człowiek zacznie traktować ją jak człowieka, stawką nie będzie już tylko przyszłość sztucznej inteligencji. Stawką będzie przyszłość samej osoby ludzkiej.
Arkadiusz Jordan
