Encyklika Leona XIV o sztucznej inteligencji
Prof. Massimo PIGLIUCCI
Jestem ateistą i stoikiem. Mimo to szukam punktów stycznych z innymi tradycjami filozoficznymi, a nawet religiami, ilekroć sądzę, że możemy współdziałać. Niedawno przeczytałem więc szeroko komentowaną encyklikę o sztucznej inteligencji, napisaną przez papieża Leona XIV, aby pogłębić własną refleksję nad złożoną etyką AI, a zarazem sprawdzić, w jak dużym stopniu mogę zgodzić się z człowiekiem, który – choć należy do tradycji porzuconej przeze mnie w okresie dorastania – wydaje się osobą niezwykle rozsądną i pełną współczucia – pisze prof. Massimo PIGLIUCCI.
.W dalszej części zamierzam: po pierwsze, streścić podstawowe argumenty encykliki Leona; po drugie, wskazać miejsca, w których – po usunięciu całego, moim zdaniem zbędnego, języka religijnego – mogę całkowicie zgodzić się z papieżem; po trzecie zaś, omówić te fragmenty, w których, nawet przy najlepszych intencjach, muszę się z nim rozstać.
Główne twierdzenia Leona XIV
.Podstawowym posunięciem Leona XIV w Magnifica humanitas („Wspaniałe człowieczeństwo”) jest odrzucenie uproszczonego pytania: „Czy powinniśmy zaakceptować, czy odrzucić sztuczną inteligencję?”, ponieważ – jak przekonuje – mamy tu do czynienia z błędem kategorialnym. Technologia sama w sobie nie jest ani dobra, ani zła, nigdy jednak nie pozostaje w praktyce neutralna, ponieważ każdy system dziedziczy priorytety tych, którzy go projektują, finansują, regulują i wdrażają.
Jedynym istotnym pytaniem pozostaje więc to, czyje wartości zostają w niego wpisane, jakim celom ma służyć i pod czyją kontrolą się znajduje. Papież posługuje się dwoma obrazami architektonicznymi: Wieżą Babel, wznoszoną dla samouwielbienia, zdobywania władzy i ujednolicania, oraz miastem Jerozolimą, odbudowywanym wspólnie, element po elemencie, przy współdzielonej odpowiedzialności. Obrazy te są jedynie wyrazistym sposobem przeciwstawienia technologii, która koncentruje władzę i niweluje ludzkie różnice, technologii rozdzielającej sprawczość i służącej rzeczywiście wspólnemu dobru. Jeśli usuniemy biblijne rusztowanie, otrzymamy dość standardowe, ale mocne twierdzenie zaczerpnięte z filozofii techniki: artefakty zawierają w sobie politykę, a obecna polityka zmierza w stronę koncentracji władzy, której nikt nie rozlicza.
Leon XIV wspiera następnie swoją główną tezę szeregiem argumentów, które pokrótce przedstawię w zeświecczonej formie: władza przeniosła się z państw na podmioty prywatne. Innowacjami kierowały dawniej przede wszystkim rządy, dziś natomiast o ich rozwoju decydują ponadnarodowe przedsiębiorstwa dysponujące zasobami większymi niż wiele państw. Sprawia to, że władzę technologiczną trudniej kontrolować lub podporządkować wspólnym celom, co prowadzi do powstania prywatnej władzy wywołującej publiczne konsekwencje, a zarazem niemal całkowicie pozbawionej demokratycznej odpowiedzialności.
AI jest narzędziem, nie umysłem
Sztuczna inteligencja naśladuje funkcje ludzkiego poznania, często przewyższając nas pod względem szybkości i skali działania, nie ma jednak doświadczeń, cielesności ani sumienia moralnego i nie rozumie tego, co wytwarza. Leon XIV przedstawia trafną obserwację empiryczną: systemy te są raczej „hodowane niż budowane”, ponieważ nawet ich projektanci nie rozumieją ich wewnętrznych reprezentacji. Normatywną konsekwencją tego stanu rzeczy jest niemożność delegowania osądu moralnego na kalkulację.
Sam artefakt nie jest moralnie neutralny. System zawiera wybory dotyczące tego, co mierzy, co pomija i co optymalizuje, a także sposobu, w jaki klasyfikuje ludzi. Etyka nie może więc ograniczać się do pytania: „Czy właściwie się nim posługujemy?”. Musi również badać jego konstrukcję oraz domyślny model człowieka wpisany w dane i funkcję celu. Odpowiedzialność musi pozostać możliwa do prześledzenia. Nieprzejrzyste, zautomatyzowane decyzje dotyczące zatrudnienia, kredytów, usług i reputacji rozpraszają odpowiedzialność: nikt nie „odpowiada” za wydany osąd, łatwo natomiast obarczyć winą maszynę. Leon XIV słusznie domaga się możliwych do zidentyfikowania łańcuchów odpowiedzialności, prawa do kwestionowania decyzji i uzyskania zadośćuczynienia, a zarazem gotów jest stwierdzić, że roztropność niekiedy wymaga spowolnienia. Nie jest to stanowisko wymierzone w postęp, lecz wyraz odpowiedzialnej troski.
Koncentracja i „nowe monopole”
Zdaniem papieża sztuczna inteligencja wzmacnia tych, którzy już dysponują kapitałem, danymi i specjalistyczną wiedzą. Dane są jednak, jak można argumentować, wytworem zbiorowym i nie powinny być traktowane jako prywatna własność przeznaczona na sprzedaż. Leon XIV skłania się zatem ku zarządzaniu nimi jako dobrem wspólnym lub współdzielonym.
„Dostosowanie” jest konieczne, ale niewystarczające. Moralizowanie maszyny pozostaje pustym gestem, jeżeli zasady moralne ustala garstka niepodlegających kontroli podmiotów, a ich etyka staje się „niewidzialną infrastrukturą”. Same ramy etyczne muszą podlegać otwartej dyskusji i wspólnym standardom – politycznym, nie jedynie technicznym. Stąd idea „rozbrojenia” sztucznej inteligencji: uwolnienia jej od logiki wyścigu zbrojeń – militarnego, ale również gospodarczego i poznawczego, a więc wyścigu po coraz większe modele i zbiory danych służące zdobyciu dominacji – oraz odrzucenia założenia, zgodnie z którym potęga technologiczna daje prawo do sprawowania władzy.
Krytyka transhumanizmu i posthumanizmu
Zdaniem Leona XIV rzeczywisty problem nie dotyczy samego udoskonalania człowieka, lecz stojącej za nim antropologii: jeżeli człowiek jest czymś, co należy zoptymalizować lub przekroczyć, łatwiej uznać niektóre istnienia za mniej wartościowe i usprawiedliwiać „konieczne ofiary”, których ciężar ponoszą najsłabsi. Papież przeciwstawia temu obronę skończoności – ograniczeń, błędów, podatności na zranienie, a nawet cierpienia – jako elementów konstytutywnych sensownego życia, nie zaś wad, które należy usunąć za pomocą inżynierii. Jego sformułowanie „mieć więcej, nie będąc bardziej” zawiera w sobie całość tego argumentu.
Prawda jako dobro wspólne
Dezinformacja istniała przed pojawieniem się sztucznej inteligencji, obecnie jednak jest przez nią wzmacniana na ogromną skalę. Prawda ma zarówno wymiar racjonalny – weryfikację, wskazanie źródeł i argumentację – jak i relacyjny, którym jest zaufanie. Demokracja zależy od wspólnej „zgodności z faktami”, obojętność wobec prawdy prowadzi natomiast do jej erozji. Leon XIV odwołuje się w tym miejscu do spostrzeżenia Hannah Arendt, zgodnie z którym idealnym podmiotem totalitaryzmu jest człowiek, dla którego zaniknęła różnica między faktem a fikcją.
Edukacja, praca i wolność
Odpowiedzi udzielane bez najmniejszego wysiłku przez sztuczną inteligencję osłabiają cierpliwość, jakiej wymagają prawdziwe dociekanie i osąd, oraz grożą zanikiem umiejętności myślenia. Leon XIV odwołuje się do słynnego Listu siódmego Platona, przekonując, że najgłębszych rzeczy „można nauczyć się dopiero po długim czasie i wielkim wysiłku, prowadząc rozmowy z innymi oraz zderzając ze sobą idee i doświadczenia niczym krzemienie, aż zapłonie w nas iskra zrozumienia”. Praca nie jest ponadto jedynie źródłem dochodu, lecz także tożsamością, relacją i wkładem we wspólnotę, automatyzacja może zaś pozbawiać pracowników umiejętności, poddawać ich inwigilacji i podporządkowywać tempu maszyn.
Papież domaga się powiązania innowacji z kryteriami społecznymi – takimi jak przekwalifikowanie, partycypacja oraz uznanie godności pracy za miarę sukcesu – i ostrzega zarówno przed gospodarką uwagi zaprojektowaną tak, aby wykorzystywać ludzką podatność na zranienie, jak i przed algorytmiczną kontrolą społeczną sprawowaną za pomocą masowego profilowania.
Ukryta praca i „nowe niewolnictwo”
Łańcuch dostaw stojący za pozornie bezwysiłkowym działaniem sztucznej inteligencji obejmuje osoby opisujące dane i moderatorów treści – często nisko opłacanych, w wielu przypadkach kobiety – wydobycie surowców, niekiedy prowadzone przez dzieci, oraz handel ludźmi odbywający się za pośrednictwem tej samej infrastruktury cyfrowej. Leon XIV rozwija pojęcie „kolonializmu danych”, czyli pozyskiwania danych zdrowotnych, genetycznych i demograficznych z regionów świata słabych pod względem strukturalnym. Wynikające z tego żądanie dotyczy przejrzystości łańcuchów dostaw i zachowywania należytej staranności.
Wojna i systemy autonomiczne
Sztuczna inteligencja obniża próg użycia siły, czyni zabijanie bezosobowym i sprowadza ofiary do danych. Leon XIV formułuje szereg kryteriów mających przeciwdziałać tej tendencji: odpowiedzialność możliwą do prześledzenia; wprowadzenie „moralnych ram czasowych”, a więc zasady, zgodnie z którą szybkość nie może wymuszać nieodwracalnych decyzji; ścisłe rozróżnienie między uczestnikami walk a ludnością cywilną; oraz bezwzględny zakaz delegowania śmiercionośnych lub nieodwracalnych decyzji na nieprzejrzyste procesy automatyczne, ponieważ rzeczywista kontrola człowieka nie podlega negocjacjom. Co interesujące, papież stwierdza, że koncepcja „wojny sprawiedliwej” jest zbyt łatwo nadużywana, aby mogła zachować swoją użyteczność, wzywa więc do ustanowienia międzynarodowych ograniczeń wyścigu zbrojeń, odrodzenia dyplomacji oraz realizmu, który nie jest ani idealistyczny – a więc nie wybiera faktów pasujących do określonego światopoglądu – ani cyniczny, czyli zakładający, że siła zawsze zwycięża.
Ogólnie rzecz biorąc, podstawowe zasady przyjęte przez Leona XIV, wyrażone w formie świeckiej, sprowadzają się do następujących twierdzeń:
I. Osoby posiadają wartość, której nie można sprowadzić do ich produktywności ani osiąganych wyników.
II. Musimy myśleć w kategoriach dobra wspólnego, będącego czymś więcej niż sumą prywatnych interesów.
III. Zasoby, do których należą obecnie także dane i infrastruktura, powinny być współdzielone przez wszystkich, a nie być monopolizowane.
IV. Pomocniczość oznacza, że decyzje należy podejmować możliwie najbliżej osób, których dotyczą, wyższe szczeble władzy powinny zaś ten proces wspierać, nie zastępować.
V. Solidarność jako współzależność powinna być świadomie wybierana.
VI. Sprawiedliwości należy poszukiwać na poziomie strukturalnym, a nie jedynie indywidualnym.
W czym się zgadzam
.Żadna z sześciu wymienionych zasad nie jest wyłącznie katolicka. I to właśnie jest najbardziej uderzające. Kiedy odczytywałem je po zdjęciu z nich biblijnej szaty, nieustannie rozpoznawałem w nich wnioski, do których doszedłem z całkowicie odmiennego punktu wyjścia – i nie był to przypadek. Właśnie tutaj stoicki ateista przytakuje biskupowi Rzymu. Podejrzewam, że większość poważnych tradycji etycznych – w tym tradycji etyki cnót – doszłaby do podobnych wniosków niezależnie od przyjmowanych fundamentów. Sądzę również, że dotyczy to najważniejszych twierdzeń podtrzymujących całą konstrukcję. Przyjrzyjmy się im pokrótce.
Leon XIV mówi niemal dosłownie, że osoby są celami, a nie środkami, co jest oczywiście słynną kantowską formułą imperatywu kategorycznego. Rozróżnienie między godnością a ceną pełni u Kanta tę samą funkcję, którą u Leona XIV pełni „godność ontologiczna”, tyle że bez chrześcijańskiej metafizyki.
„Mieć więcej, nie będąc bardziej” – brzmi niemal jak Seneka, stoicka obojętność wobec dóbr zewnętrznych wyznacza nam zaś niezależną drogę prowadzącą do tej samej krytyki mentalności optymalizacyjnej. Wartości nie zdobywa się dzięki efektywności. Leon XIV twierdzi, że osądu nie można przekazać komuś ani czemuś innemu. Stoicka prohairesis, czyli zdolność przyzwolenia i wyboru, jest tym, co „od nas zależy”, i odpowiada bezpośrednio papieskiemu przekonaniu, że to sumienie i wolność muszą kierować narzędziami, a nie być przez nie wypierane.
Encyklika Leona XIV ma również wyraźnie kosmopolityczny zakres. Analogicznie stoicka oikeiôsis, rozszerzona na całą ludzkość, prowadzi do tego samego rezultatu co jego „dobro wspólne” i „solidarność”, nie wymagając przy tym istnienia Boga Stwórcy. Stoicka akceptacja śmiertelności i konieczności dostarcza nam nieteologicznej wersji argumentacji Leona XIV przeciwko transhumanizmowi: życie pozbawione ograniczeń nie jest pełniejszym życiem ludzkim, lecz czymś odmiennym – i zapewne uboższym. Papież cytuje wreszcie Tolkiena: „Czynić to, co do nas należy, dla wsparcia lat, w których przyszło nam żyć”, przypominając tym samym czytelnikom o zasadniczo stoickiej etyce ról, zgodnie z którą każdy z nas jest moralnie zobowiązany do możliwie najlepszego wypełniania poszczególnych ról przypadających mu w życiu.
Wspólną cechą wszystkich tych punktów stycznych jest to, że żaden z nich nie potrzebuje Boga, aby spełniać swoją funkcję. Kantowska koncepcja osób jako celów, obojętność Seneki wobec dóbr zewnętrznych, Epiktetowa prohairesis i kosmopolityczny zasięg oikeiôsis – każda z tych idei wyznacza mi niezależną drogę prowadzącą do wniosków Leona XIV. Nasuwa to oczywiste pytanie o miejsce, w którym drogi te ostatecznie się rozchodzą.
W czym rzeczywiście się nie zgadzam
.Mimo wszystkiego, co zostało powiedziane powyżej, w Magnifica humanitas znajduje się kilka fragmentów wyraźnie katolickich, których nie da się przenieść do etyki stoickiej ani szerzej rozumianej etyki świeckiej. Drogi rozchodzą się w trzech miejscach i warto uczciwie omówić każde z nich.
Encyklika zawiera fragment dotyczący prawa do życia – w paragrafie 55 aborcja i eutanazja zostają określone jako „poważnie złe” – który ma charakter właściwy konkretnej doktrynie. Stoik, który mógłby uznać rozumne odejście z życia za dopuszczalne, jak w Epiktetowym pojęciu „otwartych drzwi”, całkowicie różniłby się tutaj od papieża, podobnie jak większość etyków świeckich.
Również uzasadnienie nieskończonej godności człowieka nieskończoną miłością Boga, przedstawione w paragrafie 53, ma charakter nieredukowalnie teologiczny. Koncepcje świeckie opierają godność na racjonalnej sprawczości, zdolności odczuwania lub nawiązywania relacji, konsekwentny naturalista potraktuje ją zaś jako normatywne założenie, za którego przyjęciem przemawiają dobre racje, a nie jako fakt metafizyczny. Jest to różnica dotycząca fundamentu nawet tam, gdzie wnioski pozostają zbieżne, lecz właśnie ta zbieżność wydaje mi się ostatecznie najważniejsza. Leon XIV mówi wreszcie, że rodzina jest „oparta na trwałym związku mężczyzny i kobiety”, co stwierdza w paragrafie 165. Jest to konserwatywne przekonanie, które nie odgrywa żadnej rzeczywistej roli w argumentacji dotyczącej sztucznej inteligencji i nie jest potrzebne tradycjom dochodzącym do zbieżnych wniosków.
Zwróćmy uwagę na kształt wyłaniającego się obrazu. Różnice, kiedy już się pojawiają, w ogóle nie dotyczą sztucznej inteligencji, lecz aborcji, metafizyki godności i definicji rodziny. W odniesieniu do właściwego przedmiotu encykliki niezgoda praktycznie nie istnieje. Mamy więc do czynienia z interesującą sytuacją, w której odmienne tradycje osiągają daleko idącą zbieżność zarówno w odniesieniu do wniosków, jak i zasad średniego szczebla, takich jak zakaz instrumentalizacji człowieka, podejrzliwość wobec skoncentrowanej władzy niepodlegającej kontroli, niemożność delegowania osądu moralnego oraz wartość skończoności.
Jednocześnie istnieje jednak wyraźna różnica dotycząca fundamentów oraz kilku szczegółowych zagadnień bioetycznych. Może ona jednak wzmacniać moje przekonanie o wartości prowadzenia ćwiczenia podobnego do przedstawionego powyżej, ponieważ zbieżność osiągnięta pomimo odmiennych podstaw jest lepszym dowodem na to, że wnioski odnoszą się do czegoś rzeczywistego, niż zwykła zgoda między ludźmi, którzy już wcześniej podzielali te same przesłanki. Nie jest to jedynie akademicka przyjemność.
Etyka sztucznej inteligencji powstaje właśnie teraz i jest tworzona przede wszystkim przez tych samych aktorów, których skoncentrowanej i niepodlegającej kontroli władzy nie ufamy zarówno Leon XIV, jak i ja. W tym sporze ludzie, którym zależy na ludzkiej godności, nie mogą pozwolić sobie na podział według granic wyznaniowych – na ateistów czekających, aż wierzący porzucą swoją metafizykę, i wierzących odrzucających świecką etykę jako pozbawioną korzeni.
.Kiedy niewierzący stoik i katolicki papież, wychodząc z niemożliwych do pogodzenia pierwszych zasad, dochodzą do tych samych sześciu wniosków dotyczących zobowiązań technologii wobec człowieka, zbieżność ta nie jest ciekawostką, którą wystarczy odnotować i odłożyć do archiwum. Jest koalicją czekającą na zbudowanie. Wieża jest przecież już wznoszona. Jeżeli pozostali z nas zamierzają zamiast niej odbudować miasto, powinniśmy być gotowi układać cegły u boku ludzi, których plany – chociaż marginalnie – różnią się od naszych.
