Mowa maszyn.

W stronę nowego testamentu sztucznej inteligencji

Transformacja obywatela w użytkownika, jednostki racjonalnej w jednostkę cyfrową, dogłębnie przemienia społeczeństwo. Zmienia sens demokracji i wszelkiego innego ustroju politycznego – pisze prof. Alexiei GRINBAUM

.Szerzenie się tych dziwnych słów wypowiadanych przez maszyny zapowiada rozprucie koszuli mowy pod płaszczem Gogola – tego, spod którego wszyscy wyszliśmy.

Proszę chwilę zaczekać.
– Ale… czymże jest czas?
– Za późno!
– Przecież powiedział pan „chwilę”.
– Ale… czymże jest język?
– Za późno!

Czym jest polityka w świecie cyfrowym? Łagodnie mówiąc, nie przynależy ona nam na wyłączność, nam, użytkownikom maszyn.

Podobnie jak nasza planeta mierzy się ze zmianami klimatycznymi, tak i nasze społeczeństwa czekają zmiany językowe. Zapowiadają one epokę, której nowymi mówcami będą zarazem oskarżeni i ofiary. Sami bowiem wywołujemy ewolucję, której podlegamy. Zmiany klimatyczne – ludzie zamieszkują planetę, którą modyfikują na tyle szybko, że zagraża to ich własnemu środowisku. Zmiany językowe – byty społeczne komunikują w języku, który przyjmuje i przekazuje całą naszą historię i całą naszą kulturę, a tymczasem technologie, których jesteśmy wynalazcami, odbierają nam monopol na językową ekspresję.

Uświadomienie sobie zasięgu obu tych zmian, budzących zarazem nadzieję i obawy, wciąż jest przed nami. Najbardziej ostrożny obserwator, który z domniemaną neutralnością przygląda się skutkom zmian w obszarze klimatu bądź języka, w sposób nieunikniony daje się wciągnąć do samego środka systemu. Wszelkie badanie prowadzone od wewnątrz, samoreferencjalnie, wpływa na tenże system. Dotyczy to tak klimatu, jak języka. Każda, nawet najbardziej obiektywna analiza, pod warunkiem że używa tego samego języka, który jest przedmiotem analizy, odciska na nim ślad. Niemożliwa jest jakakolwiek neutralność. Dlatego też generowanie języka naturalnego (NLG) – dyscyplina jak dotąd niemal wyłącznie akademicka – implikuje zajęcie stanowiska etycznego, a nawet politycznego.

Zarówno środowisko naturalne, siedlisko wszelkich bytów, jak i język, nosiciel wszelkich znaczeń, ewoluują pod wpływem technologii. Ich pomysłodawcy nierzadko wyciągają lekcję z tej pętli akcja-reakcja i tłumaczą ją na język informatyczny. To modyfikuje i środowisko, i język. W obu przypadkach konsekwencje są niemałe: chodzi o zredefiniowanie tego, czym jest człowiek.

Szerzenie się w sposób niepohamowany tekstów generowanych przez maszyny zrywa jednoznaczną więź między mową a człowiekiem. Mówiący system sztucznej inteligencji jest czymś więcej niż tylko przedrzeźniającą nas papugą – dzięki technikom uczenia automatycznego zdania przez niego budowane nie są emanacją zwykłego kopiuj-wklej. Maszyna tworzy je radykalnie odmiennie od człowieka. Jej mowa jest wynikiem obliczeń matematycznych, a jej słowa są pochodnymi liczb. Wraz z mówiącymi maszynami liczba staje się słowem. Wszelkie operacje na liczbach niosą chłód. Nie ma nic bardziej nieludzkiego niż matematyczna opozycja między 0 a 1. Wybór binarny jest przeciwieństwem myśli etycznej.

Jednakże arktyczny chłód zer i jedynek łączy się czasem z niespodziewanym pięknem, które mowa nabywa na mocy swej pseudolosowej konstrukcji. Mowa ludzka wyraża naszą wolną wolę i pozostaje nieprzenikalna dla wszelkich prób jej logicznej modyfikacji na podstawie zewnętrznych przesłanek. Mowa maszyn zaś jest emanacją przypadku statystycznego, za który odpowiadają niezliczone parametry w sieci sztucznych neuronów.

Systemy uczące się drugiej dekady XXI wieku osiągnęły ogromną złożoność. Ponieważ ich użytkownicy nie rozumieją, skąd biorą się informacje wychodzące z maszyny, starają się pojąć jej wewnętrzną logikę, opierając się na hipotezie heurystycznej i uproszczonej. Najczęściej bezskutecznie. Wszystko odbywa się tak, jakby maszyna sama w sobie posiadała niemal naturalne źródło przypadku. Przypadku częściowego, to znaczy ani całkowicie losowego, ani całkowicie deterministycznego. To ten typ losowości – zbliżony do wolnej woli człowieka – staje się źródłem znaczeń. Wywołuje on u nas albo zawroty głowy, albo wyrazy podziwu, a niemal zawsze poczucia brzydoty lub piękna. Poprzez tę wdrukowaną w człowieka estetykę maszyna dostarczająca treści przemienia się w opowiadaczkę historii, które nigdy się nie powtarzają. Użytkownik zaczyna nieodwołalnie prowadzić dialog ze sztuczną babuszką, rozmowną czarownicą w fantastycznym królestwie innowacji, które oczarowuje i fascynuje.

Naiwni sądzą, że historie, które rodzą się poprzez działanie na liczbach, są jedynie pozorem prawdziwej opowieści, a wręcz jej cieniem. Że opowieści człowieka różnią się diametralnie od opowieści tworzonych przez maszyny. Dla tych, których ojczyzną jest świat cyfrowy, opowieści wywodzące się z obliczeń są prawdziwe, bez cudzysłowu, ponieważ wszystkie historie mają tę samą wartość. Oba światy – materialny i wirtualny – są realne.

Opowieści wytworzone przez maszyny, zintegrowane z mową, nabywają znaczenia w oczach kobiet i mężczyzn, którzy je sobie opowiadają. Treść tych opowieści jest poddawana osądowi, zarówno merytorycznemu, jak i formalnemu. Ich estetyka, narzucająca się spontanicznie, może mieć dużą moc, wręcz obezwładniającą. Maszyny odciskają w ten sposób swoje piętno na rzeczywistości żywej, temporalnej, ruchomej, w której czuć bicie serca użytkownika.

W IV wieku św. Augustyn zastanawiał się, czym jest czas. Szybko doszedł do wniosku, że formułując to zdanie w swej głowie, już pozwolił, aby minęło trochę czasu. Chwila, w której powstało to pytanie, minęła. Czego więc ono dotyczy?

W XXI w. to samo można powiedzieć o mowie. Litery alfabetu łączą się, dając program komputerowy zbudowany z sekwencji zer i jedynek. Na skutek obliczeń wykonywanych przez procesor informacja trafia do użytkownika. Może ona mieć formę tekstu, który po zredukowaniu do zer i jedynek powraca w swej początkowej formie mowy, wyrażając się wszakże innymi słowami. Ta przemiana informacji jest równie rzeczywista, jak metamorfozy materii w alchemii.

Sztuczne słowa, komunikowane użytkownikowi za pomocą interfejsu, wywierają na niego wpływ i często mają nieprzewidywalny skutek. Zera i jedynki, pozostając w swoim nieprzejrzystym uniwersum za ekranem, stają się wektorami zmian po naszej stronie interfejsu. Owe ewolucje cyfrowo-społeczne są tak szybkie i tak wszechobecne, że nie da się już ich policzyć.

Skutki polityczne nowej kondycji ludzkiej w świecie cyfrowym sięgają szczytów władzy. Rządzić to dziś także rządzić kodem informatycznym. Niegdyś bycie szefem wymagało umiejętności rozpoznawania podstępów nieprzyjaciela. Bycie mądrym – umiejętności rozpoznawania kłamstw Węża. Dziś błędy pojawiają się i są korygowane w Pythonie, mowie maszyn. Szef państwa, który nie zna Pythona, jest równie naiwny, jak Adam wobec pierwszych fake newsów Węża. Jeśli nie potrafi pisać kodu, nie będzie w stanie wykonywać w pełni swej władzy, gdyż wyrażanie w języku naturalnym już nie wystarcza. Umiejętność wydawania poleceń procesorowi jest dziś nieodzowną częścią funkcji szefa.

W świecie cyfrowym obywatel staje się użytkownikiem. Miłośnikiem pożytecznych funkcji. Czuły, wrażliwy, na przemian podenerwowany i szczęśliwy, nierzadko wzburzony, a bardzo często znużony. W czasach oświecenia żaden z tych przymiotów nie należał do cech oczekiwanych od dobrego obywatela. Oświeconego, racjonalnego, doinformowanego obrońcy wartości i wolności. Dziś, mówiąc: obywatel, mówimy: użytkownik. Obaj zamieszkują jedno i to samo ciało.

Transformacja obywatela w użytkownika, jednostki racjonalnej w jednostkę cyfrową, dogłębnie przemienia społeczeństwo. Zmienia sens demokracji i wszelkiego innego ustroju politycznego.

„Wszystko, co ludzie robią lub wiedzą lub czego doświadczyli, ma sens jedynie pod warunkiem, że można o tym opowiedzieć”.

Hannah Arendt napisała te słowa pod koniec lat 50. To, co było prawdą przez tysiąclecia, trafiło do lamusa. Człowiek utracił wyłączność władania językiem, który animuje debatę społeczną, będąc zarazem jej przekaźnikiem. Nie ma już kontroli nad kontraktem, który pozwala zawierać pismo. Maszyny również generują mowę. Powiedzenie „Code is law” jest świadectwem końca epoki, w której ludzka mowa była jedynym materiałem i nośnikiem sprawy społecznej.

W świecie cyfrowym współżycie społeczne podlega negocjacji i decyduje się na wirtualnej agorze. Stoją obok siebie już nie Gal, Hun i Rzymianin, ale awatary. Niektóre są jak maski, za którymi kryją się istoty ludzkie; inne są jak duchy. Niektóre myślą jak ludzie, inne działają tylko dzięki sile obliczeniowej. Pojawia się nowy gatunek – gatunek maszyn mówiących. Nie są ani ludźmi, ani duchami. Maszyny te wypowiadają słowa jak ludzie, ale słowa te w swej konstrukcji są jedynie sekwencją zer i jedynek. Sztuczne zdania tak podobne do naturalnych wywodzą się z obliczeń. To odróżnia je od sposobu, w jaki człowiek posługuje się językiem.

.Granica między różnymi rodzajami bytów współistniejących na cyfrowej agorze staje się coraz mniej przejrzysta. Edykt Karakalli z 212 roku przyznawał rzymskie obywatelstwo każdemu wolnemu człowiekowi cesarstwa. W XXI wieku dwie ikony stawiają na równi wszelkie awatary: „edytować” i „zrestartować”. Ten kosmopolityzm sztucznej inteligencji ma olbrzymie konsekwencje tak dla użytkownika, jak obywatela. W metaświecie nie ma niczego nieodwracalnego. Wszystko jest modyfikowalne. A dokładniej – naturalna nieodwracalność nie istnieje, staje się artefaktem.

Alexei Grinbaum