Wynaleźliśmy pole bitwy, na którym lwy i wilki poniosły klęskę. Nie dorównaliśmy im pazurami ani kłami, ale mieliśmy pomysł na zwycięstwo. Taka jest potęga kreatywności – pisze Eliezer YUDKOWSKY
.Łączy nas tendencja, by raczej dostrzegać indywidualne różnice między nami niż to, co w ludzkości uniwersalne. Kiedy ktoś wypowiada słowo „inteligencja”, nie myślimy o gatunku ludzkim, lecz o Einsteinie. Indywidualne różnice w ludzkiej inteligencji mają standaryzujące określenie: czynnik g Spearmana, przyjęty w koncepcji pomiaru, w której różne testy inteligencji są silnie skorelowane ze sobą, a także z życiowymi osiągnięciami badanego, takimi jak dochód uzyskany w ciągu całego jego życia (Jensen 1998). Spearmanowskie g to statystyczna wypadkowa indywidualnych różnic w inteligencji między ludźmi. Jak wiadomo, ludzie jako gatunek są znacznie inteligentniejsi niż np. jaszczurki. Innymi słowy, g Spearmana opiera się na minimalnych różnicach u przedstawicieli jednego gatunku.
Nie powinniśmy mylić czynnika g Spearmana z ogólną inteligencją człowieka, naszą zdolnością do radzenia sobie z ogromnym wachlarzem zadań poznawczych niezrozumiałych dla innych gatunków. Odróżnia nas od nich inteligencja ogólna, czyli umiejętność kompleksowej adaptacji i ludzka uniwersalność, które są obecne we wszystkich znanych kulturach. Być może nie doszliśmy jeszcze do akademickiego konsensusu w sprawie istoty inteligencji, ale nie ma wątpliwości co do jej istnienia ani jej potęgi. Jest bowiem w człowieku coś, co pozwoliło mu zostawić swój ślad na Księżycu.
Niemniej samo słowo „inteligencja” powszechnie przywołuje obrazy z jednej strony głodującego profesora o ilorazie inteligencji 160, a z drugiej – miliardera o ilorazie inteligencji zaledwie 120. Rzeczywiście, istnieją różnice w indywidualnych zdolnościach poza „inteligencją książkową”, które wpływają na sukces w świecie człowieka: entuzjazm, umiejętności społeczne, wykształcenie, talent muzyczny, rozsądek. Notabene, każdy wymieniony przeze mnie czynnik jest poznawczy. Umiejętności społeczne mają swoje źródło w mózgu, a nie w wątrobie. Ale żarty na bok – wśród prezesów wielkich firm czy profesorów na uczelniach wyższych nie ma szympansów. Nikt z uznanych myślicieli, artystów, poetów, przywódców, inżynierów, utalentowanych networkerów, mistrzów sztuk walki, kompozytorów – nie jest myszą. Inteligencja to fundament potęgi człowieka, to siła, która warunkuje nasze zdolności.
Niebezpieczeństwo wynikające z nieodróżniania ogólnej inteligencji człowieka od czynnika g polega na tym, że jest to prosta droga do niedocenienia roli sztucznej inteligencji (i dotyczy to zarówno jej dobrych skutków, jak i również tych złych). Określenia „transludzka sztuczna inteligencja” czy „sztuczna superinteligencja” mogą przywoływać wizerunek „książkowej inteligencji zamkniętej w pudełku” – takiej, która naprawdę dobrze sobie radzi z zadaniami poznawczymi stereotypowo kojarzonymi z „inteligencją”, jak szachy czy algebra. Ale nie będzie ona nadludzko przekonująca; nie będzie o wiele lepsza od człowieka w przewidywaniu zachowań społecznych i manipulowaniu nimi; nie będzie nadzwyczaj sprytna w formułowaniu długofalowych strategii.
Może zatem na dźwięk słowa „inteligencja” powinniśmy pomyśleć zamiast o Einsteinie na przykład o XIX-wiecznym geniuszu politycznym i dyplomatycznym Ottonie von Bismarcku? Różnica między wiejskim głupcem a Einsteinem czy prostaczkiem a Bismarckiem to zaledwie punkcik na skali ameba – człowiek.
Istoty ludzkie nie miały w ewolucji łatwego startu, nie dysponowały takimi atutami jak pazury, kły czy pancerz. W biosferze nic nie wskazywało na to, że te stworzenia w końcu uzbroją się w opancerzone czołgi. Wynaleźliśmy pole bitwy, na którym lwy i wilki poniosły klęskę. Nie dorównaliśmy im pazurami ani kłami, ale mieliśmy pomysł na zwycięstwo. Taka jest potęga kreatywności.
Vernor Vinge w 1993 r. słusznie zauważył, że przyszłość, w której powstaną systemy mądrzejsze od ludzkiego mózgu, to będzie inny rodzaj przyszłości. Sztuczna inteligencja to nie jakiś niesamowity, lśniący, drogi gadżet, który reklamuje się w najnowszym wydaniu magazynu o technologiach. Sztuczna inteligencja nie mieści się na wykresie, który przedstawia postęp w medycynie, produkcji przemysłowej i energetyce. Sztuczna inteligencja to nie coś, co można od niechcenia wpisać w lumpenfuturystyczny scenariusz pełen drapaczy chmur i latających samochodów oraz nanotechnologicznych czerwonych krwinek, które pozwolą nam wstrzymać oddech na osiem godzin. Wieżowiec raczej nie rozpocznie na własną rękę prac inżynieryjnych. Człowiek zdobył zajmowane na Ziemi miejsce nie dlatego, że potrafił wstrzymywać oddech dłużej niż inne gatunki.
Katastrofalny scenariusz wynikający z niedocenienia potęgi inteligencji polega na tym, że ktoś tworzy przycisk, ale nie interesuje go, co ten przycisk zrobi, ponieważ nie zakłada, że urządzenie to jest wystarczająco potężne, aby wyrządzić mu krzywdę. Niedocenienie inteligencji pociąga za sobą niedoszacowanie potencjalnej potęgi sztucznej inteligencji. Można się spodziewać, że grupa zainteresowanych badaczy, grantodawców oraz filantropów, którzy w imieniu gatunku ludzkiego zajmują się jego przyszłością, nie poświęci należytej uwagi sztucznej inteligencji.
.Nie można nie wspomnieć o tym, że sztuczna inteligencja może okazać się skutecznym remedium na zagrożenia egzystencjalne i zignorujemy naszą nadzieję na przetrwanie. Zastosowanie sztucznej inteligencji może mieć i dobre, i złe skutki. Dlatego tytuł tego artykułu brzmi Sztuczna inteligencja jako pozytywna i negatywna zmienna globalnego ryzyka, a nie Globalne ryzyko wykorzystywania sztucznej inteligencji. Gdyby sztuczna inteligencja była dla ludzkości tylko obciążeniem, sprawy byłyby o wiele prostsze.
Eliezer Yudkowsky
Tekst ukazał się w nr 30 miesięcznika opinii “Wszystko co Najważniejsze” w bloku tekstów w 100 lecie urodzin Stanisława Lema [LINK].
