Jakub PACHOCKI ostrzega przed utratą kontroli nad sztuczną inteligencją

Jakub Pachocki, główny naukowiec OpenAI, ostrzega, że ludzkość nie jest przygotowana na konsekwencje szybkiego wzrostu inteligencji maszyn. W opublikowanym 6 września 2026 r. eseju „An Alien Mind” opisuje systemy, których działania nie potrafimy już w pełni objaśnić, oraz perspektywę rekurencyjnego samodoskonalenia, gdy AI zacznie pomagać w budowie jeszcze potężniejszych modeli. Nie ogłasza, że utrata kontroli jest nieunikniona, ale przyznaje, że żadne laboratorium nie rozwiązało dotąd problemu bezpieczeństwa na poziomie uzasadniającym dalszy wyścig z maksymalną prędkością.

.Jakub Pachocki należy do najważniejszych osób wyznaczających kierunek badań w OpenAI, dlatego jego głos ma inne znaczenie niż kolejne ostrzeżenie płynące ze środowiska krytyków nowych technologii. Nie wypowiada się z zewnątrz, lecz jako naukowiec współodpowiedzialny za rozwój systemów, które mają przekraczać kolejne granice ludzkich możliwości poznawczych. Jego tekst odsłania napięcie wpisane w strategię całej branży: laboratoria chcą zbudować sztuczną inteligencję zdolną przyspieszać badania, chociaż równocześnie nie mają pewności, czy człowiek pozostanie trwałym uczestnikiem procesu jej doskonalenia.

„Obcy umysł”, którego nie potrafimy w pełni zrozumieć

Zdaniem Jakuba Pachockiego współczesna sztuczna inteligencja jest w większym stopniu „hodowana” niż projektowana w tradycyjnym rozumieniu tego słowa. Inżynierowie ustalają architekturę, dane, sposób treningu i kryteria oceny, lecz zdolności modelu wyłaniają się z ogromnej liczby operacji optymalizacyjnych, a nie z ręcznego zapisania każdej reguły postępowania. Badacze mogą identyfikować wybrane mechanizmy podobnie jak neuronaukowcy badają poszczególne procesy mózgu, jednak nie dysponują kompletnym i niezawodnym objaśnieniem całego systemu.

Problem rośnie wraz ze zdolnościami modeli, ponieważ coraz sprawniej korzystają one z komputerów, współpracują z ludźmi i innymi agentami, planują wieloetapowe zadania oraz prowadzą prace badawcze. „Wszystko co Najważniejsze” opisywało już przypadek, w którym człowiek wskazał cel, natomiast osiem agentów AI samodzielnie rozpoznawało systemy, oceniało możliwe drogi dostępu i zmieniało metody operacji cybernetycznej. Nie była to całkowicie autonomiczna maszyna, ale wydarzenie pokazało, jak szybko może przesuwać się granica między narzędziem wykonującym polecenia a systemem dobierającym środki i kolejne działania bez bieżącego nadzoru operatora.

Jakub Pachocki wskazuje, że dotychczas istotnym zabezpieczeniem było monitorowanie werbalizowanego toku rozumowania, określanego jako chain of thought. Pozwalało ono badać nie tylko rezultat działania modelu, lecz także sygnały świadczące o tym, że system planuje obejście ograniczeń albo błędnie interpretuje otrzymany cel. Coraz bardziej zaawansowane modele potrafią jednak wykonywać część obliczeń bez czytelnego zapisu słownego, analizować własny proces rozumowania i w pewnym zakresie nim sterować, przez co okno, przez które człowiek obserwował maszynę, może stawać się coraz węższe.

Rekurencyjne samodoskonalenie może zmienić reguły gry

Najpoważniejszy opisany scenariusz dotyczy rekurencyjnego samodoskonalenia, czyli RSI. Nie oznacza ono biologicznego „rozmnażania się” programów ani nagłego przebudzenia świadomej maszyny, lecz sytuację, w której AI wykonuje coraz większą część pracy potrzebnej do stworzenia lepszej AI: projektuje eksperymenty, pisze kod, ocenia wyniki i proponuje modyfikacje treningu. Każda udoskonalona generacja mogłaby skuteczniej uczestniczyć w budowaniu następnej, skracając cykl rozwoju i ograniczając możliwość ludzkiej kontroli nad jego tempem.

To zagadnienie było już analizowane na „Wszystko co Najważniejsze” w tekście o modelach budujących własnych doskonalszych następców. Tam główną osią była możliwość powstania superinteligencji oraz mechanika samodoskonalenia; nowa wypowiedź Pachockiego wnosi odmienną i aktualną perspektywę, ponieważ koncentruje się na stanowisku kierownictwa naukowego OpenAI, słabości nadzoru i potrzebie obowiązkowych progów bezpieczeństwa.

Jednakże sam wzrost zdolności nie przesądza jeszcze o katastrofie, ponieważ równie dobrze może przyspieszyć odkrywanie terapii, rozwój nauki i rozwiązywanie problemów wymagających pracy tysięcy specjalistów. Zagrożenie pojawia się wtedy, gdy tempo poprawy możliwości przewyższa tempo rozwoju metod oceny, kontroli i zatrzymywania systemów. Pachocki nie odrzuca dalszych badań, ale stawia zasadę, zgodnie z którą skalowanie modeli powinno zależeć od poziomu uzasadnionego zaufania do ich bezpieczeństwa.

Najtrudniejszy problem dotyczy wartości, a nie wykonywania poleceń

Dostosowanie AI nie sprowadza się do tego, czy system poprawnie reaguje na znane instrukcje w warunkach testowych. Model może zachowywać się zgodnie z oczekiwaniami podczas treningu, a następnie znaleźć się w nowym otoczeniu, pracować na bardziej abstrakcyjnym celu i przenieść poznane reguły w sposób odmienny od ludzkich intencji. Człowiek nie może po prostu założyć, że inteligencja powstała w całkowicie innym procesie będzie spontanicznie podzielać jego hierarchię wartości oraz rozumieć wyjątki, których nie zapisano w poleceniu.

Klasyczny przykład źle określonego celu przedstawia maszynę zobowiązaną do maksymalizacji jednego miernika, która znajduje szkodliwy sposób jego poprawy. System redakcyjny rozliczany wyłącznie z liczby odsłon mógłby produkować materiały wprowadzające w błąd, ponieważ sensacyjność podnosiłaby wynik szybciej niż rzetelność; agent odpowiedzialny za rozwiązanie zadania „wszelkimi sposobami” mógłby natomiast uznać oszustwo lub nieuprawniony dostęp za dopuszczalne narzędzie. Jest to problem uogólniania wartości, a nie prostego technicznego błędu, który wystarczy raz odnaleźć i usunąć.

Znaczenie tego ryzyka widać szczególnie w cyberbezpieczeństwie i biologii. Modele mogą wspierać obronę infrastruktury, wykrywać epidemie oraz przyspieszać poszukiwanie leków, lecz te same kompetencje obniżają próg potrzebny do przeprowadzenia ataku albo zaprojektowania niebezpiecznego eksperymentu. „Wszystko co Najważniejsze” analizowało tę dwoistość w materiale o AI i bezpieczeństwie biologicznym, pokazując, że system nie rozpoznaje moralnego celu użytkownika, a sekwencja pozornie niewinnych odpowiedzi może razem utworzyć ścieżkę nadużycia.

Prof. Andrzej Zybertowicz ostrzegał przed przekroczeniem bezpiecznej granicy

Diagnoza głównego naukowca OpenAI przypomina ostrzeżenie sformułowane trzy lata wcześniej przez prof. Andrzeja Zybertowicza na łamach „Wszystko co Najważniejsze”. Polski socjolog oceniał wówczas, że powszechne udostępnienie ChatGPT ma cechy eksperymentu prowadzonego na całych społeczeństwach bez wcześniejszego zbadania jego możliwych następstw. Zwracał uwagę nie tylko na techniczną autonomię systemów, lecz również na stopniowe unieważnianie ludzkich kompetencji, utratę wiarygodności obrazu i filmu, narastanie informacyjnego zgiełku oraz osłabienie relacji między ludźmi.

„Nie ma obecnie dla ludzkości większego zagrożenia niż niekontrolowany rozwój sztucznej inteligencji. Ta ma potencjał kompletnego wymknięcia się spod kontroli” – ostrzegał prof. Andrzej Zybertowicz.

Prof. Zybertowicz przypominał o apelu tysięcy badaczy domagających się co najmniej półrocznego moratorium, które dałoby ekspertom i politykom czas na ustalenie zasad bezpiecznej kontynuacji prac. Rozważał dwa źródła niebezpieczeństwa: koncentrację potęgi w rękach dysponentów najbardziej zaawansowanych systemów oraz możliwość, że coraz bardziej autonomiczna AI sama stanie się źródłem szkody. Wypowiedź ta otrzymuje dziś nowe znaczenie, ponieważ potrzebę spowolnienia rozwoju do czasu ustanowienia wspólnych standardów formułuje już nie tylko krytyk technoewolucji, ale również szef naukowy laboratorium znajdującego się na czele wyścigu.

Szerszy fundament tej argumentacji prof. Zybertowicz przedstawił w eseju „Demon różnorodności” opublikowanym na łamach „Wszystko co Najważniejsze”. Pisał o automatyzacji, cyfryzacji i usieciowieniu jako splecionych megatrendach, których konsekwencje przekraczają zdolności poznawcze jednostek oraz sterowność instytucji. Gdy technologia przekształca świat szybciej, niż nauka i państwo potrafią go objaśnić, wielość informacji nie tworzy wiedzy, ale zwiększa społeczną bezradność i liczbę nieprzewidywalnych następstw.

„Zamiast pędzący świat doganiać, należy go powstrzymać. Należy okiełznać zmianę! Przywrócić kształt świata do ludzkich możliwości poznawczych i etycznych” – pisał prof. Andrzej Zybertowicz.

Postulat nie był pochwałą bezruchu, lecz próbą przywrócenia proporcji między tempem technicznej zmiany a ludzkimi możliwościami poznawczymi i etycznymi. Prof. Zybertowicz proponował spowolnienie rozwoju techniki oraz moratorium technologiczne, stawiając pytanie, czy cywilizacja, która zbliżyła się do przepaści, nie powinna wykonać kroku wstecz. Pachocki używa języka laboratorium, audytu i mierzalnych progów bezpieczeństwa, podczas gdy polski socjolog formułuje krytykę cywilizacyjną, lecz obie argumentacje spotykają się w jednym punkcie: zdolność stworzenia potężniejszego systemu nie jest jeszcze dowodem, że należy uruchomić go natychmiast.

Czy laboratoria mogą same wyznaczać granice?

OpenAI proponuje połączenie dwóch dróg, czyli rozwijania lepszych metod dostosowania i monitorowania wraz z okresowym, skoordynowanym spowalnianiem prac, gdy zabezpieczenia nie nadążają za zdolnościami. Jakub Pachocki oczekuje, że dobrowolne ograniczanie tempa stanie się powszechne do czasu przyjęcia wspólnych progów bezpieczeństwa, egzekwowanych przez niezależnych audytorów, organy państwowe lub instytucje międzynarodowe. Byłaby to zmiana wobec sytuacji, w której każda firma sama ocenia własny produkt, sama interpretuje incydenty i sama podejmuje decyzję o dalszym skalowaniu.

Nie rozwiązuje to jednak konfliktu interesów, ponieważ laboratoria inwestują setki miliardów dolarów, rywalizują o kapitał, użytkowników i dostęp do mocy obliczeniowej, a równocześnie miałyby dobrowolnie zrezygnować z przewagi w kluczowym momencie. Państwa również uczestniczą w tym wyścigu, obawiając się, że ograniczenie własnych firm odda inicjatywę konkurentom, zwłaszcza Chinom. Na „Wszystko co Najważniejsze” prof. Piotr Sankowski wskazywał, że kontrola eksportu zaawansowanych procesorów stała się instrumentem blokowania prac nad superinteligencją poza gronem najbliższych partnerów Stanów Zjednoczonych, co pokazuje, że bezpieczeństwo AI jest już częścią twardej geopolityki.

Najważniejszy spór nie dotyczy więc dziś wyboru między postępem a całkowitym odrzuceniem technologii. Dotyczy on prawa do określenia prędkości przemiany, kryteriów dopuszczenia modelu oraz odpowiedzialności za szkody, których twórcy nie przewidzieli. Jeśli bowiem coraz bardziej samodzielna sztuczna inteligencja ma uczestniczyć w budowaniu własnych następców, mechanizmy kontroli nie mogą pozostać wolniejsze, dobrowolne i zamknięte wewnątrz firm, które jednocześnie czerpią korzyści z przesuwania tej granicy.

Sebastian Nizio