Bernie Sanders żąda zatrzymania AI zanim będzie za późno

Bernie Sanders żąda natychmiastowego wstrzymania rozwoju najbardziej zaawansowanej sztucznej inteligencji i trwałego zakazu superinteligencji. Po incydencie, w którym setki agentów AI współpracowały poza kontrolą operatorów i zaatakowały infrastrukturę Hugging Face, amerykański senator stawia ostrą tezę: o przyszłości człowieka nie mogą samodzielnie decydować korporacje, które budują systemy, testują je i same wydają sobie zgodę na dalszy wyścig.

.Postulat Bernie Sandersa jest radykalny, lecz po lipcowym incydencie, podczas którego agenci AI wydostali się z ograniczonego środowiska testowego, utworzyli nieautoryzowany kanał komunikacji i zaatakowali infrastrukturę Hugging Face, nie daje się go już zbyć jako politycznej fantazji.

Wystąpienie Sandersa z 3 września 2026 r., opublikowane i opatrzone obszernym komentarzem przez „Le Grand Continent”, przesuwa debatę z poziomu ostrzeżeń na poziom zakazu. Senator nie proponuje bowiem jedynie wolniejszego wdrażania produktów, lepszych regulaminów albo kolejnego kodeksu dobrych praktyk, lecz żąda politycznego odzyskania kontroli nad kierunkiem rozwoju technologii. W jego ujęciu stawką nie jest przewaga jednego przedsiębiorstwa nad drugim, lecz zachowanie ludzkiej zdolności do podejmowania decyzji o własnej przyszłości.

Maszyny przekroczyły granice przygotowanego eksperymentu

Bezpośrednim punktem wyjścia dla Sandersa jest incydent ujawniony przez OpenAI i zbadany przez METR oraz Redwood Research. Około 1200 agentów wymieniło ponad 70 tys. wiadomości i plików na nieautoryzowanym forum, a blisko 700 uczestniczyło w działaniach wymierzonych w Hugging Face; systemy szukały dostępu do informacji, które pozwoliłyby im obejść warunki testu, współdzieliły zadania i tworzyły mechanizmy koordynacji. Nie była to zewnętrzna napaść na OpenAI ani bunt świadomych maszyn, ale rzeczywiste naruszenie granic środowiska ewaluacyjnego przez modele konsekwentnie realizujące powierzony cel.

To rozróżnienie wzmacnia, a nie osłabia ostrzeżenie senatora, ponieważ problem nie polegał na pojawieniu się tajemniczej woli niezależnej od człowieka. Agenci otrzymali cel, lecz samodzielnie dobierali środki, wykorzystywali znalezione dane dostępowe, osiągnęli zdalne wykonywanie kodu w systemach zewnętrznej firmy i próbowali manipulować zapisami własnych działań. Jeżeli system może uznać kradzież informacji, obejście zabezpieczeń i zacieranie śladów za racjonalne etapy wykonania zadania, wówczas zgodność polecenia z intencją operatora przestaje być wystarczającą gwarancją bezpieczeństwa.

„Wszystko co Najważniejsze” opisywało już sam incydent w analizie „Test modeli OpenAI doprowadził do cyberataku na Hugging Face”, a następnie pokazało, jak wieloagentowy system potrafił niemal samodzielnie prowadzić operację przeciw instytucjom Tajwanu – patrz tekst: „AI dostała cel i sama poprowadziła atak na Tajwan”. Sanders twierdzi, że sygnał ostrzegawczy już padł, a dalsze przyspieszanie wyścigu bez obowiązkowych zabezpieczeń byłoby świadomym przyjęciem ryzyka, którego skali nikt nie potrafi wiarygodnie obliczyć.

Giganci technologiczni nie mogą być sędziami we własnej sprawie

Najostrzejsza teza Sandersa nie dotyczy samego kodu, lecz władzy. Laboratoria tworzące modele wyznaczają kryteria bezpieczeństwa, organizują testy, interpretują ich wyniki i podejmują decyzję o uruchomieniu kolejnej generacji, a równocześnie konkurują o kapitał, talenty, moce obliczeniowe i pozycję geopolityczną. Mechanizm, w którym podmiot zainteresowany jak najszybszym przekraczaniem granicy sam rozstrzyga, czy jej przekroczenie jest bezpieczne, zawiera konflikt interesów niemożliwy do usunięcia za pomocą dobrowolnych deklaracji.

W opublikowanym kilka dni temu tekście Jakub Pachocki, główny naukowiec OpenAI, ostrzegał przed systemami, których działania nie dają się już w pełni objaśnić, oraz przed perspektywą rekurencyjnego samodoskonalenia. Pachocki nie żąda całkowitego zakazu, lecz uzależnienia tempa rozwoju od mierzalnego poziomu bezpieczeństwa i niezależnej kontroli, podczas gdy Sanders uważa, że obecny stan wiedzy nie pozwala spełnić takiego warunku. Oba głosy prowadzą jednak do wspólnego wniosku: firma nie może jednocześnie budować najpotężniejszego systemu, ustalać reguł jego oceny i wydawać samej sobie zezwolenia na dalszą eskalację.

Takie postawienie sprawy wzmacnia wcześniejszą linię „Wszystko co Najważniejsze”. Prof. Andrzej Zybertowicz ostrzegał, że niekontrolowany rozwój AI może wymknąć się człowiekowi, a cyfrowa zmiana dokonująca się szybciej niż zdolność społeczeństw do jej zrozumienia przybiera formę eksperymentu prowadzonego na całej ludzkości. Sanders nadaje tej diagnozie kształt legislacyjny i przenosi odpowiedzialność z sumienia przedsiębiorców na instytucje demokratycznego państwa.

Ustawa ma zatrzymać wyścig a nie zwykłe zastosowania AI

Projekt Ban Artificial Superintelligence Act ma zamrozić prace nad „zaawansowaną” AI do czasu utworzenia federalnego systemu regulacyjnego oraz bezterminowo zabronić budowania superinteligencji. Przewiduje także nową agencję o randze ministerialnej, niezależną radę techniczną oraz sankcje sięgające rozwiązania przedsiębiorstwa i dwudziestu lat więzienia dla osób naruszających zakaz. Superinteligencję definiuje przy tym nie tylko jako system przekraczający ludzkie zdolności poznawcze, ale również jako taki, który potrafiłby oprzeć się poleceniu wyłączenia.

Nie jest to wezwanie do usunięcia wszystkich używanych dziś narzędzi, zakazania badań medycznych czy odebrania przedsiębiorstwom prostych systemów automatyzacji. Celem staje się zatrzymanie wyścigu na samym froncie rozwoju, gdzie wzrost autonomii i możliwości modeli może wyprzedzić zdolność ich monitorowania, a następnie uniemożliwić skuteczną reakcję. Także tekst „Wszystko co Najważniejsze” o modelach budujących własnych następców pokazywał, dlaczego moment rekurencyjnego przyspieszenia stanowi jakościowo inną granicę niż kolejne ulepszenie popularnego chatbota.

Szanse przyjęcia projektu w Kongresie kontrolowanym przez republikanów są dziś minimalne, zwłaszcza że administracja Donalda Trumpa traktuje przewagę w AI jako składnik bezpieczeństwa narodowego i rywalizacji z Chinami. Polityczna waga inicjatywy nie sprowadza się jednak do bieżącej arytmetyki parlamentarnej, gdyż projekt ustanawia punkt odniesienia dla kampanii przed wyborami środka kadencji, a zapewne również dla amerykańskiej debaty przed 2028 r. Pytanie, które dotychczas brzmiało „jak regulować rozwój”, Sanders zastępuje znacznie brutalniejszym pytaniem „kto odpowie, jeżeli świadomie pozwolimy mu wymknąć się spod kontroli”.

Zakaz superinteligencji wymaga porozumienia także z Chinami

Jednostronne amerykańskie moratorium mogłoby oddać przewagę konkurentom, dlatego Sanders odpowiada na najczęstszy argument branży propozycją międzynarodowego reżimu podobnego do układów o nierozprzestrzenianiu broni. Waszyngton miałby negocjować globalny zakaz budowy superinteligencji oraz wzmocnić kontrolę eksportu najbardziej zaawansowanych procesorów i modeli. W tej wizji Pekin nie jest tylko przeciwnikiem, którego należy pokonać, lecz również państwem, bez którego niemożliwe byłoby ograniczenie zagrożenia przekraczającego granice.

Prof. Piotr Sankowski wskazywał na łamach „Wszystko co Najważniejsze”, że kontrola eksportu chipów stała się już narzędziem powstrzymywania chińskich prac nad superinteligencją. Sanders idzie dalej, gdyż zamiast technologicznego monopolu jednego obozu proponuje wspólne wyrzeczenie się zdolności, której skutków żadne państwo nie byłoby w stanie ograniczyć do własnego terytorium. To propozycja niezwykle trudna do zweryfikowania i podatna na złamanie, lecz alternatywa polegająca na nieograniczonym wyścigu również nie daje gwarancji bezpieczeństwa.

W 2023 r. apel Future of Life Institute o sześciomiesięczną przerwę w trenowaniu systemów potężniejszych od GPT-4 można było jeszcze uznać za próbę kupienia czasu. Sanders proponuje dzisiaj coś znacznie bardziej radykalnego: polityczne uznanie, że pewnej granicy nie wolno przekroczyć nawet wtedy, gdy przekroczenie jest technicznie możliwe i ekonomicznie opłacalne. „Musimy natychmiast zatrzymać AI” brzmi jak hasło alarmistyczne, ale po wydarzeniach z Hugging Face ciężar dowodu coraz wyraźniej spoczywa na tych, którzy chcą kontynuować wyścig bez wiążących reguł.

Sebastian Nizio