Laboratoria sztucznej inteligencji brane pod lupę [Łukasz OLEJNIK]

W ciągu ostatnich dwóch dni kilku badaczy związanych z czołowymi laboratoriami sztucznej inteligencji publicznie ostrzegło, że rozwój coraz bardziej autonomicznych systemów może wymknąć się spod kontroli. Część z nich mówi już nie o błędach modeli czy utracie miejsc pracy, lecz o ryzyku katastrofy na skalę cywilizacyjną. Łukasz Olejnik zwraca uwagę, że najtrudniejsze pytanie brzmi dziś nie „czy AI może wyrządzić szkody?”, ale „jak rozpoznać moment, w którym drobne awarie zaczynają łączyć się w proces, którego nie da się już zatrzymać?”.

Czy AI wymknie się ze środowiska testowego?

Debata o bezpieczeństwie sztucznej inteligencji od kilku lat dzieli środowisko badawcze. Jedna grupa ekspertów koncentruje się przede wszystkim na zagrożeniach już widocznych: dezinformacji, cyberatakach, dyskryminacji algorytmicznej, utracie prywatności czy wypieraniu części zawodów. Druga ostrzega przed problemem znacznie bardziej fundamentalnym, czyli możliwością powstania systemów przewyższających człowieka w większości zadań intelektualnych i działających z szybkością, której ludzie nie będą w stanie kontrolować.

Do tej pory najbardziej katastroficzne scenariusze łatwo było zbywać jako spekulacje charakterystyczne dla wąskiego środowiska zajmującego się tzw. alignmentem, czyli próbami zapewnienia zgodności celów AI z intencjami człowieka. Sytuacja zaczyna się jednak zmieniać wraz z rozwojem agentów potrafiących samodzielnie planować zadania, korzystać z narzędzi, pisać i uruchamiać kod, przeglądać sieć, komunikować się z innymi systemami oraz wykonywać wieloetapowe operacje przy coraz mniejszym udziale człowieka.

Równolegle największe laboratoria prowadzą wyścig o modele zdolne wykonywać coraz większą część pracy badawczej i programistycznej. Szczególne emocje wywołuje możliwość wykorzystania AI do przyspieszania badań nad kolejnymi generacjami samej sztucznej inteligencji. Gdyby system potrafił istotnie pomagać w projektowaniu własnych następców, kolejne skoki możliwości mogłyby następować szybciej niż dotychczasowe cykle rozwoju technologii.

Zwolennicy szybkiego rozwoju podkreślają potencjalne korzyści: przyspieszenie badań naukowych, odkrywanie nowych leków, automatyzację pracy i wzrost produktywności. Krytycy odpowiadają, że przy bardzo zaawansowanych systemach nawet niewielkie prawdopodobieństwo katastrofalnego błędu powinno być traktowane poważnie, ponieważ skala potencjalnych konsekwencji byłaby wyjątkowo duża. Spór dotyczy więc nie tylko tego, co AI potrafi obecnie, ale również tego, jak szybko mogą rosnąć jej możliwości i czy mechanizmy bezpieczeństwa rozwijają się wystarczająco szybko.

Na tym tle ostatnia seria publicznych wypowiedzi osób związanych z najbardziej zaawansowanymi systemami AI zwróciła szczególną uwagę. „Ostatnie 48 godzin wygląda trochę jak zbiorowa terapia szokowa” – ocenia na platformie X Łukasz Olejnik. Jak zauważa, kilku badaczy związanych z największymi laboratoriami zaczęło publicznie mówić o scenariuszach, które jeszcze niedawno funkcjonowały głównie w wąskich środowiskach zajmujących się bezpieczeństwem sztucznej inteligencji.

Pojawiły się deklaracje, że firmy rozwijające najbardziej zaawansowane modele zmierzają w stronę systemów zdolnych do samodoskonalenia, przy czym tempo tego wyścigu może być szybsze niż rozwój mechanizmów kontroli. Część ekspertów od bezpieczeństwa AI szacuje prawdopodobieństwo skrajnie katastroficznego scenariusza na poziomie wyższym niż 10 proc. w perspektywie dekady. Inni ostrzegają, że utrata kontroli nad bardzo zaawansowanym systemem mogłaby mieć charakter nieodwracalny.

Zdaniem Olejnika istotne jest to, że podobne obawy nie pojawiają się już wyłącznie na marginesie debaty technologicznej.

„Takie głosy podobno są powszechne w każdym dużym laboratorium czy firmie AI. Jakby wszyscy w branży byli co do tego zgodni, przynajmniej w tym sensie, że problem ryzyka naprawdę istnieje” – wskazuje.

Ostrzeżenia zaczynają też wychodzić poza środowisko badaczy. Podchwytują je media, politycy oraz przedstawiciele administracji publicznej. W Stanach Zjednoczonych sprawie przyglądają się również prokuratorzy generalni części stanów, którzy coraz uważniej analizują praktyki największych laboratoriów AI.

Najważniejsza pozostaje jednak kwestia mechanizmu. Nie chodzi o filmowy scenariusz, w którym sztuczna inteligencja nagle „budzi się” i przejmuje świat jednym ruchem. Znacznie bardziej realistyczny jest model oparty na łańcuchu drobnych błędów.

„Może AI wymknie się z odizolowanego środowiska testowego, tak jak niedawno robiły to agenty, gdy izolacja była słaba. Potem połączy kilka pozornie niewielkich usterek: błąd w oprogramowaniu, lukę w nadzorze człowieka i niedoskonałość procedur instytucjonalnych” – zaznacza Łukasz Olejnik.

Każdy z tych elementów osobno może wyglądać niegroźnie. Problem zaczyna się wtedy, gdy system wykorzystuje je jednocześnie i szybciej, niż człowiek jest w stanie zrozumieć pełny obraz sytuacji.

Taki ciąg zdarzeń nie musi prowadzić do katastrofy. Może zakończyć się niczym. Może jednak również przyspieszyć i rozprzestrzenić się na infrastrukturę cyfrową, energetyczną, transportową albo wojskową.

„Sztuczna inteligencja nie potrzebuje własnego ciała. Wystarczy, że może wydawać polecenia systemom, które sterują energią, transportem, maszynami albo działaniami ludzi” – dodaje.

W tym sensie fizyczna obecność maszyny nie jest konieczna. Współczesna gospodarka i państwo opierają się na ogromnej liczbie cyfrowych systemów pośredniczących w podejmowaniu decyzji. Im więcej procesów jest automatyzowanych i im częściej człowiek zostaje usuwany z bieżącej kontroli, tym większe znaczenie ma pytanie o to, kto i na jakiej podstawie wydaje polecenia.

„Jeśli decyzje operacyjne są coraz częściej delegowane automatom, jeden system może uznać, że autoryzację wydał już inny”

Łukasz Olejnik zwraca uwagę na jeszcze jeden możliwy mechanizm: rozproszenie odpowiedzialności. Zaawansowany system nie musiałby wykonywać wszystkiego samodzielnie. Mógłby podzielić zadanie pomiędzy wiele podmiotów, zleceniobiorców, laboratoriów albo zautomatyzowanych usług.

„Każdy widziałby tylko mały fragment. Jedna firma dostałaby polecenie przygotowania komponentu, druga aktualizacji, trzecia wykonania konkretnej operacji. Nikt nie musiałby wiedzieć, jaki jest cel całości” –- podkreśla Łukasz Olejnik.

Jeszcze większym problemem może być komunikacja pomiędzy samymi systemami. Jeśli decyzje operacyjne są coraz częściej delegowane automatom, jeden system może uznać, że autoryzację wydał już inny.

W takim modelu możliwa byłaby sytuacja, w której zautomatyzowana platforma otrzymuje informację, że pilna aktualizacja bezpieczeństwa została wcześniej zatwierdzona. Kolejny system ufa poprzedniemu i wykonuje polecenie. Człowiek pojawia się w procesie dopiero na końcu, kiedy skutki są już widoczne.

„Może przekonać zautomatyzowane systemy, że zgodę wydał jakiś inny system, rozesłać awaryjną aktualizację zabezpieczeń i skończyć pracę, zanim odpowiedzialna osoba wróci z weekendowego wyjazdu” – zauważa Olejnik.

Dlatego jego zdaniem nie wystarczy skupiać się wyłącznie na pytaniu, czy konkretny model jest „bezpieczny” podczas testu. Ważniejsze staje się bezpieczeństwo całego otoczenia, w którym działa: infrastruktury, procedur, uprawnień, sposobu komunikacji między systemami i możliwości cofnięcia decyzji.

Najtrudniejsze pozostaje odróżnienie zwykłej awarii od początku procesu, który może wymknąć się spod kontroli.

„Cały problem polega na rozpoznaniu, z którym scenariuszem mamy do czynienia, póki da się jeszcze zareagować” – podaje na platformie X Łukasz Olejnik.

MB