Czy może zaskoczyć sztuczną inteligencję? Tak. Badacze proponują nową miarę
Zaskoczenie sztucznej inteligencji można opisać matematycznie. Badacze z Georgia Tech proponują miarę pomagającą ocenić, kiedy nowe dane powinny zmienić działanie systemu.
.Yinsong Wang, Quan Zeng, Xiao Liu i Yu Ding przedstawili metodę Mutual Information Surprise (MIS) w „INFORMS Journal on Data Science”. Publikacja ukazała się online 4 sierpnia 2026 r. Badacze analizują problem rozpoznawania obserwacji, które mają znaczenie dla dalszego uczenia się systemu.
Pytanie przerastające możliwości chatbota, nietypowa przeszkoda na drodze i zakłócenie pracy fabryki to przykłady sytuacji, które mogą wymagać ponownej oceny. W takich zastosowaniach sztucznej inteligencji ważne staje się ustalenie, czy dotychczasowy sposób działania nadal odpowiada warunkom.
Jak mierzyć zaskoczenie maszyny
.Yu Ding, kierujący projektem, wskazuje, że system autonomiczny potrzebuje mechanizmu rozpoznawania, kiedy jego dotychczasowe wnioskowanie przestaje wystarczać. Jest to jeden z problemów adaptacji AI do nowych sytuacji.
Miara Shannona skupia się na małym prawdopodobieństwie obserwacji. Wnioskowanie bayesowskie ocenia zmianę probabilistycznych przekonań modelu pod wpływem nowej obserwacji. Według zespołu obie mogą pomijać znaczenie danych dla postępu uczenia. Autorzy wskazują, że rzadkie zdarzenie może wnosić niewiele wiedzy, a pojedyncza ważna obserwacja słabo zmieniać model oparty na wielu wcześniejszych danych.
MIS mierzy zmianę informacji wzajemnej po dodaniu nowych obserwacji. Informacja wzajemna określa, na ile znajomość danych wejściowych zmniejsza niepewność dotyczącą wyników. Autorzy traktują jej zmiany jako sygnał postępu lub zakłócenia uczenia. Zaskoczenie sztucznej inteligencji oznacza tu sygnał obliczeniowy, który można wykorzystać do sterowania procesem zbierania danych.
Nacisk na użyteczność informacji pojawia się również w opisywanej przez nas koncepcji oceny przydatności danych przez agentów AI.
Co wykazały testy i co pozostaje do zrobienia
.Zespół zaproponował strategię reakcji, która zmienia sposób pobierania kolejnych próbek albo rozdziela proces analizy na dwie gałęzie obejmujące wcześniejsze i nowe obserwacje. Metodę sprawdzono na danych syntetycznych, w tym w symulacji zmiennej mapy zanieczyszczeń. Autorzy odnotowali poprawę stabilności, reakcji na zmiany środowiska i dokładności przewidywań względem porównywanych strategii.
Badacze wskazują możliwe przyszłe zastosowania w asystentach AI, robotach i zakładach przemysłowych. Mechanizm mógłby pomagać określić, kiedy kontynuować zadanie, a kiedy zatrzymać się i ponownie ocenić sytuację. Zakłócenie produkcji mogłoby wymagać decyzji człowieka.
W komunikacie z 28 września 2026 r. Georgia Tech informuje, że zespół poszukuje zastosowań inżynierskich i przygotowuje propozycję do programów finansowanych federalnie. Testy przedstawione w publikacji przeprowadzono w symulacjach. Autorzy wskazują rozwinięcie metody do bardziej złożonych systemów jako kierunek dalszych badań.
Szymon Ślubowski
