Jak agenci AI mogą rozpoznawać nieoczekiwane zmiany

Agenci AI mogliby lepiej rozpoznawać nieoczekiwane zmiany dzięki metodzie badaczy z Georgia Tech. Matematyczna miara „zaskoczenia” ma pomóc sztucznej inteligencji oceniać, kiedy potrzebna jest korekta działania.

Rzadkie zdarzenie nie zawsze jest ważne

.Zespół z H. Milton Stewart School of Industrial and Systems Engineering w Georgia Tech przedstawił metodę Mutual Information Surprise (MIS). Autorami pracy opublikowanej 4 sierpnia 2026 r. w „INFORMS Journal on Data Science” są Yinsong Wang, Quan Zeng, Xiao Liu i Yu Ding.

Yu Ding, profesor kierujący projektem, wskazuje, że agenci AI powinni rozpoznawać, kiedy ich dotychczasowy sposób analizowania sytuacji staje się niewystarczający. „Zaskoczenie” oznacza tutaj sygnał obliczeniowy, który ma skłaniać system do ponownej oceny sytuacji.

Dotychczasowe miary mają ograniczenia. Zaskoczenie Shannona skupia się na małym prawdopodobieństwie zdarzenia. Jak wyjaśnia Ding, może ona wyróżnić obecność określonego samochodu na parkingu, choć dla człowieka byłaby ona zwyczajna.

Zaskoczenie bayesowskie mierzy, jak silnie nowa obserwacja zmienia wcześniejsze przekonania modelu. Przy dużej liczbie zgromadzonych danych pojedyncza ważna obserwacja może wywołać niewielką aktualizację. Ding ilustruje ten problem słabą oceną ucznia, który zwykle osiągał bardzo dobre wyniki.

Co mierzy Mutual Information Surprise

.W publikacji naukowej autorzy wyjaśniają, że MIS opiera się na informacji wzajemnej. Miara ta opisuje, jak znajomość danych wejściowych ogranicza niepewność dotyczącą wyniku. MIS porównuje jej oszacowanie przed uwzględnieniem nowych obserwacji i po ich dodaniu.

Autorzy interpretują wzrost jako postęp uczenia się, a spadek jako sygnał jego pogorszenia. Testy statystyczne mają odróżniać istotne zmiany od wahań oszacowania. Proponowana polityka reakcji pozwala dostosować sposób zbierania danych albo rozdzielić proces na części korzystające ze starszych i nowszych obserwacji.

Wyniki dotyczą eksperymentów obliczeniowych

.Praca opisuje eksperymenty na danych syntetycznych, w tym symulację tworzenia map zanieczyszczeń w zmieniającym się otoczeniu. W badanych wariantach dodanie polityki MIS zmniejszało błąd szacowania i poprawiało stabilność wyników. Do uruchomienia reakcji algorytm potrzebuje co najmniej dwóch nowych obserwacji.

Według zespołu w przyszłości metoda mogłaby wspierać ocenę decyzji agentów AI, działania robotów i pracę fabryk. Miałaby wskazywać, kiedy kontynuować zadanie, kiedy ponownie przeanalizować sytuację, a kiedy potrzebna jest interwencja człowieka. Możliwość takiej korekty mogłaby poprawić bezpieczeństwo agentów AI. Są to potencjalne zastosowania; opisane wyniki dotyczą eksperymentów obliczeniowych.

Szymon Ślubowski