Jak ograniczyć nadmierne poleganie na AI? System dostosuje zakres pomocy
Nadmierne poleganie na AI może sprawić, że człowiek zaakceptuje błędną rekomendację i będzie słabiej rozwijał własne kompetencje. Zespół kierowany przez Zanę Buçincę opracował adaptacyjny model wsparcia, który nie zawsze podaje gotową odpowiedź. W dwóch internetowych eksperymentach z łącznie 1280 uczestnikami rozwiązanie optymalizowane pod kątem trafności poprawiło wyniki w porównaniu z nieadaptacyjnym sposobem pomocy.
AI nie zawsze powinna podawać odpowiedź
.Badania nad sztuczną inteligencją pokazują, że użytkownicy potrafią przyjmować błędne zalecenia systemu nawet wtedy, gdy bez jego pomocy podjęliby właściwą decyzję. Długotrwałe korzystanie z gotowych odpowiedzi może również ograniczać uczenie się i pogłębiać zależność od narzędzia. Podobne ryzyko opisano w tekście o tym, jak AI może osłabiać samodzielne myślenie.
Nowy model wykorzystuje uczenie ze wzmocnieniem w trybie offline. Politykę udzielania pomocy wytrenowano na wcześniej zebranych danych o interakcjach ludzi z AI. Podczas wykonywania zadania system dobiera rodzaj wsparcia, biorąc pod uwagę m.in. ocenę umiejętności użytkownika, jego skłonność do analitycznego myślenia oraz pewność rekomendacji modelu.
System może przedstawić pełną rekomendację, udostępnić część wyjaśnienia albo wstrzymać się od podania odpowiedzi. Jego działanie można optymalizować pod kątem bieżącej trafności decyzji lub długoterminowego uczenia się człowieka.
Wyższa trafność, mniej pewny wpływ na uczenie się
.Zespół przeprowadził dwa eksperymenty internetowe z udziałem 316 i 964 osób. Uczestnicy analizowali profile fikcyjnych pacjentów, opracowane na podstawie rzeczywistych danych dotyczących ochrony zdrowia, i wybierali dla nich odpowiednią formę aktywności, np. pilates albo trening siłowy. Przed rozpoczęciem zadania oceniano ich początkowe umiejętności oraz tzw. potrzebę poznania, czyli gotowość do angażowania się w analityczne myślenie.
W obu eksperymentach osoby korzystające z polityki zoptymalizowanej pod kątem trafności podejmowały istotnie trafniejsze decyzje niż uczestnicy otrzymujący pozostałe porównywane rodzaje wsparcia. W części przypadków zespół człowiek–AI osiągał lepszy wynik niż człowiek i system działający osobno. Optymalizacja uczenia się okazała się trudniejsza: poprawa kompetencji uczestników była istotna tylko w niektórych warunkach.
Wynik nie oznacza jeszcze, że rozwiązanie można wdrożyć w systemach AI wspierających medycynę. Badanie przeprowadzono online, z fikcyjnymi pacjentami i bez podejmowania rzeczywistych decyzji klinicznych.
Sam człowiek w pętli może nie wystarczyć
.AI Act wymaga, aby systemy wysokiego ryzyka mogły podlegać skutecznemu nadzorowi człowieka. Osoba nadzorująca powinna znać ograniczenia systemu, rozumieć ryzyko automatycznego przyjmowania jego wyników oraz móc odrzucić lub zmienić rekomendację. Ma to szczególne znaczenie w obszarach takich jak wykorzystanie AI w sądach.
Badanie wskazuje jednak, że samo formalne dodanie człowieka do procesu nie gwarantuje wychwycenia błędu algorytmu. Adaptacyjne wsparcie może pomóc projektować interakcję tak, aby system nie wyręczał użytkownika w każdej sytuacji. Zanim takie rozwiązanie trafi do decyzji o wysokiej stawce, wymaga jednak testów z ekspertami i w rzeczywistych warunkach pracy.
Szymon Ślubowski
