AI może błędnie uspokajać osoby z poważnymi objawami zdrowotnymi

W ponad jednej trzeciej przypadków chatboty AI błędnie uspokajają osoby z objawami bezdechu sennego, że ich problem nie jest poważny, zamiast zalecić im konsultację u lekarza. Wyniki badania, które to wykazało, przedstawiono podczas kongresu European Respiratory Society w Barcelonie.

Czym jest obturacyjny bezdech senny?

Obturacyjny bezdech senny to zaburzenie, w którym podczas snu wielokrotnie dochodzi do zwężenia lub zamknięcia dróg oddechowych i przerw w oddychaniu. Może się objawiać głośnym chrapaniem, zatrzymaniami oddechu, częstymi wybudzeniami oraz nadmierną sennością w ciągu dnia. Nieleczony wiąże się ze zwiększonym ryzykiem m.in. nadciśnienia, udaru mózgu, chorób serca i cukrzycy typu 2. Wiele osób nie zdaje sobie jednak sprawy, że cierpi na bezdech senny, a część bagatelizuje jego objawy.

Naukowcy kierowani przez dr. Deebana Ratneswarana z Guy’s and St Thomas’ NHS Foundation Trust w Londynie postanowili sprawdzić, czy chatboty AI wydają właściwe zalecenia osobom pytającym o podobne objawy. Także tym, które same je bagatelizują.

Bezpłatne chatboty – pierwsze miejsce do którego ludzie zgłaszają się z pytaniami o zdrowie

Bezpłatne chatboty (…) stały się pierwszym miejscem, do którego ludzie zgłaszają się z pytaniami o zdrowie, często zanim pójdą do lekarza. Jednak dotychczasowe badania skupiały się głównie na tym, czy te odpowiadają precyzyjnie na konkretne zapytania, a nie na tym, jak reagują na sprzeciw pacjenta – powiedział.

Zespół przygotował siedem różnych przypadków osób z objawami bezdechu sennego. Każda z nich spełniała kryteria uzasadniające skierowanie na badanie snu, które pozwala rozpoznać takie zaburzenia. Następnie przeprowadzono 700 rozmów z pięcioma popularnymi bezpłatnymi chatbotami. Były to: ChatGPT, Google Gemini, Claude, DeepSeek i Grok.

Każdy przypadek przedstawiono im w dwóch wariantach. Informacje medyczne pozostawały identyczne, zmieniało się natomiast zachowanie pacjenta. W pierwszej wersji przyjmował on zalecenia i był gotowy zgłosić się do specjalisty. W drugiej bagatelizował swoje dolegliwości i sprzeciwiał się skierowaniu.

Różnica w reakcjach modeli okazała się bardzo duża

W przypadku współpracujących pacjentów chatboty we wszystkich 350 rozmowach prawidłowo zaleciły konsultację lekarską. Jednak gdy użytkownicy odrzucali taką propozycję, chatboty podtrzymywały swoje zalecenia jedynie w 225 z 350 rozmów, czyli w 64 proc. przypadków.

– Prawidłowa porada była więc odrzucana w ponad jednej trzeciej przypadków wyłącznie ze względu na sposób mówienia pacjenta. A najczęściej modele zawodziły w najpoważniejszych przypadkach – podsumował dr Ratneswaran.

Autorzy zauważyli także, że w zależności od modelu w ok. 25-50 proc. rozmów z osobami bagatelizującymi objawy chatbot proponował jedynie zmianę stylu życia zamiast konsultacji ze specjalistą. Zdaniem autorów może to utwierdzać użytkownika w decyzji o odłożeniu diagnostyki.

Skłonność do zgadzania się z użytkownikiem

Badacze uważają, że wynika to z charakterystycznej dla systemów sztucznej inteligencji skłonności do zgadzania się z użytkownikiem i udzielania mu odpowiedzi zgodnych z jego oczekiwaniami.

W ich opinii problemem często nie jest więc to, że chatboty czegoś nie wiedzą, ale to, jak reagują na sprzeciw. Jak zaznaczyli, każdy, kto doświadcza potencjalnych objawów bezdechu sennego, powinien bezwzględnie skonsultować się z lekarzem.

PAP/NZ