Zdrowie pod najwyższą ochroną

Czy sztuczna inteligencja może przewidzieć datę śmierci człowieka? – pisze prof. Michał KLEIBER

.Przeczytałem kilka lat temu w amerykańskim czasopiśmie naukowym wywiad z pewnym lekarzem onkologiem pracującym w renomowanym szpitalu w Nowym Jorku, który wyznał, niejako samokrytycznie, że lepiej od niego bliską śmierć pacjenta potrafi przewidzieć młody kotek należący do jednej z opiekunek pracujących w domu dla osób terminalnie chorych. W pobliżu niektórych pacjentów kotek ten zaczynał dziwnie wciągać powietrze i skulony kładł się obok nich. Zdumiewające, że nigdy się nie omylił, a w ponad pięćdziesięciu przypadkach w ten sposób wskazani pacjenci umierali w ciągu następnych kilkunastu godzin. Lekarz ten wyznał, że w przypadku takiego zachowania kota natychmiast dzwonił do rodziny wskazanego pacjenta, prosząc ją o szybką wizytę w celu pożegnania bliskiej jej osoby, nie przyznając się oczywiście, na jakiej podstawie przedstawia tę smutną prognozę. Koledzy lekarza z innych oddziałów nie wierzyli w takie kocie profetyczne zdolności, ale ku ich zdumieniu przeprowadzone eksperymenty potwierdziły to także u nich.

Sytuacja ta wzbudziła oczywiście konsternację w różnych środowiskach lekarskich. Konsternację dodatkowo zwiększoną rezultatami analizy dotyczącej przeszło 12 000 terminalnie chorych pacjentów, przeprowadzonej na jednej z londyńskich uczelni medycznych. Analiza wykazała, że nawet w przypadku renomowanych onkologów i kardiologów określenie momentu zgonu pacjenta bardzo często odbiegało o wiele miesięcy od rzeczywistej daty śmierci. Nikt oczywiście nie wie, na czym polega owa kocia zdolność przewidywania bliskiej śmierci człowieka. Spekulowano, że kot wyczuwał może zapachy wydzielane przez obumierające komórki chorego, ale nigdy nie doszło do potwierdzenia ani tej, ani żadnej innej teorii wyjaśniającej zachowanie się zwierzęcia. A szkoda, bo problem w miarę dokładnego przewidzenia momentu śmierci ma olbrzymie znaczenie nie tylko dla pacjenta i jego rodziny pozostającej w traumie wyczekiwania na najgorsze, ale oczywiście także dla sposobu opieki nad chorym. Należałoby jednak przy tym dobitnie zaznaczyć, że mówimy tu o osobach świadomych swego terminalnego stanu, gdyż przewidywanie daty śmierci u osób nieświadomych takiego zagrożenia mogłoby mieć dramatyczne konsekwencje.

Uznając medyczne wyzwania w tym trudnym obszarze oraz obserwując szybki rozwój sztucznej inteligencji (AI) i jej rozlicznych zastosowań, także właśnie medycznych, nie sposób w tej sytuacji nie zadać sobie pytania o jej możliwości diagnozowania zbliżającej się śmierci chorego. Za pierwszą taką próbę można uznać prace pewnego studenta informatyki na Uniwersytecie Stanforda, który opracował na podstawie danych medycznych dotyczących 160 tys. już zmarłych pacjentów program przewidujący ich śmierć w okresie od trzech do dwunastu miesięcy. Program przetestowany na dalszych 40 tys. pacjentów przyniósł bardzo obiecujące wyniki – 9 na 10 pacjentów z tej grupy zmarło w przewidywanym okresie, a 95 proc. pacjentów, którym program przypisał niskie prawdopodobieństwo zgonu, żyło dłużej niż 12 miesięcy. Jeśli dodatkowo uwzględnimy, że opracowany program działał na stosunkowo niewielkiej liczbie danych dotyczących poszczególnych pacjentów i będzie mógł być znacznie udoskonalony przez uwzględnienie szerokiej gamy innych wyników analiz oraz opinii lekarzy, trudno nie uznać tej próby wykorzystania AI za rzeczywiście obiecującą. Za podobnie udany eksperyment uznaje się użycie opracowanego przez Google programu o nazwie Medical Brain AI, przetestowanego na wielu pacjentach w dwu nieujawnionych amerykańskich szpitalach i potrafiącego przewidywać rychłą śmierć w ponad 90 proc. przypadków – wynik znacznie lepszy od osiąganego na drodze tradycyjnej metodologii stosowanej w tych szpitalach.

Jeszcze innym eksperymentem na tym polu była inicjatywa podjęta ostatnio na brytyjskim Uniwersytecie w Nottingham. Na podstawie danych medycznych, zebranych w latach 2006–2016, dotyczących pół miliona osób, ustalono, że w okresie tym 14 500 spośród tych pacjentów zmarło na nowotwór bądź choroby układów krwionośnego i oddechowego. Program AI wykorzystujący tzw. deep learning, „nauczony” na tych danych, prawidłowo przewidział śmierć w tym czasie prawie 80 proc. konkretnych osób z tej grupy, znacznie więcej, niż pozwoliły przewidzieć także użyte w tym badaniu inne, prostsze metody. Na podobnie dużej grupie osób w średnim wieku, dla których zebrano dane dotyczące ich genetyki i czynników środowiskowych, inny program AI przewidział z dokładnością prawie 80-procentową długość życia poszczególnych osób przekraczającą 80 lat. Badania tego typu wydają się obiecujące m.in. dlatego, że otwierają drogę do wiarygodnej oceny znaczenia sposobów odżywiania się ludzi i ich aktywności fizycznej w kontekście wpływu tych czynników na długość życia, a to mogłoby oczywiście w istotny sposób wpłynąć na obniżenie kosztów ochrony zdrowia.

Przewidywanie momentu śmierci to naturalnie tylko jedno z wielu zebranych w ostatnich latach medycznych doświadczeń związanych z przewidywaniem wydarzeń dotyczących ludzkiego zdrowia. Wymienić by tu można na przykład przewidzenie z dokładnością do 84 proc. przez program AI, na podstawie obrazów mózgu, przypadków zachorowania na chorobę Alzheimera czy przewidzenie z wysoką dokładnością u sześciomiesięcznych dzieci prawdopodobieństwa rozwoju u nich autyzmu. Podobnie obiecujące wyniki dostarczył program AI przewidujący na podstawie analizy dziesiątek tysięcy danych dotyczących siatkówki oka i przebiegu chorób w analizowanej grupie pacjentów grożącą im cukrzycę bądź wysokie prawdopodobieństwo zawału. Firma medyczna Geisinger w amerykańskim stanie Pensylwania na podstawie zbioru parokrotnie pobieranych danych z elektrokardiogramów prawie 400 tys. osób była z kolei w stanie z wysokim prawdopodobieństwem, znacznie wyższym od uzyskanego w tym teście przez kardiologów, przewidzieć osoby, u których wystąpią zawały serca i migotanie przedsionków, a także ich śmierć w ciągu najbliższego roku. W mediach opisywano wielokrotnie także wiele innych korzyści wynikających ze stosowania AI w ochronie zdrowia, zarówno w działaniach promujących profilaktykę, jak i w diagnostyce i terapii.

Pierwszy nasuwający się wniosek z powyższych i wielu innych podobnych informacji to przekonanie o wielkich możliwościach sztucznej inteligencji w dziedzinie zdrowia. Niezależnie od powyższych osiągnięć nie sposób jednak nie przestrzec przed nadmiernym optymizmem. Na pierwszy plan wysuwają się tu zastrzeżenia związane z problematyką etyczną przy stosowaniu oprogramowania AI. Trzeba pamiętać, że programy te czerpią wprawdzie swą „wiedzę” z olbrzymiej liczby danych, ale dobór tych danych jest domeną ludzi, w tym przypadku lekarzy i informatyków. I to oni, przez dobór danych uważanych przez nich za najbardziej właściwe, mogą wpływać, świadomie bądź nieświadomie, na wyniki i tym samym na przebieg terapii terminalnej. W Stanach Zjednoczonych wykazano na przykład, że osoby z różnych grup rasowych czy mające różną sytuację materialną poddawane są bardzo często odmiennej opiece paliatywnej, prowadzącej do istotnych różnic w długości życia – proporcje pacjentów z tych grup uwzględnione w procesie uczenia się programu AI mogą oczywiście w tej sytuacji znacząco wpływać na generowane wyniki. Zadbanie o nieprzekazywanie komputerom ludzkich uprzedzeń jawi się w tej i wielu innych sytuacjach jako bardzo ważny element formalnych zasad, które muszą regulować użycie programów z zakresu sztucznej inteligencji. Olbrzymie tempo rozwoju tej dziedziny wiedzy wyprzedza jednak dzisiaj bardzo wyraźnie nasze możliwości pełnego rozumienia konsekwencji pojawiających się nowych możliwości z jednej strony, a ich skutecznej regulacji z drugiej.

.Powszechnie przydatne przewidywanie przyszłości, dotyczącej nie tylko omawianej powyżej długości życia, ale także wielu innych wydarzeń w kontekście politycznym i społecznym, w sposób często nieuwzględniający w pełni następstw możliwych nieświadomych niedopatrzeń bądź świadomego manipulowania oprogramowaniem, jest niezwykle niebezpieczne i wymaga szerokiej debaty oraz szybko podejmowanych decyzji regulacyjnych, trudnych także ze względu na globalny charakter przepływu i wykorzystywania danych. Dotychczas nierozwiązany jest na przykład niezwykle ważny problem odpowiedzialności za błędy popełnione w wyniku decyzji bazujących na sugestiach programów AI, co w ochronie zdrowia może przecież prowadzić do dramatycznych konsekwencji. W tym kontekście nie sposób nie podkreślić dobitnie, że przewidywanie daty śmierci z pewnością należy do zbioru niezwykłych wyzwań stojących przed etyką stosowania AI.

Michał Kleiber
Tekst ukazał się w nr 54 miesięcznika opinii „Wszystko co Najważniejsze” [PRENUMERATA: Sklep Idei LINK >>>]