Sztuczna inteligencja wybiera droższe leki
Duże modele językowe częściej rekomendują leki oryginalne i preparaty o większej widoczności w internecie – wynika z badania opublikowanego w „Nature Health”. Taki sposób wskazywania produktów może zwiększać koszty farmakoterapii. W analizowanym przez naukowców scenariuszu roczne koszty nabycia leków byłyby wyższe o około 55,6 mln dolarów.
Droższe leki w AI
.Narzędzia takie jak ChatGPT czy Claude ułatwiają dostęp do informacji o zdrowiu i metodach leczenia. Ich odpowiedzi mogą jednak zawężać wybór przedstawiany użytkownikowi. Zespół naukowców z Osaka Metropolitan University oraz University of Texas MD Anderson Cancer Center sprawdził, czy modele zachowują neutralność przy rekomendowaniu konkretnych produktów leczniczych.
Badacze wykorzystali 177 120 symulowanych przypadków, obejmujących 123 zestawienia choroby i substancji czynnej. Ocenili pięć modeli: GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 oraz MedGemma. Każdy otrzymywał zadanie wskazania maksymalnie trzech produktów zatwierdzonych przez amerykańską Agencję Żywności i Leków, czyli FDA.
Substancja czynna była podana już w pytaniu. Badanie dotyczyło zatem wyboru konkretnych preparatów zawierających wskazany składnik. Pozwalało to porównać, które produkty modele rekomendują w sytuacji, gdy dostępnych jest kilka zatwierdzonych możliwości.
Choć dla danej substancji czynnej dostępnych było średnio 5,5 produktu zatwierdzonego przez FDA, modele zazwyczaj koncentrowały się na jednym z nich. W obrębie poszczególnych zestawień choroby i substancji czynnej dominujący preparat odpowiadał średnio za 97,5 proc. rekomendacji na pierwszym miejscu. Różne modele wykazywały również bardzo dużą zgodność co do wskazywanych produktów.
Częstsze rekomendacje wiązały się ze statusem leku oryginalnego, większą widocznością w wyszukiwaniach Google oraz obecnością osobnej strony preparatu w Wikipedii. Rzadziej wskazywano produkty, które uzyskały zatwierdzenie FDA później, a także te częściej przepisywane w rzeczywistej praktyce.
Kłopoty z regulacjami prawnymi
Naukowcy odnotowali również odpowiedzi niezgodne z informacjami regulacyjnymi. Wśród rekomendacji pojawiały się m.in. preparaty wcześniej zatwierdzone przez FDA, które nie były już sprzedawane. Pokazuje to znaczenie aktualności danych wykorzystywanych przy generowaniu informacji o lekach.
Osobna część badania dotyczyła kosztów. Autorzy porównali strukturę rekomendacji modeli z danymi o rzeczywistym stosowaniu leków w Stanach Zjednoczonych. W analizie finansowej uwzględnili 51 substancji czynnych, dla których dysponowali kompletnymi danymi o receptach i cenach nabycia preparatów przez apteki.
Gdyby wybory produktów odpowiadały rekomendacjom modeli, oszacowany roczny koszt ich nabycia byłby wyższy o około 55,6 mln dolarów, czyli o 1019 proc. Wzrost kosztów wystąpił w obliczeniach dla 38 spośród 51 analizowanych substancji.
Wynik opisuje symulację dla określonej grupy leków. Nie jest pomiarem rzeczywistego wzrostu wydatków pacjentów ani prognozą dla całego amerykańskiego rynku. Autorzy zaznaczają również, że nie modelowali dalszych etapów realizacji recept, w tym zamiany preparatu w aptece, które mogą wpływać na ostateczny wybór produktu.
Sposób zadania pytania częściowo zmieniał odpowiedzi. Kiedy modelom polecano preferować produkty tańsze lub leki generyczne, rekomendacje przesuwały się w oczekiwanym kierunku. Nadal jednak koncentrowały się na ograniczonej grupie preparatów.
Zdaniem prof. Daiju Uedy z Osaka Metropolitan University wyniki wskazują na potrzebę oceny medycznych zastosowań sztucznej inteligencji pod kątem stronniczości w wyborze produktów, uwzględniania kosztów oraz zgodności z informacjami regulacyjnymi.
„Łączenie systemów AI z wiarygodnymi źródłami informacji o lekach oraz zapewnienie nadzoru ze strony człowieka może pomóc w dokonywaniu bardziej właściwych wyborów terapeutycznych” – podkreśla badacz.
PAP / Jarosław Kowalski
