Autor: Artur Kolibski

W jednym z seriali Star Trek na pokładzie statku kosmicznego podróżującego przez odległe galaktyki, lekarza zastępuje wszechstronny i obdarzony poczuciem humoru Awaryjny Hologrogram Medyczny, program komputerowy z holograficznym interfejsem w formie ludzkiego doktora. Wiele razy myślałem, że takie programy byłyby naprawdę bardzo przydatne.

Bo czy nie zdarzyło się Wam wyszukiwanie w Internecie diagnozy na podstawie symptomów, jakie właśnie się u Was pojawiły? Albo na przykład sprawdzanie wyników badań krwi lub innych badań laboratoryjnych? Jeśli jesteście chociaż odrobinę zaznajomieni z wyszukiwarkami internetowymi, jestem przekonany, że tak. Od pewnego czasu jednak sztuczne inteligencje, a zwłaszcza duże modele językowe (LLM), takie jak Gemini, GPT czy Claude i inne, oferują znacznie więcej. Możemy im kazać postawić diagnozę, opisując objawy choroby, lub podając wyniki badań. Wielu użytkowników pyta popularne chatboty o porady medyczne i przy pomocy AI samodzielnie diagnozuje swoje objawy.

Chociaż wymienione narzędzia mają pewien realny potencjał, często spotykamy się z sytuacjami, kiedy takie diagnozy są niewiarygodne i mogą prowadzić do poważnych błędów zdrowotnych, a nawet do sytuacji, w których nasze zdrowie będzie na skutek błędnej diagnozy zagrożone, np. poprzez zbagatelizowanie poważnego schorzenia.

Badania naukowe pokazały, że choć LLM-y radzą sobie z testami i benchmarkami medycznymi, ich dokładność i wiarygodność dramatycznie spada w rzeczywistych sytuacjach klinicznych. Według Medicall Xpress w symulowanym badaniu z wykorzystaniem limitowanej liczby pytań diagnostycznych o charakterze otwartym (zbliżonych do egzaminów medycznych) ChatGPT-4o odpowiadał błędnie w około 2/3 przypadków diagnostycznych. Lepiej radził sobie w przypadku gotowych odpowiedzi wielokrotnego wyboru. Takie zachowanie modeli językowych pokazuje, że w warunkach prawdziwych objawów i analizy historii choroby AI może wprowadzić pytającego w błąd.

Jednocześnie LLM-y często mają problem z właściwą interpretacją kontekstu i dochodzi do sytuacji, w których AI generuje brzmiące logicznie i bardzo „medycznie” odpowiedzi, będące jednak całkowicie błędne lub niezgodne z faktami klinicznymi, kompletnie nieadekwatne do stanu zdrowia pacjenta.

Ostatnio zarówno media, jak i społeczności naukowe zwracają uwagę na sytuacje, w których systemy AI stosowane w wyszukiwarkach lub aplikacjach zdrowotnych mogą wprowadzać pacjentów w błąd, przez nieuwzględnianie ostrzeżeń medycznych, co może skutkować fałszywym poczuciem bezpieczeństwa pacjenta w przypadku nieprawidłowej diagnozy.

W publikacjach analizujących takie sytuacje w narzędziach AI stosowanych przy wspomaganiu decyzji chirurgicznych naukowcy podkreślają, że nawet modele o zaawansowanym „myśleniu łańcuchowym” mogą generować błędne sugestie diagnostyczne lub terapeutyczne.

Badanie porównawcze modeli AI w odniesieniu do lekarzy wykazało, że LLM-y znacznie gorzej radziły sobie z identyfikacją rzadkich chorób, które charakteryzują się nietypowymi lub niestandardowymi objawami klinicznymi. Nawet, jeśli modele potrafią wygenerować listę potencjalnych diagnoz, to finalne rozpoznanie lekarza często jest bardziej trafne. Ponadto badania nad zastosowaniem AI w psychiatrii wykazały, że duże modele językowe mogą w diagnozowaniu być stronnicze i niesprawiedliwe. Modele, takie jak ChatGPT, Claude czy inne LLM-y, wykazały różnice w zaleceniach terapeutycznych zależne od cech użytkownika (np. koloru skóry czy płci) – co w medycynie jest poważnym problemem zarówno etycznym, jak i klinicznym.

Kolejnym problemem jest to, że systemy AI działają jako „czarne skrzynki”, często bez przejrzystej logicznej ścieżki rozumowania. Kiedy takie narzędzie popełni błąd diagnostyczny – kto ponosi odpowiedzialność? Lekarz? Programista? Firma dostarczająca model? To pytania, na które nauka, prawo i praktyka kliniczna ciągle nie mają jednoznacznych odpowiedzi.

Sztuczna inteligencja ma z pewnością ogromny potencjał, by wspierać lekarzy i usprawniać proces diagnostyczny. Jednak obecna technologia nie jest na tyle miarodajna, by zastąpić człowieka w podejmowaniu ostatecznych decyzji. AI może więc i powinna służyć jako narzędzie wspomagające lekarzy, ale diagnoza medyczna wymaga ludzkiej wiedzy klinicznej, empatii, doświadczenia i odpowiedzialności, których obecne modele jeszcze nie oferują.

Przyznaję, że zdarza mi się korzystać z LLM podczas pracy. Czasami wygodniej i szybciej jest zapytać, jak AI rozwiązałaby dany problem programistyczny. Zdarza się jednak tak, że po zastosowaniu rozwiązania podanego przez chatbota, system generuje niespodziewane błędy i „napisany” przez sztuczną inteligencję kod trzeba poprawiać.

Skoro więc w przypadku programowania modele językowe nadal popełniają błędy, tym mniej chyba powinniśmy im ufać w stawianiu diagnozy i formułowaniu porad dotyczących naszego zdrowia i życia.