Czy AI decyduje tak samo dla każdego pacjenta? Sprawiedliwość modeli pod presją

Modele językowe coraz częściej wspierają decyzje kliniczne. Klasyfikują pilność skierowań, podpowiadają diagnozę, priorytetyzują kolejki. Od jakiegoś czasu wiadomo, że mogą przy tym wykazywać stronniczość - inaczej oceniać tę samą sytuację zależnie od wieku, płci czy narodowości pacjenta zawartych w opisie. Problem polega na tym, że dotychczasowe metody weryfikacji były dość proste: zadawano podobne pytania dla różnych grup i sprawdzano, czy odpowiedzi się różnią. Nowe podejście idzie dalej. Zamiast testów na spokojnych, oczywistych przypadkach, model poddawany jest złożonym i sprzecznym scenariuszom - sytuacjom, gdzie wnioski nie są jednoznaczne i gdzie uprzedzenie ujawnia się dopiero pod presją. To istotna różnica metodyczna.

Co to oznacza dla polskich placówek medycznych (szpitale, przychodnie, apteki, gabinety)

Wyobraźmy sobie model wspomagający triagę. Dwa identyczne opisy bólu w klatce piersiowej, jeden z adnotacją o 72-letnim pacjencie, drugi o 34-letnim. Model może przypisać im różny priorytet - nie dlatego, że wiek jest tu klinicznie decydujący, ale dlatego, że w danych treningowych starszy pacjent był obsługiwany inaczej. Albo subtelniej: model może formułować zalecenia bardziej kategorycznie dla mężczyzny niż dla kobiety z identycznym zestawem objawów. Takie rozbieżności są trudne do wychwycenia w codziennym użyciu. Nikt nie porównuje odpowiedzi modelu dla różnych grup obok siebie.

Dla szpitala wdrażającego AI ma to konkretny wymiar prawny. AI Act klasyfikuje zastosowania medyczne jako wysokiego ryzyka, a jednym z wymogów jest właśnie monitorowanie i dokumentowanie potencjalnych uprzedzeń. Samo "przetestowaliśmy i działa" nie wystarczy. To samo dotyczy aptek i gabinetów specjalistycznych - jeśli system rekomenduje zamienniki albo sygnalizuje interakcje, powinniśmy wiedzieć, czy robi to tak samo dla pacjenta w każdym wieku i każdej płci.

Można to wbudować w proces odbioru wdrożenia bez specjalistycznego zespołu. Wystarczą trzy rzeczy:

• zestaw przypadków testowych z celowo zróżnicowanymi danymi demograficznymi przy identycznej treści klinicznej,
• sprawdzenie spójności wyników między grupami,
• regularne powtarzanie testów po każdej aktualizacji modelu - zachowanie zmienia się między wersjami, a dostrajanie na nowych danych może wprowadzić nowe wzorce.

Sprawiedliwość nie jest stanem, który osiąga się raz na początku projektu. Model może działać poprawnie na prostych, oczywistych przypadkach i ujawniać uprzedzenie dopiero wtedy, gdy opis jest niepełny albo zmuszający do ważenia sprzecznych informacji. To właśnie typowe warunki izby przyjęć albo przychodni POZ w szczycie sezonu.

Jeśli planujecie wdrożenie AI w placówce albo chcecie sprawdzić, jak oceniać modele już działające, możemy to omówić razem. Zapraszamy na bezpłatny audyt.