Jakie błędy najczęściej popełniają szpitale i przychodnie przy wdrożeniu AI?

Przy wdrożeniu AI w placówce medycznej popełnia się kilka błędów, które wracają jak bumerang niezależnie od wielkości szpitala czy przychodni. Należą do nich: zaczęcie od zakupu narzędzia zanim zdefiniowano konkretny problem, pominięcie personelu w całym procesie oraz brak osoby odpowiedzialnej po stronie placówki. Każdy z tych błędów można zawczasu przewidzieć, a przy odrobinie planowania można im zapobiec.

Kupujemy narzędzie, zanim wiemy, jaki mamy problem

To zdecydowanie najczęstszy scenariusz. Dyrektor idzie na konferencję albo dostaje ofertę handlową. Platforma wygląda świetnie. Demo działa płynnie. Podpisana umowa, opłacona licencja, a pół roku później wdrożenie leży, bo nikt nie zadał podstawowego pytania: co konkretnie ma to narzędzie robić lepiej niż teraz?

"AI do dokumentacji" albo "AI do rejestracji" to za mało. Trzeba wiedzieć: kto dziś traci czas na które zadanie, w którym kroku procesu, ile razy dziennie. Typowo wygląda to tak, że rejestracja ma problemy z odsłuchem nagrań i przepisywaniem danych z rozmów telefonicznych. To jest konkretny problem. Da się temu zaradzić. Natomiast "poprawa obsługi pacjenta przez AI" nie jest problemem, jest życzeniem, i żadne narzędzie tego nie zaadresuje.

Zanim podpiszesz cokolwiek, przejdź przez jeden tydzień pracy w oddziale lub rejestracji i zapisz, co zajmuje nieproporcjonalnie dużo czasu. Dopiero wtedy sprawdź, czy jakakolwiek technologia faktycznie to adresuje.

Personel dowiaduje się o AI w dniu uruchomienia

Zarząd ustala wdrożenie, dostawca konfiguruje system, a lekarze i pielęgniarki o całej sprawie wiedzą tyle, co nic, aż do momentu gdy ktoś mówi: "od poniedziałku używamy nowego narzędzia". Efekt jest przewidywalny. Personel traktuje AI jak kolejny obowiązek narzucony z góry. Obchodzi go albo używa tak, żeby "odfajkować", nie żeby faktycznie korzystać.

U jednego z naszych klientów, sieci przychodni, wdrożenie asystenta dokumentacji zajęło formalnie dwa tygodnie, ale realne przyjęcie przez lekarzy trwało cztery miesiące. Zmiana zaczęła działać dopiero gdy jeden lekarz, który lubił testować nowe rzeczy, zaczął pokazywać innym, jak skraca czas po wizycie. Nie żaden komunikat ze strony zarządu, ale żywy przykład kolegi z oddziału.

Co zrobić inaczej:

• Zaproś dwie, trzy osoby z personelu do grupy pilotażowej zanim jeszcze wybierzesz dostawcę.
• Zbierz od nich opinie na etapie testów, nie po uruchomieniu produkcyjnym.
• Wyznacz w każdym dziale "ambasadora AI", czyli kogoś chętnego, kto będzie pierwszym punktem kontaktu dla kolegów z pytaniami.
• Daj personelowi prawo do powiedzenia "to nie działa" i faktycznie na to reaguj.

Nikt nie sprawdził, skąd AI ma wziąć dane

AI nie działa w próżni. Żeby asystent dokumentacyjny działał poprawnie, musi mieć dostęp do danych z wizyty, a często też do historii pacjenta w EDM. Żeby system przewidywał nieobecności, musi się połączyć z modułem czasu pracy w HIS. Żeby chatbot odpowiadał na pytania o dostępne terminy, musi wiedzieć, co jest otwarte w kalendarzu rejestracji.

Problem pojawia się, gdy okazuje się, że HIS w tej konkretnej placówce ma stary interfejs, który nie udostępnia API. Albo że dane laboratoryjne żyją w osobnym systemie i integracja wymaga pracy po stronie drugiego dostawcy, który żąda odrębnej wyceny i ma własny harmonogram. To nie są rzadkie sytuacje. To jest standard w polskich szpitalach i przychodniach.

Przed wdrożeniem koniecznie sprawdź:

• Czy twój HIS lub EDM ma otwarte API i w jakim standardzie, np. HL7 FHIR albo własny format eksportu.
• Kto jest właścicielem danych w twoich systemach i czy umowa z dostawcą HIS w ogóle pozwala na ich udostępnienie stronie trzeciej.
• Czy dostawca AI ma potwierdzone doświadczenie z integracją z twoim systemem. Zapytaj wprost o referencje z podobnej placówki.
• Ile kosztuje integracja po stronie dostawcy HIS, bo ta pozycja bardzo często nie pojawia się w pierwotnej ofercie AI.

Brak odpowiedzi na te pytania przed podpisaniem umowy to przepis na opóźnienia i dodatkowe faktury, których nie ma w pierwotnej wycenie.

Umowa z dostawcą nie definiuje, kto odpowiada za błąd modelu

To błąd, który wychodzi najczęściej późno. Placówka podpisuje umowę na dostęp do platformy AI. W umowie jest SLA, są warunki płatności, jest opis funkcjonalności. Nie ma natomiast jasnego zapisu, co się dzieje, gdy model zwróci błędną informację. Gdy zasugeruje nieprawidłowy kod ICD-10. Gdy chatbot udzieli pacjentowi złej odpowiedzi na temat dawkowania leku.

Dostawca powie, że to narzędzie wspomagające i odpowiedzialność leży po stronie użytkownika. Placówka powie, że model działał samodzielnie. Ta szara strefa nie jest czysto akademicka. Przy rosnącej liczbie wdrożeń takie sytuacje się zdarzają, a spory mogą być kosztowne.

W umowie powinny znaleźć się co najmniej:

• Zakres zastosowań, do których narzędzie jest przeznaczone, i wyraźny opis, czego nie należy nim robić.
• Sposób raportowania błędów modelu oraz zobowiązanie dostawcy do reakcji w określonym czasie, np. SLA na błędy krytyczne.
• Zasady przetwarzania danych pacjentów: kto jest procesorem danych w rozumieniu RODO, gdzie dane są przechowywane i czy opuszczają Europejski Obszar Gospodarczy.
• Warunki audytu modelu przez placówkę lub zewnętrznego audytora na żądanie.

Mamy osobny artykuł o tym, co powinna zawierać umowa z dostawcą AI dla szpitala lub przychodni. Przejrzyj go przed rozpoczęciem negocjacji.

Brak właściciela procesu po stronie placówki

Wdrożenie AI to nie projekt, który "sam się toczy". Ktoś musi pilnować, czy personel faktycznie używa narzędzia, co zgłasza, jakie błędy wychodzą, jak reaguje dostawca. W wielu placówkach po oficjalnym starcie okazuje się, że nikt formalnie za to nie odpowiada. IT mówi, że to nie ich zakres. Dział administracyjny mówi, że to projekt zarządu. Zarząd uważa, że już "oddał" temat dostawcy.

Efekt: po sześciu miesiącach nikt nie wie, czy system działa, ilu pracowników z niego korzysta i czy w ogóle przynosi jakikolwiek mierzalny efekt. Tak przepada nie tylko czas, ale też możliwość poprawienia czegoś, zanim stanie się naprawdę drogie.

Wyznacz konkretną osobę, z nazwiskiem i zakresem zadań, która będzie odpowiadać za AI po stronie placówki. Nie musi to być informatyk. Może to być pełnomocnik ds. jakości, kierownik działu administracji albo wyznaczona osoba z rejestracji. Ważne, żeby miała czas, bezpośredni kontakt z dostawcą i prawo do zgłaszania uwag bez pośredników.

Co zrobić, zanim w ogóle zaczniesz szukać dostawcy

Zanim odezwiesz się do kogokolwiek z ofertą, zrób trzy rzeczy. Pierwsza: opisz jeden konkretny problem operacyjny w jednym zdaniu. Nie wizję, nie strategię. Konkretny problem. Druga: sprawdź, czy twoje systemy informatyczne mają możliwość integracji i kto w placówce może potwierdzić odpowiedź na to pytanie. Trzecia: wyznacz osobę, która będzie koordynowała wdrożenie i będzie pierwszym kontaktem dla dostawcy.

Brzmi prosto. Ale w praktyce, gdy przychodzi do rozmowy z dostawcą, większość placówek nie ma gotowych odpowiedzi na żadną z tych trzech kwestii. I to jest moment, w którym wdrożenie zaczyna zmierzać w złym kierunku, jeszcze zanim pojawi się jakakolwiek faktura.

Jeśli chcesz sprawdzić, czy twoja placówka jest gotowa na AI i które obszary mają największy potencjał, możemy zacząć od bezpłatnego audytu. Jak wyglądają konkretne wdrożenia w podobnych placówkach, pokazujemy na stronie z realnych wdrożeniach.