Autonomiczne AI: kto decyduje, co wolno maszynie decydować?

Przez lata AI w instytucjach oznaczało jedno: system generuje rekomendację, człowiek podejmuje decyzję. To się zmienia. Coraz więcej wdrożeń idzie o krok dalej i pozwala systemowi samodzielnie wykonać czynność, nie tylko zasugerować. Zarezerwować termin, przekierować wniosek, uruchomić procedurę. Takie AI nazywamy agentycznym, bo nie czeka na człowieka przy każdym kroku. I właśnie tutaj zaczyna się naprawdę trudna rozmowa: co wolno maszynie zrobić bez pytania?

To nie jest pytanie techniczne. To pytanie o odpowiedzialność, zaufanie i prawo. Dlatego instytucje publiczne, które pierwsze sięgnęły po autonomiczne systemy, teraz głowią się nad czymś, co można by nazwać mapą uprawnień AI. Czyli: które decyzje delegujemy, które zostawiamy człowiekowi, a które wymagają ludzkiego podpisu nawet wtedy, gdy system już wie, co zrobić.

Co to oznacza dla polskich placówek medycznych (szpitale, przychodnie, apteki, gabinety)

Polska ochrona zdrowia jest gdzieś w połowie tej drogi. Mamy już systemy wspierające diagnozę, analizujące wyniki, flagujące nieprawidłowości w zleceniach. Ale agentyczne AI, które samo działa, to wciąż nowe terytorium. I dobrze, że zaczynamy o nim rozmawiać zanim wdrożymy je bez przemyślenia.

Wyobraźmy sobie system, który automatycznie zapisuje pacjenta na badanie kontrolne na podstawie wyniku morfologii. Albo samodzielnie blokuje receptę, gdy wykryje potencjalną interakcję lekową. Albo przydziela kolejność obsługi na SOR bez udziału triażysty. Każda z tych sytuacji brzmi sensownie. Każda niesie też realne ryzyko, gdy system trafi na przypadek wykraczający poza jego dane treningowe.

Kilka pytań, które warto zadać sobie przed wdrożeniem agentycznego AI:

• Które procesy mogą przebiegać bez człowieka w pętli? Rutynowe przypomnienia, potwierdzenia wizyt, obsługa prostych zapytań, czyli tam, gdzie ewentualny błąd jest odwracalny i o niskim koszcie.
• Gdzie wymagana jest weryfikacja lekarza lub farmaceuty? Wszystko, co dotyka bezpośrednio decyzji klinicznej lub bezpieczeństwa pacjenta, musi mieć człowieka w pętli.
• Jak wygląda ścieżka odwoławcza? Pacjent i personel muszą wiedzieć, jak i do kogo się zwrócić, gdy system zdecyduje niespójnie lub po prostu się pomyli.

Z perspektywy regulacyjnej: RODO, przepisy o wyrobach medycznych i unijny AI Act już teraz nakładają obowiązki w zakresie przejrzystości automatycznych decyzji. Placówki, które wdrożą agentyczne AI bez udokumentowanej polityki uprawnień, mogą mieć problem nie tylko operacyjny, ale i prawny.

Mapa uprawnień AI to nie produkt z pudełka do pobrania i wdrożenia. Trzeba ją ułożyć we własnym kontekście, biorąc pod uwagę specyfikę personelu, profil pacjentów i obowiązujące procedury. Najlepiej z kimś, kto rozumie jednocześnie technologię i realia ochrony zdrowia.

Jeśli chcesz wiedzieć, które procesy w Twojej placówce nadają się do automatyzacji agentycznej, a które powinny pozostać pod ludzkim nadzorem, zapraszamy na bezpłatny audyt. Bez zobowiązań, za to z konkretnymi odpowiedziami.