Agent AI wie, skąd pochodzi informacja. Co to zmienia w placówce medycznej

MCP, czyli Model Context Protocol, to standard pozwalający agentom AI łączyć się z zewnętrznymi systemami na żądanie. Agent może w jednym ruchu sięgnąć do bazy danych, narzędzia diagnostycznego, rejestru czy zewnętrznego API. Robi to szybko. Ale jedno pytanie dotąd zostawało bez odpowiedzi: czy agent wie, skąd pochodzi każda informacja, którą właśnie pobrał?

Weryfikacja z uwzględnieniem źródła to podejście, w którym agent nie tylko sprawdza, czy fakt jest poprawny, ale też śledzi jego proweniencję. Które narzędzie MCP to dostarczyło? Jak bardzo temu źródłu można ufać? Dwa identyczne fakty mogą mieć zupełnie różną wagę, jeśli jeden pochodzi z wewnętrznej bazy szpitalnej, a drugi z nieznanego zewnętrznego serwisu. Różnica jest i powinna być widoczna.

Co to oznacza dla polskich placówek medycznych (szpitale, przychodnie, apteki, gabinety)

Wyobraźmy sobie agenta obsługującego wizytę. Pobiera wyniki z LIS, historię leków z systemu aptecznego, dane demograficzne z HIS, a może też coś z zewnętrznego repozytorium danych zdrowotnych. Scala to w jeden obraz kliniczny. Co się dzieje, gdy jedno z tych czterech źródeł zwróci błędne dane? Albo gdy jeden z serwerów MCP zostanie przejęty lub po cichu zmieni właściciela?

Agent bez świadomości źródeł po prostu "uśredni" konflikt. Agent z weryfikacją źródłową oznaczy rozbieżność i przekaże ją człowiekowi do oceny. To fundamentalna różnica między systemem, który ukrywa problem, a tym, który go eksponuje. W medycynie ta różnica może kosztować zdrowie pacjenta.

Jest też wymiar formalny. Dokumentacja medyczna i RODO wymagają możliwości odtworzenia ścieżki: skąd pochodzi informacja, kiedy była aktualna, kto za nią odpowiada. Agent, który scala dane z pięciu miejsc bez zapamiętywania ich proweniencji, tworzy prawny czarny obszar. Szczególnie niebezpieczny przy skardze pacjenta lub kontroli NFZ.

Apteki i przychodnie integrujące zewnętrzne narzędzia diagnostyczne mają tu własny, konkretny problem. Plugin do interakcji lekowych, rejestr refundacyjny, lokalny formularz wywiadu - każde z tych źródeł ma inny poziom aktualności i inną odpowiedzialność prawną. Jeśli agent traktuje je równorzędnie, daje fałszywe poczucie spójności tam, gdzie jej nie ma.

Source-aware verification to nie temat na za trzy lata. W regulowanym środowisku medycznym wymóg śledzenia proweniencji danych pojawia się szybciej niż w większości innych branż. Placówki, które teraz projektują architektury agentowe, powinny wbudowywać ten mechanizm od pierwszego dnia. Poprawka dołączana po wdrożeniu kosztuje wielokrotnie więcej niż uwzględnienie jej na etapie projektu.

Jeśli zastanawiasz się, jak radzą sobie z tym wasze obecne lub planowane wdrożenia agentowe, zapraszamy na bezpłatny audyt.