AI w biologii: nowy wymiar bezpieczeństwa, który dotknie też polską ochronę zdrowia

Przez lata mówiliśmy o AI w medycynie głównie w kontekście diagnostyki obrazowej, transkrypcji wizyt czy wspomagania decyzji klinicznych. Teraz na stole pojawia się coś innego. Modele językowe i systemy biologiczne na tyle się ze sobą zrosły, że poważne laboratoria AI zaczęły budować dedykowane... chwila, zacznijmy od nowa. Zaczęły budować osobne programy, których jedynym zadaniem jest pilnowanie, żeby ta technologia nie wyrządziła szkody. Chodzi o tak zwany obszar bioodporności: AI jest już wystarczająco dobry w analizowaniu sekwencji genetycznych, modelowaniu patogenów i przewidywaniu mutacji, żeby stał się narzędziem o podwójnym zastosowaniu. Pomaga w tworzeniu leków i szczepionek. Ale teoretycznie mógłby pomóc w czymś znacznie gorszym. Branża to zauważyła. Kilkanaście partnerstw z instytucjami rządowymi i organizacjami biosecurity powstało właśnie po to, żeby ustalić reguły, zanim ktoś te granice przekroczy.

To nie jest abstrakcyjny problem badawczy. To sygnał, że regulacje i standardy bezpieczeństwa dla AI w ochronie zdrowia będą rosnąć szybciej, niż się spodziewamy.

Co to oznacza dla polskich placówek medycznych (szpitale, przychodnie, apteki, gabinety)

Zacznijmy od tego, co bezpośrednie. Szpital w Polsce raczej nie wdraża dziś systemów do modelowania białek. Ale korzysta z AI do analizy wyników badań, obsługi pacjenta, automatyzacji dokumentacji. I te systemy są zasilane przez te same duże modele, które wywołały dyskusję o biobezpieczeństwie. Dostawcy technologii będą musieli wykazać, że ich rozwiązania spełniają nowe standardy. To oznacza więcej pytań przy zakupie i więcej wymagań w umowach.

Drugi wątek to gotowość na wypadek epidemii. Część inicjatyw z obszaru bioodporności AI koncentruje się właśnie na szybkim reagowaniu przy wybuchach chorób zakaźnych, analizie danych epidemiologicznych w czasie rzeczywistym, wspomaganiu decyzji dla służb sanitarnych. Polskie szpitale, szczególnie te powiatowe i regionalne, rzadko mają zasoby, żeby samodzielnie śledzić te kierunki. A będą musieli je zaadoptować, bo NFZ i MZ pójdą w tę stronę.

Trzecia kwestia to compliance. Jeśli jesteście w trakcie wdrożenia lub planujecie zakup systemu AI, sprawdźcie, czy dostawca ma jakąkolwiek politykę bezpieczeństwa biologicznego lub przynajmniej etycznego użycia danych medycznych. Brak odpowiedzi też jest odpowiedzią. Szczególnie że AI Act już nakłada obowiązki na systemy wysokiego ryzyka, a ochrona zdrowia jest jedną z pierwszych kategorii.

• Przy zakupie AI pytajcie o certyfikaty i politykę etyczną dostawcy, nie tylko o funkcje produktu.
• Sprawdzajcie, gdzie są przetwarzane dane i kto ma do nich dostęp, szczególnie przy systemach chmurowych.
• Planujcie szkolenia dla personelu z zakresu odpowiedzialnego korzystania z narzędzi AI.

Bioodporność AI to temat, który przez rok urósł z inicjatywy kilku laboratoriów do sieci kilkunastu instytucji na całym świecie. Za dwa lata będzie tłem każdego przetargu na systemy IT w ochronie zdrowia. Lepiej rozumieć go już teraz, niż gonić regulacje z opóźnieniem.

Jeśli nie wiecie, od czego zacząć ocenę swojego obecnego lub planowanego systemu AI pod kątem bezpieczeństwa i zgodności, zapraszamy na bezpłatny audyt. Przejrzymy razem, co macie, co planujecie i gdzie są luki.