Mały model, pewna struktura. Co szybkie dostrajanie przez GRPO zmienia w dokumentacji medycznej
Jeden z bardziej irytujących problemów w praktycznych wdrożeniach AI to brak pewności co do formatu wyjścia. Model rozumie pytanie, wyciąga właściwe informacje, ale zwraca je w sposób, który kod musi rozbierać na części z nadzieją, że tym razem JSON jest domknięty. Dostrajanie małych modeli przez GRPO (Group Relative Policy Optimization) atakuje dokładnie ten problem. Nie chodzi o to, żeby model więcej wiedział, ale żeby konsekwentnie zwracał odpowiedź w dokładnie takim formacie, jakiego oczekuje system na drugim końcu.
GRPO pochodzi ze świata uczenia przez wzmocnienie. Zamiast uczyć model przez przykłady, nagradza się go za poprawne wyniki i karze za błędy w strukturze. Sto kroków trenowania brzmi niepozornie. Przy modelu liczącym 350 milionów parametrów to jednak wystarczy, żeby wyraźnie zmienić zachowanie. Taki model mieści się w pamięci taniego serwera, działa szybko i dostroić go można bez drogiej infrastruktury.
Co to oznacza dla polskich placówek medycznych (szpitale, przychodnie, apteki, gabinety)
W dokumentacji medycznej ustrukturyzowane wyjście to nie luksus. Gdy AI ma wyciągnąć z opisu wizyty rozpoznanie ICD-10, zidentyfikować leki z dawkowaniem albo przetłumaczyć opis zabiegu na kod NFZ, wynik musi trafić do konkretnego pola w systemie HIS lub EHR. Nawet jeden błąd w formacie oznacza, że integracja się sypie i ktoś poprawia ręcznie. A ręczne poprawianie w klinice szybko traci sens, jeśli zdarza się za każdym razem.
Dostrajanie przez GRPO otwiera konkretną ścieżkę. Placówka dysponująca kilkuset anonimizowanymi przykładami, czyli notą wejściową i oczekiwanym JSON-em, może nauczyć własny, mały model wyciągać dane w dokładnie takim schemacie, jakiego wymaga jej oprogramowanie. Nie trzeba do tego klastra GPU ani miesięcy pracy. Sto kroków to w praktyce godziny, nie tygodnie.
Skala modelu ma tu znaczenie z innego powodu. 350 milionów parametrów to model, który można uruchomić lokalnie, bez wysyłania danych do zewnętrznych API. W środowisku, gdzie dokumentacja zawiera dane osobowe i medyczne, to argument nie do przecenienia. RODO i przepisy o dokumentacji medycznej przestają być problemem, gdy przetwarzanie odbywa się w sieci placówki.
- Wyciąganie kodów ICD i procedur ze swobodnych opisów klinicznych, zawsze w tym samym schemacie.
- Rozpoznawanie leków i dawkowania z kart zleceń i opisów wypisowych bez ręcznej weryfikacji formatu.
- Strukturyzacja wyników laboratoryjnych z skanów i PDF-ów starszych dokumentów do baz danych.
- Automatyczne uzupełnianie pól w systemach rejestracji i rozliczeń na podstawie dyktatów lekarskich.
Dostrojony model można też aktualizować. Zmieniły się kody NFZ, zmieniła się struktura bazy? Nowe sto kroków na zaktualizowanych przykładach. To inny rytm niż czekanie na aktualizację dużego komercyjnego modelu, nad którym placówka nie ma żadnej kontroli.
Jeśli w Twojej placówce przynajmniej jeden proces polega na ręcznym przepisywaniu danych między systemami, sprawdź z nami, gdzie AI z pewnym wyjściem mogłoby go zastąpić. Zaczynamy od bezpłatnego audytu.
Opracowanie: zespół redAi z wykorzystaniem narzędzi AI.
Więcej aktualności
- Własna pamięć agenta AI. Co to zmienia w placówce medycznej
- Agenci AI działają na miejscu, bez chmury i bez wycieku danych. Co to zmienia w placówce medycznej
- Enkoder wielomodalny z wielojęzycznością wbudowaną od zera. Co to zmienia w polskiej dokumentacji medycznej
- Kiedy narzędzie AI można złożyć z klocków. Co modularne przepływy pracy zmieniają w placówce medycznej