Otwarty model najwyższej klasy, który widzi obrazy. Co multimodalny MoE od Meta zmienia w placówce medycznej
Przez lata modele AI na poziomie frontierowym były dostępne wyłącznie przez płatne API dużych firm. Własna instalacja oznaczała kompromis: albo słabszy model, albo zamknięty system, nad którym placówka nie ma kontroli. Ten układ właśnie się zmienił. Meta opublikowała model, który jest jednocześnie otwarty (można go pobrać i uruchomić na własnym sprzęcie), multimodalny (rozumie zarówno tekst, jak i obrazy) i zbudowany w architekturze mieszaniny ekspertów, która sprawia, że przy tej samej jakości potrzebuje mniej zasobów obliczeniowych niż model monolityczny tej samej wielkości. Trzy cechy naraz, w jednym ogólnodostępnym pakiecie.
Architektura mieszaniny ekspertów polega na tym, że model nie uruchamia wszystkich swoich parametrów przy każdym zapytaniu. Aktywuje tylko tę część, która jest potrzebna do konkretnego zadania. W praktyce: model o bardzo dużej łącznej liczbie parametrów może działać na sprzęcie, który byłby za słaby, gdyby te parametry były aktywne jednocześnie. Samo to nie jest nowe. Ale połączenie tego mechanizmu z multimodalnością i jakością na poziomie frontierowym, w otwartym dostępie, wcześniej po prostu nie istniało.
Co to oznacza dla polskich placówek medycznych (szpitale, przychodnie, apteki, gabinety)
Dla szpitala czy przychodni kluczowy praktyczny skutek jest jeden: taki model może pracować na serwerze placówki, bez wysyłania danych do zewnętrznych chmur. Dane pacjentów nie opuszczają infrastruktury. To nie wygoda, to warunek konieczny dla wielu zastosowań medycznych w świetle RODO i wewnętrznych polityk bezpieczeństwa. Dotąd modele na tym poziomie jakości były dostępne wyłącznie przez zewnętrzne API, co dla sporej części polskich szpitali stawiało pod znakiem zapytania samą możliwość wdrożenia.
Multimodalność otwiera konkretne zastosowania. Model, który jednocześnie czyta tekst i analizuje obraz, może:
- zestawić zdjęcie rany lub zmiany skórnej z opisem z historii choroby i zaproponować szkic dokumentacji,
- wspierać opis zdjęć RTG lub USG, nie jako automatyczną diagnozę, ale jako pierwszy szkic do weryfikacji przez specjalistę,
- analizować skany dokumentów medycznych i wyciągać z nich dane do systemów placówki,
- obsługiwać zapytania personelu, w których pytanie i ilustracja są razem, bez konieczności osobnych kroków.
Architektura MoE ma tu wymiar czysto budżetowy. Placówki rzadko dysponują klastrami GPU. Realny sprzęt to najczęściej jeden lub dwa mocniejsze serwery. Model zbudowany na MoE może na takim sprzęcie dać wynik, który rok temu był dostępny tylko z chmury. Wymagania sprzętowe wciąż są poważne i każde wdrożenie wymaga indywidualnej oceny, ale poprzeczka wyraźnie się obniżyła.
Jest jeszcze jeden efekt, który nie jest od razu widoczny. Otwarty dostęp do modelu na tym poziomie przyspiesza powstawanie jego wyspecjalizowanych wersji: dotrenowanych na danych medycznych, dostosowanych do konkretnej specjalizacji, przetestowanych przez społeczność badaczy. Placówki nie muszą czekać, aż jeden dostawca zdecyduje się zbudować edycję medyczną. Mogą korzystać z tego, co zrobi całe środowisko.
Jeśli zastanawiacie się, jak taki model mógłby pracować w Waszej placówce i jaki sprzęt byłby do tego potrzebny, zapraszamy na bezpłatny audyt. Sprawdzimy, co jest realnie możliwe przy obecnej infrastrukturze i co faktycznie ma sens w Waszych procesach.
Opracowanie: zespół redAi z wykorzystaniem narzędzi AI.
Więcej aktualności
- Numer wersji jako sygnał gotowości. Co kolejne wydanie narzędzia AI mówi o ryzyku wdrożenia w placówce medycznej
- Akceleracja GPU na Macu dla modeli PyTorch. Co to zmienia dla polskich placówek medycznych
- Lokalne modele językowe na sprzęcie Apple dojrzały. Co to zmienia w polskiej placówce medycznej
- Rozpoznawanie mowy i wspomaganie decyzji bezpośrednio na urządzeniu Apple. Co to zmienia w polskiej placówce medycznej