Na jakim sprzęcie działa Twój model AI? To pytanie, które warto zadać przed wdrożeniem

Przez lata pracy z AI wszyscy zakładali, że „chmura to chmura" i szczegóły sprzętowe to sprawa dostawcy. Tymczasem wielcy gracze chmurowi zaczęli masowo zastępować standardowe układy GPU własnymi chipami zaprojektowanymi specjalnie pod trenowanie i uruchamianie modeli. Amazon ma Trainium i Inferentia, Google ma TPU, Microsoft eksperymentuje z Maia. To nie jest ciekawostka techniczna. To zmiana, która przesuwa się w górę łańcucha i zaczyna dotykać każdego, kto korzysta z modeli przez API albo rozważa kontrakt z dostawcą AI.

Problem w tym, że przez długi czas nikt tego wprost nie komunikował. Model miał nazwę, miał kartę parametrów, ale na jakim fizycznym sprzęcie działał i w którym regionie danych centrum - tego trzeba było szukać samemu, często bez powodzenia. Teraz część dostawców zaczyna to ujawniać, przynajmniej dla największych klientów. To dobra zmiana, choć niewystarczająca.

Co to oznacza dla polskich placówek medycznych (szpitale, przychodnie, apteki, gabinety)

Dla placówki medycznej pytanie o sprzęt to w praktyce pytanie o trzy rzeczy naraz. Pierwsza: lokalizacja danych. Autorski chip AWS Trainium siedzi w konkretnym regionie AWS. Jeśli ten region to Irlandia albo Frankfurt - mamy europejskie przetwarzanie danych. Jeśli to Virginia lub Oregon - mamy problem z RODO przy danych osobowych pacjentów. Tego nie sprawdzi się bez wiedzy o infrastrukturze pod modelem.

Druga kwestia to wydajność i dostępność. Autorskie chipy są zoptymalizowane pod konkretne modele danego dostawcy. Czas odpowiedzi, przepustowość przy równoległych zapytaniach, zachowanie pod obciążeniem - to wszystko zależy od tego, co fizycznie napędza model. Placówka wdrażająca AI do obsługi kolejki, transkrypcji wizyt czy analizy wyników laboratoryjnych powinna wiedzieć, czy zakontraktowany model działa na sprzęcie, który dostawca kontroluje w całości, czy na pojemności wynajętej od kogoś trzeciego.

Trzecia sprawa to vendor lock-in. Autorskie chipy działają tylko w ekosystemie danego chmurowego giganta. Model wytrenowany pod Trainium nie przeniesie się łatwo do innego środowiska. Gdy za trzy lata będziecie negocjować przedłużenie kontraktu - wiedza o tym, na czym naprawdę stoi Wasz system AI, ma bezpośrednie przełożenie na siłę przetargową.

Praktycznie: przed każdym kontraktem na usługę AI warto wymagać od dostawcy odpowiedzi na kilka konkretnych pytań. Gdzie fizycznie przetwarza się dane wejściowe? W jakim regionie działa infrastruktura? Czy jest gwarantowana lokalizacja europejska? Czy umowa zawiera klauzulę o zmianie infrastruktury bez powiadomienia? Większość dostawców odpowie - pytanie tylko czy ktoś pyta. Mało który szpital czy przychodnia to robi przy obecnym tempie wdrożeń.

Przejrzystość infrastruktury AI to nie paranoja. To element due diligence, który przy danych medycznych po prostu należy się pacjentom i wymaga go prawo. Im szybciej placówki zaczną tego wymagać standardowo, tym szybciej rynek AI w ochronie zdrowia dojrzeje do odpowiedniej jakości kontraktów.

Jeśli chcesz sprawdzić, czy umowy Waszej placówki z dostawcami AI zawierają właściwe klauzule, zapraszamy na bezpłatny audyt.