Reklamy w ChatGPT nie trafiają w kontekst. Co to mówi o AI w medycynie?

OpenAI wbudowało reklamy w ChatGPT z obietnicą precyzji: asystent wie, o czym rozmawiasz, więc przekaz trafi dokładnie tam, gdzie powinien. Analiza ponad jedenastu tysięcy reklam wyświetlonych w realnych konwersacjach na przestrzeni miesiąca przyniosła jednak wyniki, które dają do myślenia. Co trzecia reklama pojawiała się w rozmowach, z którymi nie miała żadnego związku. Użytkownik prowadzi sesję na jeden temat, a system serwuje mu coś z zupełnie innej półki.

To nie jest tylko problem dla reklamodawców. To objaw głębszego ograniczenia: modele językowe, nawet te najnowsze, nie zawsze poprawnie oceniają kontekst całej sesji. Potrafią świetnie odpowiedzieć na jedno pytanie, a chwilę później zachować się tak, jakby poprzednia wymiana nie istniała. W zastosowaniach komercyjnych to stracona szansa sprzedażowa. W medycynie konsekwencje mogą być poważniejsze.

Co to oznacza dla polskich placówek medycznych (szpitale, przychodnie, apteki, gabinety)

Jedno z najczęstszych pytań, które słyszymy od dyrektorów i ordynatorów, brzmi: czy ten system naprawdę rozumie pacjenta? Opisana sytuacja z reklamami to konkretny dowód, że rozumienie kontekstu przez AI jest wciąż nierówne. I że warto to zweryfikować, zanim powierzymy systemowi coś istotnego klinicznie.

W praktyce interesują nas trzy obszary, gdzie błędy kontekstowe bolą najbardziej:

• Chatboty pacjenckie - bot do rejestracji, który "zapomina" pierwszą wiadomość pacjenta, może zaproponować termin do nieodpowiedniego specjalisty. Drobna pomyłka, duże rozczarowanie i realna strata czasu.
• Wsparcie personelu - asystent pomagający pielęgniarce czy farmaceucie musi trzymać wątek przez całą sesję. Jeśli go zgubi, ryzyko błędu rośnie w sposób trudny do wykrycia.
• Narzędzia wspomagające decyzje - systemy rekomendujące leki albo wspierające diagnostykę muszą interpretować całość dostępnych danych, nie tylko ostatnie zapytanie lekarza.

Dobra wiadomość: te ograniczenia da się ograniczyć przez świadome projektowanie. Odpowiednie okno kontekstowe, architektura z pamięcią sesji, dobrze skonstruowane instrukcje systemowe. To nie magia, to po prostu inżynieria. Ale wymaga wiedzy, że model nie jest domyślnie niezawodny, i że nikt nam tej niezawodności nie da w pudełku.

Na polskim rynku medycznym widzimy regularnie ten sam schemat: placówki sięgają po gotowe narzędzia AI bez testowania ich w warunkach bliskich rzeczywistemu użyciu. Jeden miesiąc pilota na ograniczonej grupie pacjentów lub pracowników zaoszczędzi potem miesiące tłumaczenia się i poprawek. Skala wdrożenia powinna rosnąć wraz z potwierdzoną jakością, nie odwrotnie.

Jeśli chcesz sprawdzić, czy AI w Twojej placówce naprawdę rozumie to, o co go pytasz, i gdzie mogą kryć się luki zanim staną się problemem, zapraszamy na bezpłatny audyt.