Firma GMV zajmuje się tematem nadzoru algorytmicznego i wygrywa konkurs na prompty w ramach JISA 2026

Firma GMV wzięła udział w XXXIII Hiszpańskich Krajowych Dniach Innowacji i Zdrowia w Andaluzji, prowadząc sesję poświęconą sposobom zapobiegania szkodom związanym ze sztuczną inteligencją w sektorze opieki zdrowotnej. Ponadto propozycja Miguela Ferreiro, specjalisty ds. AI Governance w sektorze opieki zdrowotnej, zwyciężyła w konkursie na podpowiedzi zorganizowanym w ramach konferencji.

Odbywające się w dniach 21–23 października w Torremolinos pod hasłem „znaczące relacje” targi JISA 2026 zgromadziły specjalistów z branży, którzy dyskutowali na temat innowacji i transformacji cyfrowej w Krajowym Systemie Opieki Zdrowotnej.

Dnia 21 października Juan Carlos Sánchez Rosado, dyrektor ds. biznesu medycznego w GMV, oraz Pol Pérez i Sust, dyrektor działu systemów informatycznych w Servei Català de la Salut (CatSalut), przedstawili przypadek nr 1 w ramach sesji plenarnej nr 1: Nadzór algorytmiczny w obliczu jatrogenii związanej ze sztuczną inteligencją.. Podczas sesji przeanalizowano potencjalne szkody wynikające z błędów, stronniczości lub nieprzewidzianych zachowań algorytmów sztucznej inteligencji w praktyce opieki zdrowotnej.

Wśród omówionych zagrożeń znalazły się błędy prognostyczne, nadmierne zaufanie do automatycznych zaleceń, utrata kryterium klinicznego, problemy związane z prywatnością oraz nierówności między grupami pacjentów. Aby opisać te potencjalne szkody, wprowadzono pojęcie „Ia-trogenii” (jatrogenii wynikającej z działania AI) i wskazano konieczność ustanowienia ciągłego nadzoru nad algorytmami, porównywalnego pod względem celu z nadzorem nad bezpieczeństwem leków.

W prezentacji przedstawiono praktyczny przykład wsparcia w procesie skierowania pacjenta z opieki podstawowej do reumatologii. Nieoczekiwany wzrost liczby młodych pacjentów — w wieku od 18 do 35 lat —, którzy nie byli w sposób dostateczny uwzględnieni w danych szkoleniowych, spowodował podjęcie błędnych decyzji o nieskierowaniu ich do specjalisty. Monitorowanie pozwoliło wykryć odchylenia, wyniki fałszywie ujemne oraz potencjalne problemy związane z równością dostępu do opieki, a także przeanalizować przyczyny dzięki współpracy zespołów klinicznych i technicznych.

Podczas sesji podkreślono, że kwestia bezpieczeństwa sztucznej inteligencji nie kończy się wraz z jej wstępną weryfikacją. Konieczne jest weryfikowanie modeli na reprezentatywnych populacjach, monitorowanie ich podczas rzeczywistego użytkowania, ponowna kalibracja w razie potrzeby oraz zapewnienie procesów zarządzania, identyfikowalności i kontroli. Podkreślono również znaczenie norm, takich jak ISO 42001, dla włączenia zarządzania sztuczną inteligencją do procesów organizacyjnych.

Udział firmy GMV w konferencji JISA 2026 został również doceniony w konkursie na propozycje rozwiązań, którego celem było znalezienie rozwiązania dla problemu hiszpańskiego Krajowego Systemu Opieki Zdrowotnej (SNS). Zwycięską propozycją okazała się ta autorstwa Miguela Ferreiro, specjalisty ds. zarządzania sztuczną inteligencją w sektorze opieki zdrowotnej.

Poprzez uczestnictwo w sesji oraz wyróżnienie w konkursie firma GMV wzięła udział w kluczowej debacie dotyczącej przyszłości cyfrowego zdrowia: jak odpowiedzialnie wdrażać sztuczną inteligencję oraz zapewnić jej bezpieczeństwo, sprawiedliwość i skuteczność.