GMV aborda al Ennova Health Day 2026 l’algoritmovigilància com a element clau per a una IA segura en salut

GMV ha participat en la quarta edició de l’Ennova Health Day, la trobada organitzada per Diario Médico i Correo Farmacéutico que reuneix professionals sanitaris, responsables públics, empreses tecnològiques i experts en innovació per analitzar els principals reptes de transformació del sistema sanitari.

Amb el lema «La realitat de l’ús de la IA en la sanitat espanyola», l’edició del 2026 s’ha centrat en l’aplicació efectiva de la intel·ligència artificial i en els desafiaments que planteja la seva incorporació a la pràctica clínica i a la gestió sanitària.

En aquest context, Juan Carlos Sánchez Rosado, Health Business Executive de GMV, va participar en el bloc «Innovació tangible: Casos d’èxit que transformen el sistema de salut», on va presentar la visió de GMV sobre l’algoritmovigilància i la necessitat de supervisar de manera contínua els models d’intel·ligència artificial un cop desplegats en entorns sanitaris.

De la IA a la «IA-trogènia»

Amb el títol «L’algoritmovigilància davant la IA-trogènia», la intervenció va plantejar una qüestió essencial: Com podem saber si un model que funcionava correctament quan va ser validat continua sent fiable quan canvien els pacients, les dades o el context assistencial?

Per explicar aquest repte, GMV va introduir durant la sessió el concepte narratiu d’«IA-trogènia», utilitzat per referir-se al dany clínic causat o amplificat per un sistema d’intel·ligència artificial, especialment quan no és visible en analitzar pacients de manera individual i només emergeix mitjançant l’anàlisi longitudinal o de determinats subgrups de població.

A diferència d’altres incidències clíniques que es poden identificar en un cas concret, determinades desviacions o biaixos d’un algorisme poden romandre amagats fins que s’observa el seu comportament de manera agregada. D’aquí la importància de disposar de mecanismes que permetin vigilar l’evolució dels models una vegada operen en condicions reals.

Monitorar per detectar i actuar

Davant d’aquest escenari, l’algoritmovigilància permet establir un procés continu de monitoratge, detecció de senyals, anàlisi i actuació.

Entre les dimensions fonamentals que s’han de supervisar hi ha l’equitat, per identificar diferències en el comportament del model entre diferents subgrups; la deriva, que permet detectar canvis entre la realitat actual i les condicions amb què va ser entrenat; la qualitat i el rendiment, i l’explicabilitat, que facilita comprendre quines variables influeixen en les prediccions.

GMV va il·lustrar aquest enfocament mitjançant un cas pràctic d’un sistema de suport a la decisió clínica en atenció primària. L’exemple va mostrar com un canvi en el perfil dels pacients podia provocar un possible subrendiment del model en un determinat grup d’edat, una situació que podria passar inadvertida en analitzar cada cas de manera aïllada.

El monitoratge agregat permet detectar el senyal i posar en marxa una recerca conjunta entre els equips tècnics i clínics per determinar què està passant i per què. A partir d’aquest diagnòstic es poden adoptar mesures correctives i preventives, com revisar retrospectivament els casos potencialment afectats, informar els professionals sanitaris, adaptar o reentrenar el model i reforçar la vigilància de determinats grups.

La governança no acaba amb el desplegament

La participació de GMV en l’Ennova Health Day posa sobre la taula un dels reptes que cobraran més importància a mesura que augmenti la utilització d’intel·ligència artificial en salut: la governança de la IA no acaba amb la validació i el desplegament d’un model.

Garantir-ne la seguretat i fiabilitat requereix observar contínuament com es comporta en el món real, detectar possibles canvis i disposar dels processos, mètriques i equips necessaris per intervenir quan calgui.

Perquè els models poden desviar-se del seu comportament esperat a mesura que canvia la realitat sobre la qual operen. La diferència es troba a disposar de les eines i els mecanismes adequats per detectar-ho a temps i convertir cada senyal en una oportunitat d’aprenentatge i millora.