GMV aborda l’algoritmovigilància i guanya el concurs de prompts de JISA 2026

GMV va participar en les XXXIII Jornades Nacionals d’Innovació i Salut a Andalusia amb una sessió sobre com prevenir danys associats a la intel·ligència artificial sanitària. A més, la proposta de Miguel Ferreiro, AI Governance Specialist - Healthcare, va guanyar el concurs de prompts de les jornades.

Les jornades JISA 2026, celebrades del 21 al 23 d’octubre a Torremolinos amb el lema «Relaciones significativas», van reunir professionals del sector per debatre sobre innovació i transformació digital en el Sistema Nacional de Salut.

El 21 d’octubre, Juan Carlos Sánchez Rosado, Health Business Executive de GMV, i Pol Pérez i Sust, director de l’Àrea de Sistemes d’Informació del Servei Català de la Salut (CatSalut), van presentar el Cas 1 del Plenari 1: La algoritmovigilancia frente a la IA-trogenia. A la sessió es van analitzar els possibles danys derivats d’errors, biaixos o comportaments no previstos dels algoritmes d’intel·ligència artificial en la pràctica assistencial.

Entre els riscos abordats figuren els errors de predicció, l’excés de confiança en les recomanacions automatitzades, la pèrdua de criteri clínic, els problemes de privacitat i les desigualtats entre grups de pacients. Per descriure aquests possibles danys, es va introduir el concepte d’«IA-trogènia» i es va plantejar la necessitat d’establir una vigilància contínua dels algoritmes, comparable en el seu propòsit a la farmacovigilància.

A la presentació es va exposar un cas pràctic de suport a la derivació des d’Atenció Primària a Reumatologia. Un augment inesperat de pacients joves —de 18 a 35 anys—, insuficientment representats en les dades d’entrenament, va provocar decisions incorrectes de manca de derivació. El monitoratge va permetre detectar desviacions, falsos negatius i possibles problemes d’equitat, i analitzar-ne les causes mitjançant la col·laboració dels equips clínics i tècnics.

A la sessió es va destacar que la seguretat de la IA no acaba amb la validació inicial. Cal validar els models amb poblacions representatives, supervisar-los durant el seu ús real, recalibrar-los quan sigui necessari i disposar de processos de governança, traçabilitat i control. També s’hi va posar en valor el paper d’estàndards com ara la norma ISO 42001 per integrar la governança de la IA en els processos de les organitzacions.

La participació de GMV en JISA 2026 va tenir també un reconeixement en el concurs de prompts, plantejat per resoldre un problema del Sistema Nacional de Salut (SNS). La proposta de Miguel Ferreiro, AI Governance Specialist - Healthcare, en va resultar guanyadora.

Amb la seva participació en la sessió i el reconeixement al concurs, GMV va contribuir a un debat clau per al futur de la salut digital: com aplicar la intel·ligència artificial amb responsabilitat i mantenir-la segura, equitativa i eficaç.