GMV aborda la algoritmovigilancia y gana el concurso de prompts de JISA 2026

GMV participó en las XXXIII Jornadas Nacionales de Innovación y Salud en Andalucía con una sesión sobre cómo prevenir daños asociados a la inteligencia artificial sanitaria. Además, la propuesta de Miguel Ferreiro, AI Governance Specialist - Healthcare, ganó el concurso de prompts de las jornadas.

Celebradas del 21 al 23 de octubre en Torremolinos bajo el lema «relaciones significativas», las JISA 2026 reunieron a profesionales del sector para debatir sobre innovación y transformación digital en el Sistema Nacional de Salud.

El 21 de octubre, Juan Carlos Sánchez Rosado, Health Business Executive de GMV, y Pol Pérez i Sust, director del Área de Sistemas de Información del Servei Català de la Salut (CatSalut), presentaron el Caso 1 del Plenario 1: La algoritmovigilancia frente a la IA-trogenia. La sesión analizó los posibles daños derivados de errores, sesgos o comportamientos no previstos de los algoritmos de inteligencia artificial en la práctica asistencial.

Entre los riesgos abordados figuran los errores de predicción, el exceso de confianza en las recomendaciones automatizadas, la pérdida de criterio clínico, los problemas de privacidad y las desigualdades entre grupos de pacientes. Para describir estos posibles daños se introdujo el concepto de «IA-trogenia» y se planteó la necesidad de establecer una vigilancia continua de los algoritmos, comparable en su propósito a la farmacovigilancia.

La presentación expuso un caso práctico de apoyo a la derivación desde Atención Primaria a Reumatología. Un aumento inesperado de pacientes jóvenes —de 18 a 35 años—, insuficientemente representados en los datos de entrenamiento, provocó decisiones incorrectas de no derivación. La monitorización permitió detectar desviaciones, falsos negativos y posibles problemas de equidad, y analizar sus causas mediante la colaboración de los equipos clínicos y técnicos.

La sesión destacó que la seguridad de la IA no termina con su validación inicial. Requiere validar los modelos con poblaciones representativas, supervisarlos durante su uso real, recalibrarlos cuando sea necesario y contar con procesos de gobernanza, trazabilidad y control. También se puso en valor el papel de estándares como ISO 42001 para integrar la gobernanza de la IA en los procesos de las organizaciones.

La participación de GMV en JISA 2026 tuvo también un reconocimiento en el concurso de prompts, planteado para resolver un problema del Sistema Nacional de Salud (SNS). La propuesta de Miguel Ferreiro, AI Governance Specialist - Healthcare, resultó ganadora.

Con su participación en la sesión y el reconocimiento en el concurso, GMV contribuyó a un debate clave para el futuro de la salud digital: cómo aplicar la inteligencia artificial con responsabilidad y mantenerla segura, equitativa y eficaz.