GMV aborda en Ennova Health Day 2026 la algoritmovigilancia como elemento clave para una IA segura en salud

GMV ha participado en la cuarta edición de Ennova Health Day, el encuentro organizado por Diario Médico y Correo Farmacéutico que reúne a profesionales sanitarios, responsables públicos, empresas tecnológicas y expertos en innovación para analizar los principales retos de transformación del sistema sanitario.

Bajo el lema “La realidad del uso de la IA en la Sanidad española”, la edición de 2026 ha puesto el foco en la aplicación efectiva de la inteligencia artificial y en los desafíos que plantea su incorporación a la práctica clínica y a la gestión sanitaria.

En este contexto, Juan Carlos Sánchez Rosado, Health Business Executive de GMV, participó en el bloque “Innovación Tangible: Casos de éxito transformando el Sistema de Salud”, donde presentó la visión de GMV sobre la algoritmovigilancia y la necesidad de supervisar de forma continua los modelos de inteligencia artificial una vez desplegados en entornos sanitarios.

De la IA a la “IA-trogenia”

Bajo el título “La algoritmovigilancia frente a la IA-trogenia”, la intervención planteó una cuestión esencial: ¿cómo podemos saber si un modelo que funcionaba correctamente cuando fue validado continúa siendo fiable cuando cambian los pacientes, los datos o el contexto asistencial?

Para explicar este reto, GMV introdujo durante la sesión el concepto narrativo de “IA-trogenia”, utilizado para referirse al daño clínico causado o amplificado por un sistema de inteligencia artificial, especialmente cuando no resulta visible al analizar pacientes de forma individual y solo emerge mediante el análisis longitudinal o de determinados subgrupos de población.

A diferencia de otras incidencias clínicas que pueden identificarse en un caso concreto, determinadas desviaciones o sesgos de un algoritmo pueden permanecer ocultos hasta que se observa su comportamiento de forma agregada. De ahí la importancia de contar con mecanismos que permitan vigilar la evolución de los modelos una vez que operan en condiciones reales.

Monitorizar para detectar y actuar

Frente a este escenario, la algoritmovigilancia permite establecer un proceso continuo de monitorización, detección de señales, análisis y actuación.

Entre las dimensiones fundamentales que deben supervisarse se encuentran la equidad, para identificar diferencias en el comportamiento del modelo entre distintos subgrupos; la deriva, que permite detectar cambios entre la realidad actual y las condiciones con las que fue entrenado; la calidad y el rendimiento; y la explicabilidad, que facilita comprender qué variables están influyendo en las predicciones.

GMV ilustró este enfoque mediante un caso práctico de un sistema de apoyo a la decisión clínica en Atención Primaria. El ejemplo mostró cómo un cambio en el perfil de los pacientes podía provocar un posible subrendimiento del modelo en un determinado grupo de edad, una situación que podría pasar inadvertida al analizar cada caso de manera aislada.

La monitorización agregada permite detectar la señal y poner en marcha una investigación conjunta entre los equipos técnicos y clínicos para determinar qué está ocurriendo y por qué. A partir de ese diagnóstico pueden adoptarse medidas correctivas y preventivas, como revisar retrospectivamente los casos potencialmente afectados, informar a los profesionales sanitarios, adaptar o reentrenar el modelo y reforzar la vigilancia de determinados grupos.

La gobernanza no termina con el despliegue

La participación de GMV en Ennova Health Day pone así sobre la mesa uno de los retos que cobrarán mayor importancia a medida que aumente la utilización de inteligencia artificial en salud: la gobernanza de la IA no termina con la validación y el despliegue de un modelo.

Garantizar su seguridad y fiabilidad requiere observar continuamente cómo se comporta en el mundo real, detectar posibles cambios y disponer de los procesos, métricas y equipos necesarios para intervenir cuando sea necesario.

Porque los modelos pueden desviarse de su comportamiento esperado a medida que cambia la realidad sobre la que operan. La diferencia está en disponer de las herramientas y mecanismos adecuados para detectarlo a tiempo y convertir cada señal en una oportunidad de aprendizaje y mejora.