A GMV aborda vigilância algorítmica e vence concurso de prompts da JISA 2026

A GMV participou nas XXXIII Jornadas Nacionais de Inovação e Saúde na Andaluzia, com uma sessão dedicada à prevenção dos riscos associados à utilização da inteligência artificial na área da saúde. A participação ficou também marcada pela vitória de Miguel Ferreiro, especialista em governança de IA na área da saúde, no concurso de prompts do evento.

Realizadas de 21 a 23 de outubro, em Torremolinos, sob o lema «Relações significativas», as JISA 2026 reuniram profissionais do setor para debater a inovação e a transformação digital no sistema de saúde.

No dia 21 de outubro, Juan Carlos Sánchez Rosado, diretor executivo da Área de Negócio de Saúde da GMV, e Pol Pérez i Sust, diretor da Área de Sistemas de Informação do Servei Català de la Salut (CatSalut), apresentaram o Caso 1 da Sessão Plenária 1, intitulado «A vigilância algorítmica face à IA-trogenia». A apresentação centrou-se nos possíveis danos resultantes de erros, enviesamentos ou comportamentos imprevistos dos algoritmos de inteligência artificial na prática clínica.

Entre os riscos identificados destacaram-se os erros de previsão, a confiança excessiva nas recomendações automatizadas, a perda de autonomia do julgamento clínico, os problemas de privacidade e as desigualdades entre diferentes grupos de doentes. Para descrever estes potenciais danos, foi introduzido o conceito de «IA-trogenia», salientando-se a necessidade de implementar mecanismos de vigilância contínua dos algoritmos, com objetivos semelhantes aos da farmacovigilância.

A sessão incluiu a apresentação de um caso prático de apoio ao encaminhamento de doentes dos cuidados de saúde primários para a especialidade de Reumatologia. Um aumento inesperado do número de pacientes jovens, entre os 18 e os 35 anos, insuficientemente representados nos dados de treino do modelo, levou a decisões incorretas de não encaminhamento. A monitorização permitiu identificar desvios, falsos negativos e potenciais problemas de equidade, bem como analisar as respetivas causas através da colaboração entre as equipas clínicas e técnicas.

Foi igualmente salientado que a segurança dos sistemas de IA não se limita à sua validação inicial. É fundamental validar os modelos com populações representativas, assegurar a sua monitorização contínua durante a utilização em contexto clínico, proceder à recalibração sempre que necessário e implementar mecanismos de governação, rastreabilidade e controlo. Neste contexto, foi também destacado o papel de normas como a ISO/IEC 42001, que estabelece requisitos para sistemas de gestão da inteligência artificial nas organizações.

A participação da GMV nas JISA 2026 foi ainda distinguida no concurso de prompts, promovido com o objetivo de encontrar soluções para desafios do sistema de saúde. A proposta vencedora foi apresentada por Miguel Ferreiro, especialista em governação de IA na área da saúde.

Com esta participação e o reconhecimento alcançado no concurso, a GMV contribuiu para um debate essencial para o futuro da saúde digital: como tirar partido das potencialidades da inteligência artificial, garantindo uma utilização responsável, segura, equitativa e eficaz na prática clínica.