La importancia de la ética en IA al identificar personas y categorizar imágenes

Desde el punto de vista de la Inteligencia Artificial, las APIs de visión o de reconocimiento de imágenes están ya lo bastante maduras para migrarlas hacia procesos de fabricación avanzada y visión artificial. Podemos hablar de detección de defectos complejos, clasificación de texturas y materiales, lectura de caracteres, verificación de montajes, localización de piezas deformadas, etc. Lo cierto es que disponer de un software de análisis de imagen nos ofrece soluciones en tiempo real a retos de visión complejos. El reconocimiento de imágenes nos da esa capacidad de interpretar lo que la visión del sistema registra pudiendo clasificarlo y utilizarlo para optimizar nuestra cadena de producción industrial, u otras necesidades en cualquier otro sector de actividad que anteriormente no podía realizarse con visión tradicional.

La forma en que funciona el reconocimiento de imágenes implica la creación de una red neuronal que procesa todos los píxeles individualmente de una imagen para posteriormente procesarlos. Esta tecnología, como toda Inteligencia Artificial, necesita una capacitación o entrenamiento para mejorar las funcionalidades ofrecidas y la precisión de los modelos, y para ello normalmente se alimentan estas redes con tantas imágenes como sea posible.

La división de Inteligencia Artificial y Big Data de Secure e-Solutions de GMV ha desarrollado una demo para mostrar a los asistentes de OpenExpo Europe, el mayor congreso sobre innovación tecnológica empresarial en Europa, de lo que es capaz la Inteligencia Artificial a través del procesamiento de imágenes. La demo consistía en la creación de una base de datos a partir de imágenes que los asistentes subían a Twitter (con un hashtag concreto) y una vez pasaban por la cámara del stand de GMV el sistema les reconocía mostrando su tweet y relacionando al visitante con el personaje de una famosa serie de televisión de drama y fantasía medieval que más se le parecía.

La Inteligencia Artificial está dando lugar a nuevas herramientas y aplicaciones espectaculares, poniendo al alcance de nuestra mano sistemas más precisos que los propios humanos en tareas de clasificación y detección de imágenes. No obstante, es importante tener en cuenta el sesgo algorítmico, ya que los algoritmos que emplean pueden tomar decisiones que perpetúan o generan discriminación en la sociedad. Este tema fue precisamente el que José Carlos Baquero, Director de Inteligencia Artificial y Big Data de Secure e-Solutions de GMV debatió en su ponencia del congreso.

Durante su intervención, Baquero reivindicó la transparencia y explicación de los modelos de entrenamiento con el objetivo de buscar algoritmos equitativos y un uso responsable de la Inteligencia Artificial. Para ello se requieren técnicas ingeniosas para corregir el profundo sesgo de los datos y forzar a los modelos a realizar predicciones más imparciales. La preocupación sobre la transparencia y equidad del Machine Learning está en aumento y es un problema que debemos de analizar para asegurar un futuro más justo y prometedor.