La EPS acoge una charla sobre inteligencia artificial ética y fiable

En el marco de los seminarios del programa de doctorado en Ingeniería y Tecnologías Industrial, Informática y Civil de la Universidad de Burgos de Burgos, el pasado 22 de mayo, la Escuela Politécnica Superior contó con la visita del Dr. Adrián Arnaiz Rodríguez, alumni del Grado de Ingeniería Informática en la UBU y ahora investigador postdoctoral de la ELLIS Alicante Foundation, centro europeo de referencia en investigación en inteligencia artificial ética, responsable y centrada en las personas. 

Su charla, titulada "IA fiable: decisiones, redes y colaboración en sistemas sociotécnicos" ofreció una visión sociotécnica de la inteligencia artificial fiable, entendida como una propiedad que depende no solo de los modelos, sino también de los datos, las personas, las redes y los contextos de despliegue. Durante la sesión se abordaron distintos enfoques para estudiar y mejorar la justicia algorítmica en decisiones de alto impacto mediante técnicas de valoración de datos y análisis de incertidumbre. También expuso cómo herramientas de teoría de grafos y redes neuronales sobre grafos (GNNs) permiten medir desigualdades estructurales en redes sociales, así como estrategias para diseñar formas más efectivas de colaboración humano-IA mediante multi-armed bandits.

  
La charla concluyó conectando estas ideas con líneas emergentes en IA generativa y sistemas multiagente, incluyendo resultados de aplicaciones de LLMs en salud mental y sociedades de agentes con desafíos relacionados con la coordinación, la orquestación, la competitividad y las dinámicas de opinión.