Título – Inteligencia artificial explicable: Métodos para generación, evaluación y corrección de explicaciones
Autor – D. Iván Sevillano García
Directores/as – Dr. D. Herrera Triguero, Francisco, Dr. D. Julián Luengo Martín
Fecha defensa – 2025-11-13
Resumen -El avance del aprendizaje automático y la Inteligencia Artificial (Artificial Intelligence, IA) ha transformado numerosos sectores, desde la medicina hasta la seguridad pública, gracias a su capacidad para resolver problemas complejos y optimizar tareas críticas. Sin embargo, a medida que los modelos de IA se vuelven más sofisticados, también aumentan los desafíos relacionados con su transparencia, confianza y seguridad. Estos desafíos son especialmente relevantes en entornos donde una decisión incorrecta puede tener consecuencias graves para la vida de las personas. En este contexto, aparecen la XAI y la detección de ejemplos OoD como áreas clave para garantizar que los sistemas de IA sean confiables, seguros y éticamente responsables.
A pesar de los avances en XAI, todavía existen importantes limitaciones en la evaluación de explicaciones, la generación de conocimiento explicable y la detección de ejemplos OoD. Por un lado, la falta de un marco teórico sólido dificulta la comparación y certificación de la calidad de las explicaciones generadas por los modelos. Por otro lado, los métodos actuales para introducir conocimiento explicable en los modelos suelen depender de etiquetados
humanos costosos y poco escalables. Finalmente, los algoritmos de detección de ejemplos OoD carecen de puntuaciones rigurosas de confianza y explicabilidad, lo que limita su utilidad en entornos críticos.
En esta tesis, se abordan estos desafíos mediante tres propuestas principales:
Evaluación robusta y vectorizada de Explicaciones Locales Lineales (REVEL):
Se propone un marco teórico para evaluar la calidad de las explicaciones generadas por los modelos de IA. Este marco incluye medidas matemáticamente robustas que permiten analizar aspectos cualitativos clave de las
explicaciones, como su robustez, su concisión y su capacidad prescriptiva. Además, REVEL proporciona herramientas analíticas que facilitan la comparación entre diferentes estrategias de generación de explicaciones,
contribuyendo a la estandarización en el campo de XAI.
Transformación XAI selectiva para ocultar dinámicamente parte de la entrada para mejorar el entrenamiento (XSHIELD): Se desarrolla una familia de regularizaciones que introducen conocimiento explicable en los modelos de IA sin necesidad de etiquetado humano. Estas regularizaciones permiten mejorar la calidad del modelo a la par que la de sus explicaciones, reduciendo la dependencia de explicaciones etiquetadas. X-SHIELD también fomenta la generación de explicaciones de mayor calidad, lo que facilita su adopción en entornos críticos.
Test estadístico para la detección de ejemplos OoD mejorado con eXplicabilidad (STOOD-X):
Se diseña una metodología en dos pasos que combina la detección de ejemplos OoD con explicabilidad específica para estos algoritmos. STOOD-X utiliza puntuaciones rigurosas de confianza para identificar ejemplos OoD y
proporciona explicaciones detalladas que ayudan a los usuarios a comprender las decisiones del algoritmo. Esto no solo mejora la seguridad de los sistemas de IA, sino que también aumenta la confianza de los usuarios en su funcionamiento.
Los resultados obtenidos en esta tesis evidencian la efectividad de las propuestas. Por un lado, REVEL ha permitido evaluar explicaciones de manera robusta, detectando aspectos cualitativos clave no capturados por otras medidas existentes. Por otro lado, X-SHIELD mejora tanto la calidad del modelo donde se ha aplicado como la de las explicaciones generadas, reduciendo la necesidad de etiquetado humano y aumentando la calidad de las explicaciones ofrecidas por el modelo. Finalmente, STOOD-X logra una detección más precisa de ejemplos OoD y proporciona explicaciones útiles que facilitan la toma de decisiones en entornos críticos.
En conjunto, y más allá de los resultados de las propuestas técnicas, esta tesis contribuye al desarrollo de sistemas de IA más confiables y seguros, proporcionando herramientas teóricas y prácticas que abordan los principales desafíos en XAI y detección de ejemplos OoD. Estas propuestas no solo mejoran la calidad y seguridad de los sistemas de IA, sino que también facilitan su integración en entornos críticos, promoviendo su adopción
responsable y ética en la sociedad.
Enlace –