{"id":107,"date":"2025-01-14T10:24:08","date_gmt":"2025-01-14T09:24:08","guid":{"rendered":"http:\/\/si2dev2"},"modified":"2026-03-03T13:03:12","modified_gmt":"2026-03-03T12:03:12","slug":"tesis","status":"publish","type":"page","link":"https:\/\/incibe.dasci.es\/en\/areas\/investigacion-en-ia-aplicada-a-ciberseguridad\/tesis\/","title":{"rendered":"Thesis"},"content":{"rendered":"<div class=\"wp-block-media-text is-stacked-on-mobile\"><figure class=\"wp-block-media-text__media\"><img fetchpriority=\"high\" decoding=\"async\" width=\"656\" height=\"674\" src=\"https:\/\/incibe.dasci.es\/wp-content\/uploads\/2026\/02\/Captura-de-pantalla-2026-02-20-110141.png\" alt=\"\" class=\"wp-image-9761 size-full\" srcset=\"https:\/\/incibe.dasci.es\/wp-content\/uploads\/2026\/02\/Captura-de-pantalla-2026-02-20-110141.png 656w, https:\/\/incibe.dasci.es\/wp-content\/uploads\/2026\/02\/Captura-de-pantalla-2026-02-20-110141-292x300.png 292w, https:\/\/incibe.dasci.es\/wp-content\/uploads\/2026\/02\/Captura-de-pantalla-2026-02-20-110141-12x12.png 12w\" sizes=\"(max-width: 656px) 100vw, 656px\" \/><\/figure><div class=\"wp-block-media-text__content\">\n<p class=\"wp-block-paragraph\"><strong>T\u00edtulo &#8211; Desarrollo de modelos de Inteligencia Artificial Interpretables en Aprendizaje Federado: Fusi\u00f3n de \u00e1rboles de decisi\u00f3n<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Autor<\/strong> &#8211; D. Argente del Castillo Garrido, Alberto<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Directores\/as<\/strong> &#8211; Dra. D\u00f1a. Luz\u00f3n Garc\u00eda, Mar\u00eda Victoria, Dr. D. Herrera Triguero, Francisco<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Fecha defensa <\/strong>&#8211; 2024-06-07<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Resumen <\/strong>&#8211; Los sistemas de Inteligencia Artificial est\u00e1n presentes en el d\u00eda a d\u00eda de las personas, ofreciendo m\u00faltiples avances a los usuarios de estos. El aumento de estos sistemas crece en paralelo con la preocupaci\u00f3n por la privacidad de los datos que se usan para crear estos sistemas por parte de los usuarios, y de diversas instituciones oficiales. Algunos de estos sistemas de Inteligencia Artificial pueden tener un impacto muy alto en las personas, como por ejemplo un sistema de diagn\u00f3stico de c\u00e1ncer, y es inaceptable correr el riesgo de usar estos sistemas en benepl\u00e1cito de sus caracter\u00edsticas. Es necesaria la creaci\u00f3n de sistemas de Inteligencia Artificial fiables para garantizar que estos sean robustos, transparentes, no discriminatorios, accesibles y respetuosos con la privacidad de los datos de los usuarios. El Aprendizaje Federado es un paradigma de Aprendizaje Autom\u00e1tico distribuido y colaborativo que surge como una soluci\u00f3n para asegurar la privacidad y gobernanza de los datos de los usuarios, dado que no es necesario el intercambio de datos privados entre los nodos que entrenan el modelo de Inteligencia Artificial. Adem\u00e1s de que un sistema de Inteligencia Artificial mantenga la privacidad y la seguridad de los datos de los usuarios, es necesario que \u00b4este sea interpretable, sobre todo en campos donde manejan datos sensibles. De esta forma se podr\u00edan utilizar estos sistemas, que ayudar\u00edan a los expertos en la toma de decisiones final, no s\u00f3lo por ofrecer la predicci\u00f3n del sistema, sino porque tambi\u00e9n proporcionan los motivos por los que se ha tomado esta decisi\u00f3n. La hip\u00f3tesis central de esta tesis es que los modelos interpretables tradicionales del Aprendizaje Autom\u00e1tico centralizado pueden mantener su interpretabilidad en un entorno federado. La creaci\u00f3n de estos modelos permitir\u00e1 crear sistemas de Inteligencia Artificial fiables que puedan llegar a ser utilizados en \u00e1mbitos donde la privacidad de los datos sea imperativa. Para corroborar la hip\u00f3tesis de partida, se han marcado los siguientes objetivos: 1. Desarrollo de una metodolog\u00eda que permita unificar el proceso de entrenamiento de nuevos modelos en entornos de Aprendizaje Federado. 2. Dise\u00f1o, implementaci\u00f3n y evaluaci\u00f3n de un agregador de Aprendizaje Federado para \u00b4Arboles de Decisi\u00f3n basados en reglas. Como resultado se ha desarrollado la propuesta de agregaci\u00f3n de \u00b4arboles de decisi\u00f3n ICDTA4FL. 3. Desarrollar un software de Aprendizaje Federado que permita la implementaci\u00f3n de agregadores para los diferentes modelos de Aprendizaje Federado interpretables y explicables. Este software permitir\u00e1 a\u02dcnadir agregadores para modelos de Aprendizaje Autom\u00e1tico interpretables, y que permita realizar la experimentaci\u00f3n en diferentes entornos federados. Como resultado se ha desarrollado el software FLEX-Trees. Esta tesis logra aunar la privacidad de los datos junto a la interpretabilidad de sistemas de Inteligencia Artificial en entornos de Aprendizaje Federado, con la creaci\u00f3n de un proceso de agregaci\u00f3n de modelos interpretables, que permite adaptar un modelo cl\u00e1sico de Aprendizaje Autom\u00e1tico, como lo son los \u00b4Arboles de Decisi\u00f3n, a un entorno de Aprendizaje Federado. Tambi\u00e9n se ha realizado un software que incluye algunos de los modelos interpretables del estado del arte para Aprendizaje Federado, y todo esto llevando a cabo una metodolog\u00eda de trabajo de entrenamiento y evaluaci\u00f3n en entornos de Aprendizaje Federado.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Enlace<\/strong> &#8211; <a href=\"https:\/\/digibug.ugr.es\/handle\/10481\/93123\">https:\/\/digibug.ugr.es\/handle\/10481\/93123<\/a><\/p>\n<\/div><\/div>\n\n\n\n<div data-wp-interactive=\"core\/file\" class=\"wp-block-file aligncenter\"><object data-wp-bind--hidden=\"!state.hasPdfPreview\" hidden class=\"wp-block-file__embed\" data=\"https:\/\/incibe.dasci.es\/wp-content\/uploads\/2026\/02\/Desarrollo-de-modelos-de-Inteligencia-Artificial-Interpretables-en-Aprendizaje-Federado-Fusion-de-arboles-de-decision.pdf\" type=\"application\/pdf\" style=\"width:100%;height:600px\" aria-label=\"Embed of Desarrollo de modelos de Inteligencia Artificial Interpretables en Aprendizaje Federado, Fusi\u00f3n de \u00e1rboles de decisi\u00f3n.\"><\/object><a id=\"wp-block-file--media-59bb6be9-0d5e-4050-8a1c-ce4005b1e378\" href=\"https:\/\/incibe.dasci.es\/wp-content\/uploads\/2026\/02\/Desarrollo-de-modelos-de-Inteligencia-Artificial-Interpretables-en-Aprendizaje-Federado-Fusion-de-arboles-de-decision.pdf\">Desarrollo de modelos de Inteligencia Artificial Interpretables en Aprendizaje Federado, Fusi\u00f3n de \u00e1rboles de decisi\u00f3n<\/a><a href=\"https:\/\/incibe.dasci.es\/wp-content\/uploads\/2026\/02\/Desarrollo-de-modelos-de-Inteligencia-Artificial-Interpretables-en-Aprendizaje-Federado-Fusion-de-arboles-de-decision.pdf\" class=\"wp-block-file__button wp-element-button\" download aria-describedby=\"wp-block-file--media-59bb6be9-0d5e-4050-8a1c-ce4005b1e378\">Descarga<\/a><\/div>\n\n\n\n<!--nextpage-->\n\n\n\n<div class=\"wp-block-media-text is-stacked-on-mobile\"><figure class=\"wp-block-media-text__media\"><\/figure><div class=\"wp-block-media-text__content\">\n<p class=\"wp-block-paragraph\"><strong>T\u00edtulo &#8211; Inteligencia artificial explicable: M\u00e9todos para generaci\u00f3n, evaluaci\u00f3n y correcci\u00f3n de explicaciones<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Autor<\/strong> &#8211; D. Iv\u00e1n Sevillano Garc\u00eda<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Directores\/as<\/strong> &#8211; Dr. D. Herrera Triguero, Francisco, Dr. D. Juli\u00e1n Luengo Mart\u00edn<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Fecha defensa <\/strong>&#8211; 2025-11-13<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Resumen <\/strong>-El avance del aprendizaje autom\u00e1tico y la Inteligencia Artificial (Artificial Intelligence, IA) ha transformado numerosos sectores, desde la medicina hasta la seguridad p\u00fablica, gracias a su capacidad para resolver problemas complejos y optimizar tareas cr\u00edticas. Sin embargo, a medida que los modelos de IA se vuelven m\u00e1s sofisticados, tambi\u00e9n aumentan los desaf\u00edos relacionados con su transparencia, confianza y seguridad. Estos desaf\u00edos son especialmente relevantes en entornos donde una decisi\u00f3n incorrecta puede tener consecuencias graves para la vida de las personas. En este contexto, aparecen la XAI y la detecci\u00f3n de ejemplos OoD como \u00e1reas clave para garantizar que los sistemas de IA sean confiables, seguros y \u00e9ticamente responsables.<br>A pesar de los avances en XAI, todav\u00eda existen importantes limitaciones en la evaluaci\u00f3n de explicaciones, la generaci\u00f3n de conocimiento explicable y la detecci\u00f3n de ejemplos OoD. Por un lado, la falta de un marco te\u00f3rico s\u00f3lido dificulta la comparaci\u00f3n y certificaci\u00f3n de la calidad de las explicaciones generadas por los modelos. Por otro lado, los m\u00e9todos actuales para introducir conocimiento explicable en los modelos suelen depender de etiquetados<br>humanos costosos y poco escalables. Finalmente, los algoritmos de detecci\u00f3n de ejemplos OoD carecen de puntuaciones rigurosas de confianza y explicabilidad, lo que limita su utilidad en entornos cr\u00edticos.<br>En esta tesis, se abordan estos desaf\u00edos mediante tres propuestas principales:<br>Evaluaci\u00f3n robusta y vectorizada de Explicaciones Locales Lineales (REVEL):<br>Se propone un marco te\u00f3rico para evaluar la calidad de las explicaciones generadas por los modelos de IA. Este marco incluye medidas matem\u00e1ticamente robustas que permiten analizar aspectos cualitativos clave de las<br>explicaciones, como su robustez, su concisi\u00f3n y su capacidad prescriptiva. Adem\u00e1s, REVEL proporciona herramientas anal\u00edticas que facilitan la comparaci\u00f3n entre diferentes estrategias de generaci\u00f3n de explicaciones,<br>contribuyendo a la estandarizaci\u00f3n en el campo de XAI.<br>Transformaci\u00f3n XAI selectiva para ocultar din\u00e1micamente parte de la entrada para mejorar el entrenamiento (XSHIELD): Se desarrolla una familia de regularizaciones que introducen conocimiento explicable en los modelos de IA sin necesidad de etiquetado humano. Estas regularizaciones permiten mejorar la calidad del modelo a la par que la de sus explicaciones, reduciendo la dependencia de explicaciones etiquetadas. X-SHIELD tambi\u00e9n fomenta la generaci\u00f3n de explicaciones de mayor calidad, lo que facilita su adopci\u00f3n en entornos cr\u00edticos.<br>Test estad\u00edstico para la detecci\u00f3n de ejemplos OoD mejorado con eXplicabilidad (STOOD-X):<br>Se dise\u00f1a una metodolog\u00eda en dos pasos que combina la detecci\u00f3n de ejemplos OoD con explicabilidad espec\u00edfica para estos algoritmos. STOOD-X utiliza puntuaciones rigurosas de confianza para identificar ejemplos OoD y<br>proporciona explicaciones detalladas que ayudan a los usuarios a comprender las decisiones del algoritmo. Esto no solo mejora la seguridad de los sistemas de IA, sino que tambi\u00e9n aumenta la confianza de los usuarios en su funcionamiento.<br>Los resultados obtenidos en esta tesis evidencian la efectividad de las propuestas. Por un lado, REVEL ha permitido evaluar explicaciones de manera robusta, detectando aspectos cualitativos clave no capturados por otras medidas existentes. Por otro lado, X-SHIELD mejora tanto la calidad del modelo donde se ha aplicado como la de las explicaciones generadas, reduciendo la necesidad de etiquetado humano y aumentando la calidad de las explicaciones ofrecidas por el modelo. Finalmente, STOOD-X logra una detecci\u00f3n m\u00e1s precisa de ejemplos OoD y proporciona explicaciones \u00fatiles que facilitan la toma de decisiones en entornos cr\u00edticos.<br>En conjunto, y m\u00e1s all\u00e1 de los resultados de las propuestas t\u00e9cnicas, esta tesis contribuye al desarrollo de sistemas de IA m\u00e1s confiables y seguros, proporcionando herramientas te\u00f3ricas y pr\u00e1cticas que abordan los principales desaf\u00edos en XAI y detecci\u00f3n de ejemplos OoD. Estas propuestas no solo mejoran la calidad y seguridad de los sistemas de IA, sino que tambi\u00e9n facilitan su integraci\u00f3n en entornos cr\u00edticos, promoviendo su adopci\u00f3n<br>responsable y \u00e9tica en la sociedad.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Enlace<\/strong> &#8211; <\/p>\n<\/div><\/div>\n\n\n\n<!--nextpage-->\n\n\n\n<div class=\"wp-block-media-text is-stacked-on-mobile\"><figure class=\"wp-block-media-text__media\"><\/figure><div class=\"wp-block-media-text__content\">\n<p class=\"wp-block-paragraph\"><strong>T\u00edtulo &#8211; De la integridad de los datos a la del modelo por medio de la privacidad diferencial en aprendizaje profundo y federado<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Autor<\/strong> &#8211; D. Daniel Jim\u00e9nez L\u00f3pez<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Directores\/as<\/strong> &#8211; Dra. D\u00f1a. Luz\u00f3n Garc\u00eda, Mar\u00eda Victoria, Dr. D. Herrera Triguero, Francisco<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Fecha defensa <\/strong>&#8211; 2026-01-09<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Resumen <\/strong>&#8211; <\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Enlace<\/strong> &#8211; <\/p>\n<\/div><\/div>","protected":false},"excerpt":{"rendered":"<p>T\u00edtulo &#8211; Desarrollo de modelos de Inteligencia Artificial Interpretables en Aprendizaje Federado: Fusi\u00f3n de \u00e1rboles de decisi\u00f3n Autor &#8211; D. Argente del Castillo Garrido, Alberto Directores\/as &#8211; Dra. D\u00f1a. Luz\u00f3n Garc\u00eda, Mar\u00eda Victoria, Dr. D. Herrera Triguero, Francisco Fecha defensa &#8211; 2024-06-07 Resumen &#8211; Los sistemas de Inteligencia Artificial est\u00e1n presentes en el d\u00eda a [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"parent":89,"menu_order":18,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"class_list":["post-107","page","type-page","status-publish","hentry"],"_links":{"self":[{"href":"https:\/\/incibe.dasci.es\/en\/wp-json\/wp\/v2\/pages\/107","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/incibe.dasci.es\/en\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/incibe.dasci.es\/en\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/incibe.dasci.es\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/incibe.dasci.es\/en\/wp-json\/wp\/v2\/comments?post=107"}],"version-history":[{"count":3,"href":"https:\/\/incibe.dasci.es\/en\/wp-json\/wp\/v2\/pages\/107\/revisions"}],"predecessor-version":[{"id":9770,"href":"https:\/\/incibe.dasci.es\/en\/wp-json\/wp\/v2\/pages\/107\/revisions\/9770"}],"up":[{"embeddable":true,"href":"https:\/\/incibe.dasci.es\/en\/wp-json\/wp\/v2\/pages\/89"}],"wp:attachment":[{"href":"https:\/\/incibe.dasci.es\/en\/wp-json\/wp\/v2\/media?parent=107"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}