Explainability by design

Line of research

Mechanisms that provide dimensions or levels of explainability by design

La tercera línea de investigación se centra en encontrar formas de explicar algoritmos de IAPG como el AutoML y el Few-Shot learning. Además de explorar el uso de técnicas post-hoc, como LIME o SHAP, en el contexto del IAPG, la idea es la de crear técnicas auto-explicables o explicables por diseño, de manera que ideemos mecanismos que provean dimensiones o niveles de explicabilidad desde el diseño (explainable-by-design) para AutoML y Few-Shot learning:

    Objective 1

    Búsqueda de escenarios de interés para modelos auto-explicables. 

    Objective 2

    Uso del enfoque Few-Shot para mejorar la interpretabilidad, a través del paradigma de modelos explicables por diseño.

    Objective 3

    Uso de evolutivos para adaptar el modelo auto-adaptativo.