Investigadores de la UGR lideran una de las tareas clave de este consorcio internacional, centrada en interpretar las capacidades emergentes de la IA
Anticiparse al futuro de la inteligencia artificial es el gran reto de KnoWare, el nuevo proyecto Horizonte Europa en el que participan los científicos del Instituto DaSCI de la UGR Isaac Triguero y Leonardo Concepción.
Desde la reunión de arranque en Trondheim (Noruega), el equipo trabaja en el diseño de metodologías científicas de vanguardia para detectar y predecir capacidades emergentes de la IA de propósito general, antes incluso de que se conviertan en comportamientos visibles. “Las pruebas que se emplean hoy se quedan cortas: miden lo que la IA ya sabe hacer, pero no detectan lo que está a punto de poder hacer”, destacan los investigadores de la UGR.
El grupo, integrado en el Instituto de DaSCI y en el Departamento de Ciencias de la Computación e Inteligencia Artificial (DECSAI), aporta a esta iniciativa su experiencia en inteligencia artificial explicable (XAI), un campo que busca «abrir» los sistemas de IA para comprender cómo y por qué toman sus decisiones.
Bajo el liderazgo del nuevo director de DaSCI Isaac Triguero, investigador principal del equipo granadino, junto a Leonardo Concepción, la UGR encabeza una de las tareas clave del proyecto: el desarrollo de métodos para detectar e interpretar las «señales internas» que se forman dentro de los modelos y que anticipan la aparición de nuevas capacidades antes de manifestarse.
“La idea es que estas capacidades no surgen de la nada, sino que dejan pistas tempranas que, si se saben leer, permiten pasar de vigilar la IA ‘por detrás’ a adelantarse a sus riesgos”, explica Isaac Triguero.
Los métodos se pondrán a prueba en cuatro casos reales de sectores estratégicos —asistentes de IA para el mercado energético, sistemas de alerta temprana ante pandemias como la gripe aviar, detección de ciberataques en el tráfico marítimo y control del fraude alimentario— y servirán de apoyo a la aplicación de la nueva ley europea de inteligencia artificial (AI Act).
Coordinado por el Centro Tecnológico SINTEF (Noruega), el consorcio internacional de KnoWare reúne a un grupo de universidades, centros de investigación y empresas. Entre sus miembros destacan la Universidad Noruega de Ciencia y Tecnología (NTNU), la Universidad Aristóteles de Tesalónica (AUTH), la Universidad de Warwick, la Universidad Católica de Lovaina (KU Leuven) y la Universidad de Guelph, junto a entidades como Rainno, Mews Partners, Netcompany, Bia Analytical y CAIRNE.
Con un presupuesto global de casi cuatro millones de euros y una duración de tres años, estas organizaciones trabajarán de forma coordinada para predecir los futuros comportamientos de la IA y mitigar sus riesgos asociados.
KnoWare es un proyecto financiado por la Unión Europea en virtud del acuerdo de subvención 101298802, en su convocatoria Horizonte Europa – HORIZON-CL4-2025-04 de Tecnologías digitales y emergentes.
Contacto:
Isaac Triguero Velázquez
Departamento de Ciencias de la Computación e Inteligencia Artificial
Instituto Andaluz Interuniversitario en Data Science and Computational Intelligence (Instituto DaSCI)
Universidad de Granada
Correo electrónico: triguero@decsai.ugr.es