Herramienta para el uso responsable de inteligencia artificial en las administraciones públicas

Herramienta con una metodología para el desarrollo responsable de IA en el sector público andaluz

El Consejo de Transparencia y Protección de Datos de Andalucía (CTPDA) ha desarrollado una metodología específicamente diseñada para ayudar a las administraciones públicas (AAPP) a implementar sistemas de inteligencia artificial (IA) de manera responsable y conforme a la normativa de protección de datos.

Esta iniciativa responde a la necesidad creciente detectada durante las labores de supervisión del CTPDA de los cada vez más frecuentes proyectos que incluyen tecnologías de IA que incorporan las AAPP para mejorar sus servicios, en los que se suelen encontrar con dificultades para aplicar el complejo marco normativo de protección de datos y garantizar los derechos de los ciudadanos, de ahí la importancia de la experiencia del CTPDA en la supervisión de estos proyectos, de utilidad en aspectos especialmente relevantes, como:

• La gestion de riesgos
• La identificación de las bases de licitud del tratamiento
• La gestión de proveedores tecnológicos
• La participación del Delegado de Protección de Datos en el desarrollo de los mismos

Esta metodología estará disponible para todas las AAPP andaluzas durante el último trimestre del 2025 a través de una herramienta, que pretende convertirse en el estándar de referencia para el desarrollo responsable de IA en materia de protección de datos en el sector público andaluz permitiendo que las AAPP puedan aprovechar todo el potencial de la IA manteniendo las máximas garantías para los derechos de los ciudadanos.

Características de la herramienta y su metodología

• Su objetivo principal es facilitar el cumplimiento de la normativa.
• Promueve un enfoque de innovación responsable al exigir una reflexión sistemática sobre riesgos y medidas de protección, contribuyendo al desarrollo de sistemas de IA más robustos y confiables
• Funciona como una guía paso a paso que acompaña a los responsables públicos desde la concepción inicial del proyecto hasta su puesta en funcionamiento.
• Se adapta automáticamente al tipo y complejidad de cada proyecto:
  • Proyectos de complejidad baja: por ejemplo un ayuntamiento que implemente un chatbot para responder consultas ciudadanas básicas podría completar el proceso verificando un conjunto reducido de medidas de protección específicas.
  • Proyectos de alta complejidad: por ej. una AAPP que desarrolle un sistema para evaluar automáticamente solicitudes de ayudas sociales (datos sensibles y decisiones que afectan significativamente a los ciudadanos) deberá seguir un proceso más exhaustivo que incluye evaluación de sesgos algorítmicos, mecanismos de supervisión humana y procedimientos específicos para el ejercicio de derechos.
• El sistema comienza con unas preguntas claras sobre el tipo de proyecto, los datos que tratará y los colectivos afectados. Con estas respuestas, configura automáticamente qué pasos seguir y qué nivel de verificación es necesario, variando los controles a los riesgos, desde:
  • 62 para sistemas básicos o esenciales
  • 154 para sistemas estándar
  • 178 para sistemas complejos o exhaustivos
• Se aplicarán distintos niveles de supervisión, procediendo en función del riesgo real, es decir, a mayor impacto potencial, mayor nivel de supervisión, y viceversa.
• Privacidad desde el diseño, la protección de datos no debe ser algo que se añada al final del proyecto, debe estar integrada desde el primer momento, desde la redacción de los pliegos del proceso de licitación pública (diseño) hasta la recepción del sistema, la herramienta ayudará a:
  • Identificar qué requisitos de protección de datos incluir en los pliegos
  • Verificar durante la evaluación de ofertas si los proveedores proponen medidas adecuadas
  • Supervisar durante el desarrollo que se implementan correctamente las protecciones necesarias.
• Contempla todos los elementos necesarios para generar EIPD, reduciendo la carga de redacción manual y asegurando la coherencia de toda la documentación.
•