El III Encuentro DPD en red ha servido para presentar los avances del informe de transparencia algorítmica (TRAL) de la AOC, poniendo en común su enfoque con profesionales de la protección de datos. El Grupo de Trabajo de IA ética y responsable trabaja desde hace un año en este informe, que busca ser un modelo de referencia para combinar información comprensible para la ciudadanía con una rendición de cuentas verificable sobre los riesgos, las garantías y la gobernanza de los sistemas de inteligencia artificial (IA).
Organizado por la APDCAT, el encuentro reunió a delegados de protección de datos (DPD) para abordar retos como la regulación digital y la IA. Carme Callés, jefa de servicio de Innovación, y Patricia Mallén, DPD de la AOC, lideraron un taller práctico y una presentación sobre cómo hacer visibles, comprensibles y verificables los riesgos y garantías de los sistemas de IA.
Durante el taller participativo «Del riesgo a la garantía», quince participantes analizaron un caso práctico sobre el uso de IA generativa para anonimizar actas de plenos municipales. Se identificaron riesgos como la no detección de datos personales, la reversión de la anonimización, la confianza excesiva en la IA o la reutilización no autorizada de documentos. Las medidas propuestas incluyen revisión humana, bloqueo de publicaciones sin validación, formación de usuarios y garantías contractuales.
Por la tarde, se presentó el nuevo modelo TRAL, estructurado en dos capas: una para la ciudadanía, que explica el uso de la IA de forma clara, y otra de gobernanza y rendición de cuentas, que documenta detalles sobre riesgos, funcionamiento y supervisión. Este modelo complementa otras evaluaciones como la AIPD o la FRIA.
El encuentro permitió contrastar el modelo con profesionales y continuar la construcción de una herramienta colectiva, multidisciplinar y adaptable a las administraciones públicas, con el objetivo de convertir la gobernanza de la IA en una transparencia efectiva para la ciudadanía.
