La III Trobada DPD en xarxa ha servit per presentar els avenços de l'informe de transparència algorítmica (TRAL) de l'AOC, posant en comú el seu enfocament amb professionals de la protecció de dades. El Grup de Treball d’IA ètica i responsable treballa des de fa un any en aquest informe, que busca ser un model de referència per combinar informació entenedora per a la ciutadania amb una rendició de comptes verificable sobre els riscos, les garanties i la governança dels sistemes d’intel·ligència artificial (IA).
Organitzada per l'APDCAT, la trobada va reunir delegats de protecció de dades (DPD) per abordar reptes com la regulació digital i la IA. Carme Callés, cap de servei d’Innovació, i Patricia Mallén, DPD de l'AOC, van liderar un taller pràctic i una presentació sobre com fer visibles, comprensibles i verificables els riscos i garanties dels sistemes d'IA.
Durant el taller participatiu «Del risc a la garantia», quinze participants van analitzar un cas pràctic sobre l'ús d'IA generativa per anonimitzar actes de plens municipals. Es van identificar riscos com la no detecció de dades personals, la reversió de l'anonimització, la confiança excessiva en la IA o la reutilització no autoritzada de documents. Les mesures proposades inclouen revisió humana, bloqueig de publicacions sense validació, formació d'usuaris i garanties contractuals.
A la tarda, es va presentar el nou model TRAL, estructurat en dues capes: una per a la ciutadania, que explica l'ús de la IA de manera clara, i una altra de governança i rendició de comptes, que documenta detalls sobre riscos, funcionament i supervisió. Aquest model complementa altres avaluacions com l'AIPD o la FRIA.
La trobada va permetre contrastar el model amb professionals i continuar la construcció d'una eina col·lectiva, multidisciplinària i adaptable a les administracions públiques, amb l'objectiu de fer de la governança de la IA una transparència efectiva per a la ciutadania.
