El 17 de septiembre de 2024, en el marco del Programa Nacional de Transparencia y Protección de Datos Personales en el uso de la Inteligencia Artificial (“IA”), la Agencia de Acceso a la Información Pública ("AAIP") publicó la versión preliminar de la "Guía para entidades públicas y privadas en materia de Transparencia y Protección de Datos Personales para una Inteligencia Artificial responsable" ("Guía").
La Guía tiene como principal objetivo establecer lineamientos dirigidos a entidades del sector público y privado para que incorporen la transparencia y protección de datos personales (“Datos”) en proyectos de desarrollo tecnológico que implementen sistemas de IA, de modo de garantizar el ejercicio de los derechos de los titulares de Datos (“Titulares”).
Las principales recomendaciones de transparencia y protección de Datos en el ciclo de vida de sistemas de IA son:
- Implementación de evaluaciones de impacto como herramienta para identificar y mitigar riesgos asociados al tratamiento de Datos en sistemas de IA desde un primer momento, y la implementación de medidas de seguridad para prevenir y mitigar dichos riesgos en todas las etapas de su ciclo de vida.
- Respeto de principios de protección por diseño y defecto, de licitud, de calidad y de transparencia, entre otros, a fin de contar con sistemas de IA que protejan a los Titulares, limitando la recolección y el procesamiento de Datos a aquellos estrictamente necesarios. Asimismo, se debe garantizar la legalidad del tratamiento de los Datos e implementar controles de calidad por parte de un equipo multidisciplinario, promoviendo la explicabilidad de los sistemas y garantizando la transparencia algorítmica.
- Evaluación del algoritmo utilizado, para garantizar que éste se encuentra alineado con los valores, principios y orientaciones preestablecidos, teniendo como objetivo identificar los sesgos, patrones y errores del modelo algorítmico y los resultados.
- Cumplimiento con el deber de información de cara a los Titulares, contando los sistemas de IA con políticas de privacidad mediante las cuales se proporcione a los Titulares información relevante respecto del sistema de IA.
- Monitoreo continuo sobre seguridad, sesgos y transparencia, para mitigar riesgos y fomentar la mejora continua del sistema de IA.
- Adopción de enfoque de responsabilidad proactiva y demostrada, para garantizar que el funcionamiento del sistema de IA sea seguro, ético y conforme a las normativas y estándares de privacidad y protección de Datos.
La Guía busca que las entidades públicas y privadas puedan adaptar e implementar los estándares, principios y aspectos detallados para alcanzar un sistema de IA responsable, con mayor legitimidad y menores riesgos, favoreciendo el efectivo ejercicio de derechos de los Titulares y su confianza en dichas entidades.
Ver Perfil
Opinión
CYT Abogados
opinión
ver todosBeccar Varela
Cevasco, Camerini, Barreira Delfino & Polak Abogados
Fernando Varela & Asociados
Kabas & Martorell
detrás del traje
Nos apoyan
