Algoritmos bajo la Lupa: El Nuevo Estándar de Supervivencia para la IA en Europa
Por Eugenia Tripodi (*)

La Unión Europea ha fijado las reglas del juego global con el Reglamento (UE) 2024/1689 (AI Act). Para cualquier Founder, especialmente si lideras una empresa desde Latam o EE. UU. con clientes en Europa, este marco no es una sugerencia: es un cambio de paradigma en el ciclo de desarrollo de software.

 

La normativa introduce un sistema de gobernanza basado en el riesgo. Si tu algoritmo impacta a ciudadanos europeos, el cumplimiento es obligatorio, sin importar dónde estén tus servidores o si tu empresa está basada en Argentina u otro país fuera del continente europeo.

 

La jerarquía de riesgos: ¿Dónde encaja tu producto? La regulación clasifica los sistemas de IA en cuatro categorías, con obligaciones que escalan según su impacto en los derechos humanos: • Riesgo Inaceptable (Prohibido): Desde febrero de 2025, están prohibidos los sistemas de puntuación social, la vigilancia biométrica masiva y la manipulación cognitiva. • Alto Riesgo: Aquí entran las Fintech (evaluación crediticia), EdTech (evaluación de alumnos) y plataformas de RRHH (cribado de CVs). Estos sistemas requieren auditorías estrictas, documentación técnica detallada y —lo más importante— supervisión humana efectiva. • Riesgo Limitado (Transparencia): Si usas chatbots o generadores de contenido, el usuario debe saber, sin lugar a duda, que está interactuando con una IA. • Riesgo Mínimo: Filtros de spam o recomendaciones básicas. Aquí prima la autorregulación.

 

Modelos de Propósito General (GPAI) Si tu startup desarrolla o implementa modelos tipo GPT-4, las reglas se endurecen. A partir de agosto de 2025, es obligatorio publicar resúmenes de los datos utilizados para el entrenamiento y respetar las leyes de derechos de autor de la UE. Para los modelos con "riesgo sistémico" (aquellos con una capacidad de cómputo superior a $10^{25}$ FLOPs), las exigencias de ciberseguridad y pruebas de mitigación son críticas.

 

Roadmap de Cumplimiento: No esperes a agosto El calendario de sanciones ya está corriendo:

 

  • Febrero 2025: Entraron en vigor las prohibiciones de sistemas de riesgo inaceptable.
  • Agosto 2025: Aplicación de las normas de transparencia para modelos generales.
  • Agosto 2026: Aplicación plena de la norma, incluyendo la responsabilidad civil por daños.

La "Alfabetización en IA" ya no es opcional. El Reglamento exige que tanto tu equipo técnico como tu directiva comprendan los riesgos y beneficios de las herramientas que despliegan. No saber cómo funciona tu propia IA ya es un riesgo legal.

 

¿Tu estrategia de IA es sólida o es un riesgo legal? En Lawi, actuamos como el socio legal estratégico para empresas de tecnología. Ayudamos a startups a clasificar sus sistemas de IA, implementar sistemas de gestión de calidad y asegurar que cada línea de código cumpla con los estándares de robustez exigidos en Europa.

 

Por otro lado, la Comisión Europea presentó el pasado noviembre de 2025 la Propuesta de Reglamento "Digital Omnibus IA", que busca modificar el AI Act para simplificar su aplicación, extender plazos (hasta 6-12 meses para obligaciones de alto riesgo, no más allá de 2027-2028) y reducir cargas para pymes.

 

Si trabajas con soluciones de IA y te interesa comprender cómo se están aplicando las regulaciones europeas, en Lawi seguimos de cerca su implementación práctica.

 

 

Citas

(*) Eugenia Tripodi es abogada argentina especializada en derecho tecnológico y fintech. Reside en Madrid desde hace 8 años, tras 4 años en Londres, donde trabajó como abogada corporativa y Legal Counsel en una gestora de fondos de inversión. Ha ocupado posiciones globales de liderazgo como Team Leader en American Express y Managing Legal Counsel en Klarna. Actualmente es Regional Lead EMEA en Lawi, una lawtech que asesora a startups y scaleups tecnológicas con presencia en Argentina, Brasil, Estados Unidos y Europa. Además, cursa una Diplomatura de Alta Especialización en Blockchain en la Facultad de Derecho de la Universidad Complutense de Madrid.

Opinión

El Pacto Dutreil y la empresa familiar
Por Juan Javier Negri
Negri & Pueyrredón Abogados
detrás del traje
Andrés García Vautrin
De GARCíA VAUTRIN CONDOMí ALCORTA & ASOC.
Nos apoyan