Qué dice la AI Act

Qué dice

La AI Act es el primer marco legal integral de la Unión Europea sobre inteligencia artificial. Su lógica es gradual: no trata igual a todo sistema, sino que distingue entre prácticas prohibidas, usos de alto riesgo, obligaciones de transparencia y sistemas de riesgo mínimo o nulo.

La pieza importante no es solo la clasificación. También es quién tiene que hacer qué: desarrolladores, proveedores, desplegadores y autoridades. La ley introduce responsabilidades para documentar, evaluar, supervisar y, en ciertos casos, informar al usuario o a la persona afectada.

En lo esencial, prohíbe prácticas que la UE considera una amenaza clara para la seguridad, los medios de vida o los derechos, como la manipulación dañina, la explotación de vulnerabilidades, el social scoring, ciertas formas de categorización biométrica o la identificación biométrica remota en tiempo real en espacios públicos para fines policiales.

En los usos de alto riesgo, exige evaluación de riesgos, datos de calidad, registro de actividad, documentación técnica, información clara al desplegador, supervisión humana y robustez técnica.

Qué deja abierto

La ley no resuelve todo por sí sola. Necesita estándares, guías, supervisión y capacidad administrativa para que sus categorías se vuelvan algo más que texto. Por eso la implementación importa tanto como la redacción.

También hay que leer su calendario. Según la Comisión, las prohibiciones y la alfabetización en IA se aplican desde el 2 de febrero de 2025; las reglas de gobernanza y las obligaciones para modelos de propósito general, desde el 2 de agosto de 2025; las reglas de transparencia, en agosto de 2026; y los sistemas de alto riesgo integrados en productos regulados, en agosto de 2027.

El ruido aparece aquí: una norma puede prometer mucho y aun así depender de cómo se supervise, de cuánto se pueda auditar y de si los actores pequeños tienen capacidad real para cumplir sin desaparecer del mapa.

Derechos digitales

La AI Act no vive sola. La Unión Europea ha construido también una Declaración Europea sobre Derechos y Principios Digitales que promueve una transformación digital con valores europeos, centrada en las personas, segura y sostenible.

Esa declaración se apoya en la Carta de Derechos Fundamentales de la UE y recuerda derechos especialmente relevantes en lo digital: libertad de expresión e información, protección de datos y privacidad. No es la misma pieza jurídica que la AI Act, pero sí ayuda a entender su fondo político.

Leídas juntas, ambas piezas muestran una idea común: la tecnología no debería desplegarse como si los derechos fueran un trámite posterior. Primero se define el marco de protección; luego se discute la innovación.

Pregúntate

• ¿La AI Act limita usos concretos o solo añade más lenguaje al debate?
• ¿Qué derechos intenta proteger antes de que aparezca el daño?
• ¿La norma se entiende mejor como protección, como corrección de mercado o como ambas cosas a la vez?
• ¿Qué parte del sistema puede auditarse de verdad y cuál sigue quedando en la sombra?
• ¿El equilibrio entre innovación y control está bien planteado o se resuelve demasiado pronto?

Referencias