UE impone nuevas exigencias de transparencia a la inteligencia artificial
Las nuevas normas requieren que ChatGPT, Gemini y Claude notifiquen cuando usuarios interactúan con sistemas automatizados, y desde diciembre exigirán marcas de agua en contenido manipulado.
- Empresas de IA deben informar usuarios sobre interacciones con máquinas
- Multas de hasta 15 millones de euros por incumplimiento de obligaciones
- Desde diciembre se requieren marcas de agua en contenido manipulado generado con IA
La Unión Europea activó nuevas normas de transparencia para la inteligencia artificial que amplían los poderes de supervisión de la Oficina de Inteligencia Artificial de la Comisión Europea. Las reglas exigen que empresas como OpenAI (propietaria de ChatGPT), Google (Gemini) y Anthropic (Claude) diseñen sus sistemas de manera que los usuarios sepan claramente cuando interactúan con una máquina.
La obligación se extiende a desarrolladores de sistemas de IA usados en servicios públicos, en interacción con clientes y en gestión de denuncias de fraude. También aplica para sistemas que analicen emociones o realicen categorización biométrica, con excepciones para prevención y persecución de delitos.
A partir del 2 de diciembre, los sistemas de IA deberán incorporar marcas de agua identificables en textos, fotos, videos y audios manipulados. Sin embargo, contenidos de ficción, artísticos o satíricos quedan exentos de este requisito. La norma incluye una excepción importante: el contenido sobre procesos electorales, judiciales, salud pública o eventos de debate público sí requiere advertencia, a menos que haya sido supervisado por una persona.
La Comisión Europea podrá imponer multas de hasta 15 millones de euros o del 3% de la facturación anual global de empresas que incumplan las obligaciones, siendo la cantidad más alta la que aplique. Las instituciones y agencias de la UE enfrentarán sanciones de hasta 750 mil euros. Desde hoy también está prohibida la creación de imágenes sexualizadas generadas con IA sin consentimiento, con veto que aplica tras escándalo causado por contenido de Grok en la red social X.
Según reportó ABC Color, la Comisión Europea negocia actualmente con Anthropic para que la Agencia de Ciberseguridad de la UE (ENISA) pueda evaluar modelos de alto riesgo como Mythos sin comprometer infraestructuras esenciales europeas.
Este artículo fue redactado con asistencia de IA a partir de fuentes públicas y está sujeto a revisión editorial de Ahora.
