España dio un paso de gigante para regular el uso de la inteligencia artificial (IA) con una ley que exige que los contenidos generados o manipulados con IA deberán identificarse para que los usuarios sepan cuándo están frente a material artificial.
La norma, que ahora iniciará su trámite parlamentario, adapta la legislación española al Reglamento Europeo de Inteligencia Artificial y busca establecer límites sobre qué usos están permitidos, cuáles estarán prohibidos y qué sanciones enfrentarán empresas o desarrolladores que incumplan las reglas.
Uno de los objetivos principales es aumentar la transparencia, por lo que se exigiría que las imágenes, grabaciones o videos creados mediante sistemas de IA incorporen etiquetas que permitan reconocer su origen artificial.
La intención es reducir el margen de engaño en ámbitos como redes sociales, publicidad, entretenimiento o política.
La medida llega en medio del crecimiento de los ‘deepfakes’, contenidos hiperrealistas generados por IA que puede imitar voces, rostros y situaciones inexistentes. Este contenido se ha intensificado en redes sociales, en campañas políticas y en la creación de material sexual falso sin consentimiento.
Regulaciones de la IA
El proyecto incorpora una lista de prácticas consideradas de alto riesgo o directamente incompatibles con los derechos fundamentales.
Entre las restricciones previstas están:
Sistemas que manipulen decisiones mediante técnicas subliminales o engañosas.
Aplicaciones que exploten vulnerabilidades específicas.
Modelos capaces de identificar perfiles vulnerables y dirigirlos hacia actividades potencialmente dañinas.
Sistemas que generen o manipulen contenido falso con apariencia realista.
Herramientas para producir pornografía infantil mediante inteligencia artificial.
Aplicaciones de IA que induzcan conductas perjudiciales o peligrosas.
El proyecto incorpora un régimen sancionador escalonado. Las infracciones leves podrían recibir multas desde 6.000 euros, mientras que las más graves alcanzarían hasta 35 millones de euros o porcentajes elevados sobre la facturación global de una empresa.
Para empresas que desarrollan o usan IA, la nueva regulación implicará revisar si sus productos pertenecen a categorías restringidas o consideradas de alto riesgo. También podrían verse obligadas a incorporar mecanismos adicionales de supervisión y transparencia.
Para usuarios, el cambio más visible sería identificar con mayor facilidad cuándo una imagen, audio o video fue generado artificialmente.
