Prácticas de IA prohibidas (artículo 5 del AI Act): la lista para empresas
Desde el 2 de febrero de 2025, el artículo 5 del AI Act prohíbe usos de la IA con riesgo inaceptable: manipular o explotar vulnerabilidades causando perjuicios, puntuación social, reconocer emociones en el trabajo o la escuela, deducir datos sensibles a partir de la biometría, crear bases de reconocimiento facial con imágenes extraídas de forma masiva y otros. Las multas llegan a 35 millones de euros o el 7 % de la facturación.
La lista
| Práctica prohibida | Ejemplo |
|---|---|
| Técnicas subliminales, manipuladoras o engañosas que alteran el comportamiento y causan perjuicios importantes | Un sistema que empuja a decisiones de compra dañinas sin que la persona lo perciba |
| Explotar vulnerabilidades por edad, discapacidad o situación social o económica | Publicidad dirigida a personas mayores aprovechando su vulnerabilidad |
| Puntuación social que lleva a un trato perjudicial injustificado | Puntuar a clientes por su comportamiento social para negarles servicios |
| Predecir delitos solo por perfiles o rasgos de personalidad | — |
| Crear bases de reconocimiento facial con imágenes extraídas de forma no selectiva de internet o de cámaras | — |
| Reconocer emociones en el trabajo y en centros educativos, salvo por motivos médicos o de seguridad | Medir la frustración de los teleoperadores por la voz |
| Categorizar personas por su biometría para deducir raza, opiniones políticas, afiliación sindical, religión u orientación sexual | — |
| Identificación biométrica remota en tiempo real en espacios públicos con fines policiales, salvo excepciones | — |
| Generar imágenes íntimas no consentidas de personas identificables o material de abuso sexual infantil (añadida por el Ómnibus Digital) | Aplicaciones para “desnudar” fotos |
Las que más afectan a una empresa normal
- Reconocimiento de emociones de la plantilla. Algunas herramientas de análisis de llamadas, de videoentrevistas o de “bienestar” lo hacen. Pregunta al proveedor. Ver la guía de IA en RR. HH..
- Categorización biométrica. Cualquier sistema que deduzca rasgos sensibles a partir de la cara o la voz.
- Técnicas manipuladoras en marketing.
La nueva prohibición del Ómnibus
El Ómnibus Digital añadió la generación de imágenes o vídeos sexuales realistas de personas identificables sin su consentimiento. Para quien usa estas herramientas, se prohíbe el uso con ese fin deliberado. Se aplica desde el 2 de diciembre de 2026.
Consecuencias
Es el tramo más alto de sanciones: hasta 35 millones de euros o el 7 % de la facturación mundial (para pymes, la cantidad menor). Además, si la herramienta afecta a la plantilla, habrá que explicarlo a la representación de los trabajadores.
Preguntas frecuentes
¿Puedo usar una herramienta que analiza el tono de voz de mis comerciales?
Si deduce emociones de los trabajadores, está prohibido en el lugar de trabajo, salvo por motivos médicos o de seguridad. Analizar las emociones de los clientes no está prohibido, pero obliga a informarles (artículo 50).
¿Qué pasa si ya usaba una herramienta prohibida?
Hay que dejar de usarla. Desde el 2 de febrero de 2025 su uso es ilegal, y desde el 2 de agosto de 2025 se aplica el régimen de sanciones.
Fuentes
¿Cumple tu empresa? Repasa las 10 preguntas del autodiagnóstico del artículo 4.