La noticia
Desde el 2 de agosto, el software que analiza las emociones del cliente — el que detecta frustración en la voz durante una llamada, colorea de rojo al que escribe enfadado o sugiere al agente cómo responder según el tono — es oficialmente un sistema de alto riesgo bajo el Reglamento europeo de IA. La publicación especializada CX Today lo resume con crudeza: la fecha ha llegado y la mayoría de los contact centers no tiene ni idea de lo que se le viene encima.
Conviene separar las dos caras de la norma. Sobre los empleados, el reconocimiento de emociones en el entorno laboral está directamente prohibido desde febrero de 2025 — el software que evalúa el estado emocional del agente que atiende la llamada entra en las prácticas vetadas, con multas de hasta 35 millones de euros o el 7% de la facturación mundial. Sobre los clientes, sigue siendo legal, pero desde agosto exige lo que exige todo sistema de alto riesgo: documentación de conformidad del proveedor, transparencia con el cliente, supervisión humana efectiva, registros de funcionamiento y evaluación de impacto. El incumplimiento se mueve en multas de hasta 15 millones o el 3%.
Por qué me paro en esto
Porque es la tercera vez en un mes que escribo sobre el mismo patrón y no es casualidad: la ley europea de IA ha dejado de ser un tema de abogados de Bruselas y ha empezado a aterrizar, departamento a departamento, en funciones concretas de empresas normales. Primero la selección de personal, ahora la atención al cliente. Y en ambos casos el problema es idéntico: la función llegó dentro del software, sin que nadie la comprara a propósito. El análisis de sentimiento viene de serie en media industria del contact center — a veces activado por defecto —, así que hay empresas incumpliendo una norma sobre una tecnología que no saben que usan.
La segunda lectura es la asimetría entre proveedor y cliente, otra vez. La obligación de cumplimiento no se queda en quien fabrica el software: alcanza a quien lo despliega. Cuando llegue la pregunta de un regulador — o de un cliente molesto que sabe leer —, “eso lo hace la plataforma” no será una respuesta. La documentación de conformidad, el aviso al cliente y la supervisión humana son deberes de la empresa que usa el sistema, y la mayoría de proveedores, según el propio sector, aún no tiene el papeleo listo para dárselo hecho.
Y la tercera, que es la que me parece más de fondo: la línea que la ley traza es razonable, y entenderla vale más que memorizarla. Medir la calidad del servicio está bien; inferir el estado emocional de una persona para influir en ella es otra categoría de cosa, y sobre tu propia plantilla, directamente inaceptable. Las empresas que entiendan el porqué de esa línea tomarán mejores decisiones que las que se limiten a esquivar multas.
Qué significa para quien decide
Primero, inventario, esta semana y sin drama. Una pregunta escrita a tu proveedor de telefonía, contact center o help desk: qué funciones de análisis de sentimiento o emociones incluye nuestro plan, cuáles están activas, y qué documentación de conformidad con el AI Act tenéis. Con la respuesta sabrás en cuál de los tres escenarios estás: no uso nada (perfecto, documentado y cerrado), uso algo sobre clientes (a regularizar), o hay algo midiendo a mis empleados (a apagar hoy).
Segundo, si lo usas sobre clientes, conviértelo en un sistema gobernado. Aviso claro al cliente de que la interacción se analiza — no una línea enterrada en la política de privacidad —, una persona con autoridad real para supervisar y desactivar, y registro de lo que el sistema hace. Son las mismas tres piezas que ya vimos con la IA de contratación: transparencia, humano al mando, trazabilidad. Quien montó eso para RRHH tiene el molde hecho.
Tercero, aprovecha para decidir qué merece la pena. No todo lo que el software puede medir aporta: quizá el análisis de emociones no te estaba dando nada que una buena encuesta post-llamada no dé sin riesgo regulatorio. El cumplimiento es una buena excusa para hacer la pregunta que casi nadie hace al activar funciones de IA: ¿esto mejora el servicio o solo genera paneles que nadie mira?
La atención al cliente es donde tu empresa habla con más gente cada día. Que ahí la IA esté bien gobernada no es burocracia: es la diferencia entre usar la tecnología para servir mejor y usarla para vigilar. La ley solo ha puesto fecha a esa distinción.