Imagina a un jugador de póker que cree poder leer toda tu mano solo porque has parpadeado dos veces o te has movido en la silla. No está leyendo tus cartas; está proyectando una narrativa sobre un espasmo físico aleatorio y apostando todo su montón de fichas a ello. Eso es exactamente cómo funciona la «IA emocional», salvo que las apuestas no son fichas de póker, sino tu seguridad laboral y tu salud mental.
Un reciente reportaje en The Atlantic detalla cómo el software que afirma descifrar las emociones humanas se está colando silenciosamente en el mundo corporativo. Estas herramientas analizan las expresiones faciales, el tono de voz y los patrones de tecleo para decirle a los directivos si un empleado está «comprometido», «frustrado» o «improductivo». El problema es que la ciencia subyacente es un desastre. La premisa es que un movimiento específico de un músculo facial equivale a una emoción interna concreta, sin importar la cultura, la personalidad o el hecho de que algunos simplemente tengamos una cara de reposo que parece que olemos algo podrido.
¿Quién cree realmente que una cámara puede saber si estás «desconectado» o simplemente cansado tras tres horas de videollamada? (Es esencialmente un anillo emocional digital para RRHH). Para cualquiera que haya dedicado cinco minutos a entender cómo funciona realmente la visión por computadora, la brecha entre un «cambio de píxeles en la región de las cejas» y «el empleado está insatisfecho con su salario» es un abismo que ningún volumen de datos de entrenamiento puede salvar.
Es un fraude.
El peligro aquí no es solo que la tecnología esté equivocada, sino que los directivos crean que lo está. Cuando un software asigna una «puntuación» a un ser humano, gana una capa de objetividad. Un directivo que no sabe liderar se apoyará en un panel de control porque le parecerá más científico que hablar realmente con su equipo. Ya hemos visto esto antes con la obsesión por las «puntuaciones de productividad» y el registro de pulsaciones de teclado, pero esto es peor porque intenta cuantificar lo subconsciente.
Si alguna vez has trabajado en un entorno corporativo, conoces la actuación de la «profesionalidad». Pasamos la mitad del día fingiendo entusiasmo por los objetivos trimestrales mientras nuestras almas salen lentamente de nuestros cuerpos. La IA emocional penaliza a quienes son malos en este tipo específico de actuación. Crea un incentivo perverso para mantener una máscara permanente y congelada de «compromiso» solo para satisfacer a un algoritmo.
Desde un punto de vista técnico, estos sistemas suelen ser simples envoltorios de análisis de sentimiento básico o modelos de computación afectiva obsoletos que ignoran por completo el contexto. Tratan el rostro humano como un mapa estático en lugar de un órgano dinámico e idiosincrásico. La fricción ya está ahí: la latencia de estas herramientas suele ser alta y la tasa de falsos positivos probablemente sea astronómica, pero quienes compran el software no son los que tienen que vivir bajo la cámara.
Esto no es solo un problema de privacidad; es un motor de gaslighting. Si la IA le dice a tu jefe que pareces «infeliz» durante una reunión, y tú insistes en que estás bien, el jefe ahora tiene una razón «basada en datos» para dudar de tu honestidad. Ya no estás discutiendo contra una opinión, sino contra una «métrica».
La industria opera actualmente en un punto ciego regulatorio, pero eso no durará. La brecha entre lo que estas empresas afirman y lo que la ciencia respalda es demasiado amplia para ignorarse. Para finales del cuarto trimestre, veremos la primera demanda por despido improcedente en Estados Unidos donde la evidencia principal para el despido haya sido una «baja puntuación de compromiso» de una herramienta de IA emocional.
Cuando eso ocurra, las empresas que venden este tipo de herramientas afirmarán que el programa «solo estaba destinado a ser una ayuda para los directivos», trasladando la culpa al usuario. Pero el producto se vendió como una ventana a la mente humana. Resulta que la ventana es solo un espejo que refleja los sesgos de quienes lo programaron.
