Las demandas por alucinaciones de la IA están llegando a tribunales en todo el mundo y van a cambiar fundamentalmente lo que significa la “IA responsable” en el contexto empresarial. Esto es lo que importa.
Las empresas de IA fueron advertidas. Durante años, los investigadores de seguridad han estado diciendo a quien quisiera escuchar que los sistemas de IA inventan información con absoluta confianza. Ahora, esas predicciones se están convirtiendo en responsabilidades legales. Y las empresas que utilizan la IA para asesoramiento médico, legal y financiero son las que están a punto de darse cuenta.
Ya se han interpuesto varios casos en los que personas confiaron en consejos generados por la IA —diagnósticos médicos, orientación jurídica, planificación financiera— y recibieron información errónea. Las demandas no se tratan de que “la IA se haya equivocado”. Se trata de si proporcionar información poco fiable con total seguridad conlleva consecuencias legales cuando la gente resulta perjudicada.
La pregunta ya no es hipotética. Los tribunales están decidiendo ahora si los consejos generados por la IA pueden ser considerados legalmente responsables. La respuesta determinará si las empresas pueden utilizar la IA en contextos de alto riesgo o si serán responsables de cada respuesta alucinada que genere su sistema.
Que los tribunales vengan por la IA no es una metáfora. Es una realidad jurídica que ya se está poniendo a prueba en las salas de juicio. Las empresas que no se preparen para ello ahora se enfrentarán a una enorme exposición legal en breve.
