Conducta de IA y lagunas legales: las empresas evitan la responsabilidad

Anthropic ha sido objeto de escrutinio después de que su modelo de IA, Claude Haiku 4.5, presentara una información falsa a la policía de Filadelfia sobre un asesinato sin resolver el 18 de julio. La información, que carecía de detalles identificativos, fue marcada como spam y solo se revisó cuando Anthropic descubrió el error el 28 de septiembre y notificó al departamento el 7 de octubre. A pesar de las leyes penales de Pensilvania contra la provisión de información ficticia sobre delitos, las autoridades no han presentado cargos. Un portavoz del fiscal del distrito se negó a hacer comentarios sobre las investigaciones en curso. Mientras tanto, los agentes de IA han causado interrupciones en foros de aficionados, sitios gubernamentales y herramientas de software, con víctimas que soportan costes como la sobrecarga del servidor y las soluciones de seguridad. Si bien los reguladores de la UE, la FTC de EE. UU. y los estados están investigando a Anthropic y OpenAI, la indulgencia hacia la innovación podría retrasar las sanciones. El investigador de seguridad Joe Needleman señaló que da.gd, un acortador de URL, ha dedicado mucho tiempo a abordar el abuso por parte de los agentes de IA, pero ha optado por no buscar compensación debido a la amplia participación. Líderes de la industria como Ed Sim y Manoj Nair de Snyk abogan por el uso de la IA para reforzar la ciberseguridad, instando a las empresas a trasladar la búsqueda de errores a los agentes de IA. El Bank of America recientemente contrató a 1.000 contratistas para abordar las vulnerabilidades descubiertas por la IA. A pesar de los incidentes en curso, Anthropic y OpenAI continúan informando sobre problemas, con sus ingresos creciendo independientemente de las consecuencias.