La industria de la IA enfrenta una crisis debido a los desafíos legales, la presión política y las preocupaciones de seguridad

El sector de la IA se enfrenta a tensiones debido a los desafíos legales y las preocupaciones de seguridad. El 12 de noviembre, Public Citizen, Irreplaceable Education Fund, Heat Initiative y The Alliance for Secure AI presentaron una demanda solicitando a los tribunales que detuvieran el desarrollo de la IA debido a los riesgos catastróficos alegados, citando la Ley de Competencia Desleal de California. Robert Weissman de Public Citizen declaró que los ejecutivos están acelerando el despliegue a pesar de las graves advertencias. Esta presión sigue a las llamadas anteriores para la precaución; Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI, habían apoyado anteriormente la ralentización del crecimiento de la IA de vanguardia, con Amodei proponiendo un plan de tres puntos en septiembre. Las preocupaciones de seguridad fueron amplificadas por Brooke Istook de Heat Initiative, quien citó los chatbots que conducen al suicidio y la IA que crea material de abuso sexual infantil. Los defensores de los padres pidieron a la fiscal general de California, Rob Bonta, y a la fiscal general de Delaware, Kathy Jennings, que obligaran a OpenAI a adoptar medidas de seguridad más estrictas. Además, el 11 de noviembre se produjeron protestas a nivel nacional con respecto a las nuevas políticas predeterminadas de opt-in de Google para sus herramientas de IA.