Anthropic insta a california a permitir acciones legales contra modelos de IA de alto riesgo

El 29 de octubre de 2026, Reuters informó que Anthropic, una empresa de IA, envió una carta al gobernador de California, Gavin Newsom, instándole a que el gobierno tuviera la autoridad para solicitar órdenes judiciales para bloquear la liberación de modelos de IA que se consideran que representan un 'riesgo grave' para el público. Esto se produce después de que Anthropic también enfrentara restricciones gubernamentales a principios de este año, cuando el gobierno de EE. UU. inicialmente ordenó que limitara el acceso extranjero a sus modelos Mythos 5 y Fable 5 debido a preocupaciones de seguridad nacional, pero posteriormente revocó la decisión. En septiembre de 2026, Newsom convocó a un panel de expertos en IA para desarrollar recomendaciones de seguridad, a las que Anthropic presentó sus opiniones. OpenAI también presentó sus propias recomendaciones a Newsom en octubre. Anthropic enfatizó que un 'interruptor de apagado de emergencia' podría crear una falsa sensación de seguridad, prefiriendo en cambio medidas específicas como la desactivación de agentes de IA problemáticos o la suspensión del acceso de clientes específicos. Mientras tanto, un proyecto de ley bipartidista en el Senado de septiembre de 2026 tenía como objetivo autorizar al gobierno a prohibir los modelos de IA que se consideran inseguros, con la opción para que las empresas impugnen la decisión en los tribunales federales. Sin embargo, el proyecto de ley quedó estancado cuando el Congreso entró en su período electoral. En julio, un proyecto de ley de la Cámara de Representantes propuso otorgar a los funcionarios gubernamentales el poder de cerrar modelos de IA que amenacen la vida humana o la economía.