OpenAI implementa salvaguardas para Astra mientras que Anthropic relaja restricciones en Fable

OpenAI anunció medidas de seguridad mejoradas para su modelo Astra, un sistema de IA fronterizo con capacidades avanzadas de codificación agentic y ciberseguridad. La empresa implementará entornos de prueba aislados, acceso restringido a redes y herramientas, monitoreo mejorado y ejecución en sandbox. Además, OpenAI introdujo monitoreo universal de la Chain of Thought del modelo para detectar e interrumpir actividades de alto riesgo durante el entrenamiento y la evaluación. Mientras tanto, Anthropic tomó una dirección diferente al relajar las restricciones en su modelo Fable para prompts relacionados con biología, un cambio que refleja la presión competitiva mientras que las empresas de IA chinas desarrollan alternativas competitivas de código abierto.