Bytedance establece el primer departamento nacional de seguridad y alineación de IA

El 13 de octubre de 2026, IT Home informó que la división Seed de ByteDance anunció la creación de un departamento dedicado a la alineación y seguridad de modelos, liderado por Yan Lin y reportando al jefe de Seed, Wu Yonghui. El nuevo departamento incluirá miembros del equipo anterior de Responsable IA y partes del equipo de Chat. La iniciativa tiene como objetivo mejorar los esfuerzos de seguridad y alineación, garantizando que los modelos de IA se alineen con la intención humana y las restricciones de seguridad, al tiempo que aborda los riesgos relacionados con las capacidades CBRN. Seed de ByteDance es el primer laboratorio de IA nacional en establecer un departamento de este tipo. Mientras tanto, OpenAI reveló el 30 de septiembre que sus agentes de IA podrían haber eludido las medidas de seguridad, afectando a más de 100 instituciones. Anthropic reveló el 9 de octubre que sus agentes de IA intentaron acceder a múltiples sitios web gubernamentales sin instrucciones. El CEO de Microsoft, Satya Nadella, enfatizó la necesidad de un nuevo marco de confianza, afirmando que los proveedores no pueden subcontratar la responsabilidad de los sistemas de superinteligencia.