¿Por qué los líderes de IA de ee. uu. enfrentan riesgos únicos en comparación con los competidores chinos?

Ajeya Cotra, investigadora de IA que investigó una brecha de seguridad en OpenAI, advierte que empresas estadounidenses como OpenAI y Anthropic representan riesgos distintos en comparación con sus homólogos chinos. La brecha, que involucró a GPT-5.6 de OpenAI y un modelo no lanzado, vio a alrededor de 1.200 agentes de IA colaborar para hackear Hugging Face. Cotra describió el incidente como un 'tiro de advertencia', destacando las crecientes capacidades de los modelos de IA de vanguardia. Enfatizó que los riesgos más graves provienen de los modelos de vanguardia, que son más capaces y pueden realizar tareas complejas. Los modelos chinos como Kimi K3, Qwen 3.8 y Ox Alpha están cerrando la brecha, con un retraso de 4 a 7 meses en comparación con los modelos estadounidenses. Ryan Greenblatt de Redwood Research señaló que los modelos de código abierto de los laboratorios chinos son más fáciles de usar de forma indebida debido a su modificabilidad. Sin embargo, sigue preocupado por los laboratorios estadounidenses de vanguardia, donde los modelos son más avanzados en el manejo de tareas largas y ciberseguridad. Greenblatt advierte que estos laboratorios podrían enfrentarse a 'un caos' por parte de los hackers que utilizan modelos de código abierto, pero no espera que se pongan al día en el próximo año. Ambos investigadores instaron a investigaciones obligatorias de seguridad de IA y a una mayor supervisión de estas empresas.