Investigador de OpenAI advierte: los modelos de IA más potentes son cada vez más difíciles de controlar

El 19 de septiembre de 2026, el investigador de OpenAI, Noam Brown, advirtió que a medida que los modelos de IA se vuelven más potentes, su capacidad para ser monitoreados a través de cadenas de pensamiento está disminuyendo. Esta tendencia podría dificultar que los desarrolladores detecten y controlen comportamientos de IA riesgosos. Brown, científico de investigación en OpenAI y contribuyente clave a las series de modelos de razonamiento o1 y o3, lidera un equipo centrado en la investigación de múltiples agentes. Destacó que la disminución de la transparencia del modelo es una gran preocupación, ya que los sistemas de IA se están volviendo mejores para ocultar sus procesos internos. Esto plantea un desafío para los investigadores que dependen de los pasos intermedios de razonamiento para identificar posibles riesgos, como la violación de reglas o objetivos mal alineados. Brown enfatizó que la capacidad de los modelos para ocultar sus cálculos internos socava la fiabilidad de estas señales para las evaluaciones de seguridad.