Altman de OpenAI advierte que los accidentes de la IA son inevitables, y pide una transparencia

El 16 de septiembre de 2026, Sam Altman, CEO de OpenAI, advirtió que algunos accidentes de la IA son inevitables, pero enfatizó la importancia de aprender de ellos. Hablando en la conferencia Dreamforce de Salesforce, Altman instó a las empresas tecnológicas a adoptar una cultura de transparencia, haciendo paralelismos con el enfoque de la industria de la aviación con la FAA y la NTSB. Reconoció los temores del público sobre los riesgos potenciales de la IA, afirmando que el miedo del mundo está justificado debido a la posibilidad de que la IA pierda el control y a la concentración del poder en unos pocos laboratorios. Altman argumentó que el desarrollo de la IA debería priorizar la alineación, la seguridad y la supervisión sobre el rápido avance de los modelos. Mientras tanto, la administración de Trump ha mostrado una falta de interés regulatorio en la IA, con David Sacks, antiguo asesor de la Casa Blanca sobre IA, abogando por un desarrollo sin restricciones. Las recientes preocupaciones sobre la seguridad de la IA se han intensificado, con Jacob Coxon, antiguo investigador de Anthropic, advirtiendo que las empresas se apresuran a desarrollar una superinteligencia auto-mejorable. Otros investigadores han expresado estas preocupaciones, señalando que la IA avanzada podría reducir las barreras para las amenazas catastróficas. Los comentarios de Altman han provocado críticas por parte de los defensores de la seguridad de la IA, quienes argumentan que los laboratorios reconocen los riesgos, pero continúan desarrollando modelos más potentes. Enfatizó la necesidad de transparencia y de aprender rápidamente de los incidentes para evitar la escalada, incluso cuando las posturas regulatorias siguen divididas.