El CEO de OpenAI advierte sobre dos caminos para la pérdida de control de la IA: autonomía o monopolio

Sam Altman, CEO de OpenAI, recientemente advirtió que la inteligencia artificial podría volverse incontrolable a través de dos vías principales. Durante una aparición en el podcast de Raj Shamani, Altman detalló estos riesgos, sugiriendo que el control podría pasar gradualmente a sistemas de IA autónomos o concentrarse en manos de una sola entidad. En lo que respecta al primer escenario, Altman advirtió que la humanidad podría ceder involuntariamente o intencionalmente el control a sistemas que superen con creces la capacidad humana, lo que haría imposible recuperarlos. El segundo riesgo implica una centralización extrema, donde una sola persona, corporación o nación obtenga un poder abrumador. Altman argumentó que fomentar la competencia entre los laboratorios de IA que persiguen diferentes caminos de desarrollo es significativamente más seguro que depender de una sola empresa. Esta preocupación por la excesiva centralización ha sido citada como una razón por la que figuras destacadas, incluyendo a Elon Musk y antiguos ejecutivos de OpenAI, han optado por dejar para fundar empresas competidoras. A pesar de estas advertencias, Altman mantuvo su creencia de que la IA traerá un futuro mejor para la humanidad, destacando específicamente el potencial de los modelos de IA de próxima generación para impulsar el progreso continuo en la investigación científica básica.