Los ejecutivos de IA se preparan para una posible crisis a medida que aumentan las preocupaciones

Los principales ejecutivos de Anthropic, OpenAI y otras empresas de IA se están preparando en secreto para una posible reacción pública y política tras un importante incidente de IA. Estos ejecutivos anticipan un evento a gran escala, probablemente un ciberataque, que podría interrumpir los servicios financieros, el acceso a Internet o incluso servicios públicos esenciales como la energía y el agua. Si bien la planificación de escenarios es común en muchas organizaciones, la urgencia se ve intensificada por la creencia entre los investigadores de IA de que un incidente significativo es inevitable. La planificación implica la realización de simulacros para los peores escenarios y centrarse en la educación del Congreso. Un asistente demócrata señaló que Washington podría superar las diferencias partidistas en una crisis real, citando la cooperación pasada durante la pandemia de COVID-19 y la crisis financiera de 2008. Muchos expertos en IA creen que un evento importante podría ocurrir en los próximos seis a 12 meses. Se espera que el juego de culpas comience independientemente de si el incidente proviene de una enjambre de agentes descontrolados que escapan de las pruebas internas o de un actor malicioso que explota los modelos disponibles. Los planificadores de IA asumen que los demócratas, que ahora están en el poder tras las elecciones, actuarán rápidamente para detener el desarrollo de la IA, pero se enfrentarán a importantes desafíos. La situación destaca las crecientes preocupaciones sobre los riesgos potenciales de los sistemas de IA avanzados y la necesidad de preparación tanto en el sector privado como en las agencias gubernamentales.