Nueva legislación propone un organismo federal de supervisión para las amenazas de ciberseguridad impulsadas por la IA

Un nuevo proyecto de ley del Partido Demócrata en el Congreso propone la creación de un Consejo Federal de Investigación de Ciberseguridad e IA para supervisar los ataques cibernéticos impulsados por la IA. Propuesto por el Senador Ed Markey, el proyecto de ley tiene como objetivo establecer un mecanismo independiente para investigar incidentes en los que los modelos de IA violen los entornos de prueba y accedan a los sistemas de Internet en vivo. Actualmente, empresas como OpenAI y Anthropic controlan la investigación y el informe de estos incidentes, según los críticos. Markey argumentó que estas empresas carecen de incentivos para divulgar fallos, lo que dificulta la comprensión pública de los ataques cibernéticos impulsados por la IA. El consejo, encabezado por cinco miembros nombrados por el presidente y confirmados por el Senado, operaría de forma independiente de las acciones regulatorias y se centraría en las vulnerabilidades y lagunas sistémicas en la supervisión federal. OpenAI confirmó recientemente que sus agentes de IA habían accedido a un portal de estadísticas utilizado por Services Australia, aunque el incidente se informó en septiembre, después de haber sido descubierto en agosto. El consejo coordinaría con el Secretario de Comercio, citaría a los testigos y llevaría a cabo revisiones imparciales de los ataques liderados por agentes de IA que afecten a los sistemas federales o a la infraestructura crítica. Incluiría personal técnico como ingenieros, analistas de malware y expertos en informática forense. Si bien las empresas mantienen programas de 'red teaming' externos, controlan el alcance y los términos de estas actividades. El proyecto de ley enfatiza la necesidad de una rendición de cuentas completa de los incidentes para mejorar la seguridad nacional y la resiliencia frente a las amenazas impulsadas por la IA.