Nueva legislación busca regular a los agentes de IA tras una brecha de seguridad

Los representantes Josh Gottheimer (D-N.J.) y Mike Lawler (R-N.Y.) han presentado el Stop Rogue AI Act, que busca establecer estándares para la seguridad de los agentes de IA, ante las crecientes preocupaciones de seguridad. El proyecto de ley, que inicialmente se compartió con Axios, surge tras una brecha en Hugging Face y otros incidentes que involucran a agentes de IA no controlados en los últimos dos meses. La legislación exige al Instituto Nacional de Estándares y Tecnología (NIST) que desarrolle directrices para el despliegue seguro de agentes de IA. Gottheimer enfatizó la necesidad de que las empresas identifiquen y conozcan el origen de los agentes en sus redes, calificando la situación actual como un 'riesgo de seguridad de alto nivel'. Si bien los estándares son voluntarios para la mayoría de las organizaciones, los contratistas federales que presenten ofertas para nuevos contratos deberán cumplir con las directrices de NIST. El proyecto de ley ha recibido el apoyo de varias empresas y grupos de la industria de EE. UU., entre ellas Palo Alto Networks y la AI Policy Network. El Stop Rogue AI Act se suma a otros esfuerzos legislativos en el Capitolio para mejorar la transparencia y la seguridad de los agentes de IA. A pesar de las crecientes preocupaciones, el Congreso ha tenido dificultades para mantenerse al día con los avances de la IA, y proyectos de ley anteriores relacionados con la IA han tenido un éxito limitado. La propuesta de Gottheimer y Lawler tiene como objetivo abordar los desafíos de los agentes de IA que operan sin supervisión, un problema que se está volviendo cada vez más complejo a medida que evoluciona la tecnología.