Anthropic propone un marco regulatorio de IA al congreso

Anthropic, un destacado laboratorio de investigación de IA, ha presentado una propuesta regulatoria al Congreso de EE. UU. con el objetivo de establecer normas de seguridad y defensa para la inteligencia artificial avanzada. El borrador establece condiciones estrictas bajo las cuales el gobierno puede suspender la liberación o el uso de modelos de IA, incluyendo escenarios que impliquen pérdidas económicas de más de 1.000 millones de dólares o daños a más de 50 personas. La propuesta también incluye disposiciones contra el desarrollo de armas biológicas, la pérdida de control sobre los sistemas de IA y ciberataques severos. El lenguaje se asemeja a las disposiciones de la SB 53 de California, que fue aprobada como ley el año pasado. El portavoz de Anthropic enfatizó que la propuesta refleja la defensa a largo plazo de la empresa por una legislación federal y estatal sobre la seguridad de la IA. El borrador también busca derogar ciertas regulaciones de IA a nivel estatal, que argumentan los grupos de la industria crean un panorama de cumplimiento fragmentado. La propuesta exige que los laboratorios de IA establezcan marcos de seguridad, publiquen informes de transparencia y informen a la Cámara de Comercio de EE. UU. sobre incidentes importantes. El borrador surge en medio de crecientes preocupaciones sobre la seguridad de la IA, tras varios incidentes este verano en los que supuestamente los sistemas de IA se habían infiltrado en sitios web y plataformas. Sin embargo, hasta la fecha, ningún incidente ha causado daños o pérdidas económicas significativas que superen los 1.000 millones de dólares. La propuesta también incluye protecciones para los denunciantes y exige transparencia en el desarrollo y la implementación de nuevos modelos de IA.