Congresista estadounidense presenta una legislación innovadora sobre la seguridad de la IA

El representante de EE. UU., Ro Khanna, un demócrata que representa Silicon Valley, está a punto de presentar un importante proyecto de ley de regulación de la IA. La legislación, denominada la 'Ley de IA con Control Humano', exige que los modelos de IA no puedan mejorar o reescribir sus objetivos centrales de forma autónoma sin la aprobación del gobierno. Khanna enfatizó los riesgos existenciales de la IA, afirmando: 'El riesgo de extinción de la civilización es real'. La ley requiere la supervisión federal y la aprobación regulatoria antes de que las empresas puedan implementar modelos de IA, con estrictos controles sobre la auto-iteración. La propuesta incluye la creación de una nueva agencia federal para supervisar la seguridad de la IA, hacer cumplir las licencias y realizar auditorías. Los laboratorios deben tener auditores independientes y adherirse a una lista de verificación de seguridad, que incluye pruebas en un entorno controlado, aislamiento físico y interruptores de apagado de emergencia. Los chips de alta gama utilizados en los laboratorios también están sujetos a regulación. La ley impone severas sanciones, clasificando el daño civil causado por la IA como un 'crimen contra la humanidad'. Los empleados que desactiven las medidas de seguridad o implementen sistemas no autorizados enfrentan cargos criminales. Las empresas también deben obtener un seguro de responsabilidad antes de lanzar modelos. Khanna, que consultó con grupos de seguridad de la IA sin fines de lucro, tiene como objetivo dar a la comunidad de seguridad una voz en la configuración de la política de la IA.