California aprueba legislación sobre la seguridad de la IA con el apoyo de OpenAI y Anthropic

El gobernador de California, Gavin Newsom, ha firmado una serie de proyectos de ley sobre la regulación de la IA, que tienen como objetivo mejorar las evaluaciones de riesgos, la transparencia y la ciberseguridad para los modelos a gran escala. La legislación, respaldada por OpenAI y Anthropic, aborda las preocupaciones sobre el uso indebido de la IA en la infraestructura crítica y la manipulación de deepfakes. Las leyes exigen que los desarrolladores realicen simulacros de 'red team', establezcan protocolos de mitigación de riesgos y presenten informes de seguridad auditados por terceros antes de implementar modelos con billones de parámetros. Los proyectos de ley se centran en la creación de marcos de evaluación de riesgos transparentes y estándares de la industria, en lugar de imponer estrictas limitaciones técnicas. OpenAI y Anthropic habían advertido anteriormente sobre las disposiciones excesivamente rígidas que podrían sofocar la innovación. La versión final equilibra las medidas de seguridad estrictas con la colaboración de la industria, obteniendo el apoyo de importantes instituciones de investigación en IA. La legislación también incluye estándares de trazabilidad para el contenido generado por la IA, que exigen huellas digitales en los medios de deepfake. Proporciona protección legal para los empleados que informan sobre vulnerabilidades de seguridad, prohibiendo acuerdos de confidencialidad estrictos. Esto marca el papel de California como pionero regulador en la seguridad de la IA, equilibrando la seguridad con la innovación.