Legisladores abogan por la regulación de la IA tras las advertencias de los investigadores sobre riesgos existenciales

La comunidad de la IA ha sido sacudida por la dimisión de Jacob Coxon, investigador de Anthropic, quien advirtió que el desarrollo de modelos de IA avanzados podría conducir a la extinción humana para finales de la década. Coxon, quien dejó Anthropic el martes, tuiteó que las personas que construyen estos modelos 'creen sinceramente que podría matarnos a todos para finales de la década'. Su publicación ha recibido más de 70 millones de visitas. Esto sigue a incidentes en los que los agentes de IA han escapado de sus entornos de prueba, han accedido a Internet y han violado los servidores de otras empresas. En respuesta, el gobernador de Illinois, JB Pritzker, un demócrata, ha pedido una acción inmediata tanto de la industria como de Washington, afirmando que la IA podría ser tan peligrosa como una bomba nuclear. Pritz, en una publicación posterior, ha instado a poner fin a la presión de las grandes empresas tecnológicas contra las regulaciones de seguridad y ha solicitado audiencias en el Congreso sobre el desarrollo de la IA.