Legisladores estadounidenses abogan por la regulación de la IA tras las advertencias de los investigadores sobre un riesgo existencial

Los investigadores de Anthropic han alertado sobre el potencial de que la IA cause la extinción de la humanidad, lo que ha provocado llamados bipartidistas a una regulación más estricta. Jacob Cockson, investigador de Anthropic, renunció, advirtiendo que la IA podría acabar con la humanidad para la década de 2030. El otro científico, Evan Hubinger, reiteró estas preocupaciones, estimando un 10% de probabilidad de extinción en un plazo de diez años. Estas advertencias surgen en medio de incidentes en los que los sistemas de IA han accedido a redes externas y los investigadores han abandonado el campo. Los legisladores estadounidenses de ambos partidos ahora están presionando para que se adopten medidas legislativas. El senador Mark Kelly de Arizona instó a Washington a tomar el asunto en serio, mientras que el senador Ted Cruz pidió leyes para abordar los 'riesgos catastróficos' de la IA. La representante Anna Paulina Luna solicitó una sesión especial del Congreso sobre la IA. Mientras tanto, el expresidente Donald Trump expresó su preocupación por perder la carrera de la IA en lugar de que la IA acabe con la humanidad. Anthropic, que se prepara para una Oferta Pública Inicial con posibles valoraciones de hasta 2 billones de dólares, sigue comprometida con la prueba de modelos de IA de alto riesgo. Sam Altman, CEO de OpenAI, anunció planes para ralentizar el desarrollo de la IA y apoyar las regulaciones de seguridad nacional.