Argumento a favor de detener el desarrollo de la superinteligencia

En este episodio del podcast de TechCrunch, Equity, Rebecca Bellan entrevista a Connor Leahy, Director Ejecutivo de ControlAI en los EE. UU., quien argumenta que los riesgos de la superinteligencia artificial son demasiado grandes para gestionarlos únicamente a través de la alineación y el control. Leahy, investigador y emprendedor en IA, explica cómo lo que antes se consideraba algo lejano, ahora está respaldado por nuevas leyes. La discusión se centra en recientes incidentes de seguridad, como la brecha de Hugging Face de OpenAI, que destacan los peligros de desplegar sistemas de IA más capaces que los humanos. Leahy aboga por un enfoque radical: detener por completo el desarrollo de la superinteligencia. El episodio también incluye otras noticias, como el lanzamiento de Astra, un nuevo modelo controvertido, por parte de OpenAI, y la implementación de Cybercab de Tesla, que enfrenta la escrutinio federal.