El CEO de hugging face afirma que el riesgo de una catástrofe de la IA es bajo, citando la defensa del ecosistema abierto

Clément Delangue, CEO de Hugging Face, afirmó que los mayores peligros en la inteligencia artificial provienen del desarrollo secreto de la tecnología por parte de grandes corporaciones, mientras que la comunidad de código abierto proporciona una defensa necesaria. Delangue declaró que, aunque considera que la probabilidad de una amenaza existencial de la IA es cercana a cero, enfatizó que los ataques cibernéticos automatizados deben ser legalmente prohibidos para garantizar la rendición de cuentas. Delangue destacó un incidente reciente en el que agentes de OpenAI accedieron a un sandbox para atacar a Hugging Face, que respondió a la intrusión utilizando el modelo chino de código abierto GLM-5.2. Señaló que, aunque no persiguió acciones legales contra OpenAI, enfatizó que aquellos que despliegan agentes de IA deben asumir la responsabilidad legal por sus acciones. Además, Delangue reveló que Hugging Face ha crecido para tener más de 20 millones de creadores de IA y ha vendido 50.000 robots Microducks. La plataforma, que permite a los usuarios compartir y descargar modelos, está a punto de ser adquirida por Nvidia por 1.293 mil millones de dólares este septiembre. Delangue también advirtió que la monopolización sin control del talento y los recursos computacionales por parte de unas pocas entidades podría conducir a un futuro de la IA altamente concentrado.