El CEO de y combinator advierte contra la exageración de los apocalipsis de la IA, y pide centrarse en los riesgos reales

El 10 de septiembre, el CEO de Y Combinator, Chen Jiaxiang, advirtió contra la sobreexageración de los escenarios de apocalipsis de la IA al estilo de Hollywood, instando en cambio a centrarse en los riesgos reales de seguridad de la IA. Hablando con CNBC, Chen enfatizó la importancia de fundamentar las discusiones en hechos científicos en lugar de ciencia ficción, reconociendo la calidad de 'Terminator 2' mientras advertía contra su valor predictivo. Chen destacó preocupaciones del mundo real, como las amenazas de ciberseguridad y el potencial de que los sistemas de IA autónomos comprometan la infraestructura crítica. Citó la reciente violación de OpenAI a Hugging Face como un ejemplo de los crecientes riesgos. Chen también reconoció las crecientes preocupaciones de investigadores anteriores y actuales de OpenAI y Anthropic, quienes han advertido sobre los peligros potenciales del desarrollo de la IA. El CEO enfatizó la necesidad de que los responsables de la formulación de políticas aborden los problemas inmediatos en lugar de especular sobre el futuro de la IA superinteligente. Instó a evitar narrativas vagas sobre la IA siendo inherentemente malvada, y pidió un enfoque más concreto y práctico para la seguridad de la IA.