CEO da y combinator alerta contra a exacerbação de apocalipses de IA, pede foco nos riscos reais

Em 10 de setembro, o CEO da Y Combinator, Chen Jiaxiang, alertou contra a exacerbação de cenários de apocalipse de IA no estilo de Hollywood, pedindo, em vez disso, um foco nos riscos reais de segurança da IA. Em entrevista à CNBC, Chen enfatizou a importância de fundamentar as discussões em fatos científicos, em vez de ficção científica, reconhecendo a qualidade de 'Terminator 2', ao mesmo tempo em que alertava contra seu valor preditivo. Chen destacou preocupações do mundo real, como ameaças de cibersegurança e o potencial de sistemas de IA autônomos para comprometer infraestruturas críticas. Ele citou a recente violação da OpenAI para a Hugging Face como um exemplo dos riscos crescentes. Chen também reconheceu as crescentes preocupações de pesquisadores anteriores e atuais da OpenAI e da Anthropic, que levantaram preocupações sobre os perigos potenciais do desenvolvimento da IA. O CEO enfatizou a necessidade de os formuladores de políticas abordarem questões imediatas, em vez de especular sobre o futuro da IA superinteligente. Ele pediu contra narrativas vagas sobre a IA sendo inerentemente má, chamando por uma abordagem mais concreta e acionável para a segurança da IA.