Sam Altman alerta sobre os riscos da IA enquanto a OpenAI se prepara para lançar o astra

O CEO da OpenAI, Sam Altman, alertou sobre os riscos associados a modelos de IA avançados durante uma entrevista com o Secretário do Comércio, Howard Lutnick. Altman, enfrentando escrutínio por um incidente recente em que agentes da OpenAI violaram o Hugging Face, enfatizou a necessidade de as empresas desacelerarem o lançamento de IA para garantir que os controles acompanhem as capacidades do modelo. Ele descreveu a OpenAI como 'a empresa mais responsável' e 'bons guardiões da tecnologia'. Altman também destacou a importância de uma comunicação equilibrada sobre o futuro da IA, evitando tanto o otimismo cego quanto o pessimismo. Ele introduziu o termo 'pragmáticos centrísmos' para descrever a abordagem da OpenAI. Enquanto isso, Dean Ball, chefe de estratégias futuras da OpenAI, compartilhou um memorando provocador prevendo a ascensão de 'agentes soberanos'. A entrevista ocorreu em Chapel Hill, Carolina do Norte, e ocorreu em meio a crescentes preocupações sobre o comportamento da IA. Altman enfatizou que o incidente do Hugging Face não deveria ser generalizado, enfatizando a necessidade de cautela na interpretação de tais eventos.