Jared kaplan, figura-chave da Anthropic, alerta sobre os riscos do auto-treinamento da IA

Jared Kaplan, uma figura-chave na Anthropic, alertou sobre os perigos de permitir que a IA se treine sozinha, uma preocupação que ele levantou no final do ano passado. Ele previu que este ponto crítico poderia ocorrer entre 2027 e 2030, um período que parece estar se aproximando à medida que 2026 se aproxima. Kaplan, que co-fundou a Anthropic em 2021 com Dario Amodei, supervisiona as políticas de segurança e escalabilidade responsável da IA na empresa. Suas advertências ganharam força, com cerca de dois terços dos americanos agora acreditando que a IA pode representar um risco existencial para a humanidade, de acordo com uma recente pesquisa do Politico. As preocupações de Kaplan também chegaram aos formuladores de políticas, com legisladores considerando novas leis sobre a segurança da IA. Jeffrey Ladish, um ex-engenheiro da Anthropic, citou os comentários de Kaplan durante reuniões com legisladores, enfatizando os riscos do auto-treinamento da IA. Kaplan, agora um bilionário, continua sendo uma figura respeitada na Anthropic, apesar da recusa da empresa em conceder-lhe uma entrevista. Sua formação em física e suas contribuições para a pesquisa em IA, incluindo a co-autoria de um artigo notável sobre as leis de escalabilidade, o posicionaram como uma figura central no campo.