Anthropic sinaliza proximidade com capacidade de IA auto-aperfeiçoada em novo documento

A Anthropic divulgou em seu novo documento S-1A que a empresa está se aproximando de um ponto de auto-aperfeiçoamento recursivo (RSI), um marco em que a IA acelera seu próprio desenvolvimento de forma drástica. Embora o documento detalhasse receitas crescentes junto com custos crescentes, a principal advertência girava em torno dos riscos associados à IA auxiliando na construção de sistemas de IA mais capazes. A empresa observou que o uso crescente de IA em pesquisa e desenvolvimento poderia fazer com que as capacidades do modelo avançassem mais rapidamente do que a capacidade de implementar medidas de segurança e alinhamento correspondentes. A Anthropic afirmou que estimativas internas sugerem que eles podem em breve atender à definição de progresso drasticamente acelerado atribuído à IA, conforme definido em sua Política de Escalabilidade Responsável, embora confirmassem que nenhum modelo atual havia cruzado esse limite. Apesar dessas precauções, a Anthropic indicou que não prevê ser capaz de projetar e construir modelos de ponta de forma segura e autônoma, sem supervisão humana significativa. Isso sugere que a empresa está ativamente considerando atualizações em sua Política de Escalabilidade Responsável para manter o controle humano sobre o desenvolvimento de modelos de ponta.