Anthropic alerta para necessidade de verificação de acordos sobre desenvolvimento de IA

Anthropic publicou uma carta aberta solicitando a implementação de mecanismos para pausar ou desacelerar actividades de investigação e desenvolvimento em inteligência artificial. A empresa argumenta que a velocidade da auto-melhoria recursiva em sistemas de IA representa um desafio significativo que requer coordenação na indústria. O dilema central identificado por Anthropic é que as empresas não conseguem implementar tal pausa unilateralmente sem criar desvantagens competitivas, a menos que os concorrentes adoptem medidas equivalentes. Isto cria a necessidade de tecnologias robustas de verificação para garantir que todos os actores cumprem acordos sobre o ritmo de desenvolvimento. Atualmente, apenas cerca de 50 pessoas trabalham em tecnologia de verificação para acordos de IA, um número que a empresa considera crítico e insuficiente. Anthropic participou num episódio do podcast "Your Undivided Attention" para explorar os desafios técnicos e políticos envolvidos na criação de sistemas de verificação efectivos para a indústria.