Verificação criptográfica emerge como solução para controlar ritmo da corrida de IA

A Anthropic apela à possibilidade de desacelerar a corrida da IA, mas um problema fundamental o impede: não existem mecanismos para verificar o que cada laboratório está realmente a fazer, criando uma dinâmica onde ninguém se atreve a travar sozinho. Um pequeno grupo trabalha em soluções inspiradas pela Guerra Fria — tecnologias de verificação análogas aos satélites e monitores sísmicos que permitiam aos rivais nucleares confiar um no outro. A Lucid Computing e Kristian Ronn desenvolvem sistemas criptográficos capazes de confirmar se os laboratórios respeitam acordos sobre IA. A verificação por si só não resolve o problema, mas sistemas credíveis de confiança poderiam transformar o apelo para abrandar de slogan em realidade. Mais investigadores precisam envolver-se neste trabalho.