Por que armas biológicas impulsionadas por IA não representam uma ameaça imediata

As preocupações sobre apocalipses causadas por IA se intensificaram, com armas biológicas sendo uma das principais teorias sobre como uma IA descontrolada poderia ameaçar a humanidade. No início deste ano, os CEOs de IA defenderam novas leis para controlar a fabricação de DNA sintético, e no mês passado, o Stanford e o Arc Institute demonstraram a capacidade da IA de projetar genomas virais. O relatório da Anthropic destacou os riscos de usar o Claude para armas biológicas, o que levou Dario Amodei a defender a supervisão governamental. Especialistas argumentam que o risco de IA criar armas biológicas é baixo. David Bellamy nota que a IA é uma ferramenta que pode ajudar tanto atores bons quanto maus, mas o principal obstáculo reside na montagem de vírus e na obtenção de materiais necessários. Jason Kelly da Ginkgo Bioworks acrescenta que os humanos impediriam que a IA acessasse os recursos de laboratório, tornando o desenvolvimento em larga escala de armas biológicas improvável. Derya Unutmaz acredita que os cientistas poderiam desenvolver rapidamente vacinas se um supervírus fosse liberado. Olivia Scharfman adverte sobre o terrorismo biológico assistido por IA, citando grupos como sucessores de IA transhumanistas. Francois Belloux argumenta que armas biológicas não são uma escolha prática para causar grandes baixas, pois são logisticamente complexas em comparação com outros métodos. Steph Guerra sugere salvaguardas em camadas, incluindo legislação para a síntese de DNA e vigilância global, para mitigar os riscos. Unutmaz enfatiza a necessidade de se concentrar no potencial positivo da IA em avanços médicos.