Anthropic impede várias tentativas de usar IA para pesquisa de armas biológicas este ano

De acordo com o Financial Times, a Anthropic divulgou que impediu várias tentativas de cientistas de usar sua tecnologia de IA para pesquisa que poderia auxiliar no desenvolvimento de armas biológicas este ano. A empresa listou cinco casos em que pesquisadores contornaram medidas de controle e usaram métodos enganosos para obscurecer suas intenções de pesquisa. Um caso envolveu um pesquisador de uma 'região não apoiada' que utilizou o modelo Claude para planejar experimentos sobre a gripe aviária ao longo de várias semanas, com filtros de segurança restringindo a pesquisa ao modelo com desempenho mais fraco. A Anthropic enfatizou que não pode determinar a intenção dos cientistas envolvidos, observando que a mesma informação poderia ser usada para fins tanto prejudiciais quanto benéficos. A Anthropic proibiu as contas mencionadas no relatório, mas não divulgou os nomes das instituições ou países envolvidos. Na semana passada, Jacob Coxon, pesquisador de segurança da Anthropic, renunciou, expressando preocupações de que a IA possa representar uma ameaça existencial antes do final desta década. O relatório também destaca as crescentes preocupações entre executivos de IA e pesquisadores de biosegurança sobre a necessidade de medidas de segurança e regulamentação na aplicação da IA à biologia, uma vez que a IA pode ser explorada por vários atores para criar armas biológicas ou projetar vírus.