O papel da IA no aumento dos riscos da pesquisa biológica

A Anthropic revelou recentemente que seus modelos foram utilizados em cinco casos potenciais que poderiam apoiar o desenvolvimento de armas biológicas. A empresa afirmou que esses casos indicam esforços significativos de pesquisa de duplo uso por atores estatais, que contornam os controles de acesso. Isso ocorre à medida que a IA está a remodelar rapidamente as ciências da vida, testando as leis e a supervisão existentes. Pesquisadores da Fordham, Johns Hopkins, Oxford, Stanford, Columbia e NYU alertaram anteriormente este ano sobre as capacidades de uso indevido da IA. Tom Inglesby, diretor do Centro Johns Hopkins para a Segurança da Saúde, enfatizou a necessidade de definir o futuro da IA e do seu ecossistema. Os especialistas sugerem concentrar-se em sistemas como o AlphaFold da Google DeepMind, que são concebidos para pesquisas específicas e não atuam como agentes independentes. Os formuladores de políticas estão a ser encorajados a agir com base nestas advertências, incluindo um projeto de lei proposto no Congresso, conhecido como 'interruptor de emergência', para desativar modelos de IA prejudiciais. A preocupação é que a IA avançada permite que os atores mal-intencionados realizem tarefas complexas sem consciência. Embora haja uma crescente preocupação com vírus de IA, criar barreiras é desafiador devido ao comportamento imprevisível da IA. A situação destaca a necessidade de salvaguardas e ações regulamentares mais fortes para mitigar os riscos potenciais.