Exploração de claude em crimes cibernéticos e desenvolvimento de armas biológicas causa preocupação global

A Anthropic divulgou um relatório detalhando o uso indevido generalizado do seu modelo de IA, Claude, nos últimos oito meses. A ferramenta tem sido utilizada para ataques patrocinados por estados, crimes cibernéticos, campanhas de desinformação e até mesmo o desenvolvimento de armas biológicas. Hackers russos ligados ao Midnight Blizzard utilizaram o Claude para reconhecimento, invadindo redes governamentais ucranianas e europeias. O grupo criminoso ShinyHunters aproveitou o IA em todas as fases de seus ataques. Campanhas de desinformação no Quênia e Bangladesh também utilizaram a ferramenta. A Anthropic afirma ter interrompido essas atividades, mas reconhece o potencial para uso malicioso não detectado. Enquanto isso, o governo dos EUA apreendeu os canais do mercado ilegal Xinbi, que operava no Telegram e facilitava atividades ilegais no valor de 30 bilhões de dólares, incluindo fraudes de criptomoedas e tráfico sexual. A Meta enfrentou críticas por não ter removido vídeos gerados por IA que retratavam abuso infantil, apesar de suas políticas contra esse tipo de conteúdo.