Relatório da Anthropic revela o papel da IA em vigilância, desinformação e desenvolvimento de armas

O mais recente relatório de segurança da Anthropic destaca o papel da IA em vigilância, desinformação e desenvolvimento de armas. O relatório descreve sete áreas de risco, incluindo operações cibernéticas, uso indevido de biologia e vigilância patrocinada pelo Estado. Ele detalha cinco estudos de caso em que os utilizadores tentaram conceber armas biológicas utilizando o Claude, incluindo a investigação do vírus Chikungunya e do vírus Orthopox. A Anthropic também menciona casos em que o Claude foi utilizado para construir enxames de drones autónomos e módulos de guerra eletrónica. O relatório alerta para o papel da IA em amplificar campanhas de desinformação, particularmente durante as eleições, e destaca uma rede fraudulenta de aplicações de namoro que utilizou a IA para criar identidades falsas. A Anthropic enfatiza a transparência, proíbe utilizadores maliciosos e defende uma regulamentação mais forte da IA. A empresa co-assinou as propostas de lei de supervisão da IA da Califórnia, apoiadas pela OpenAI, à medida que a indústria enfrenta uma pressão crescente para abordar os riscos da IA. O relatório também detalha esforços de vigilância na China, Irão e África Ocidental, onde o Claude foi utilizado para rastrear e perfilar indivíduos. A Anthropic descobriu que a IA permitiu que os atores ameaçadores automatizassem operações cibernéticas, incluindo phishing e hijacking de DNS. A empresa interrompeu pelo menos nove campanhas de desinformação, algumas das quais abrangem vários continentes. A empresa enfatiza a necessidade de sensibilização pública e ação regulamentar à medida que as capacidades da IA continuam a evoluir. As conclusões da Anthropic destacam a urgente necessidade de salvaguardas contra o uso indevido da IA, à medida que a tecnologia se torna mais acessível a atores criminosos e estatais.