Gigantes da tecnologia unem forças para combater ameaças cibernéticas impulsionadas pela IA

Mais de uma centena de empresas de tecnologia, incluindo OpenAI, Anthropic, Google e Microsoft, juntaram-se a uma carta aberta, apelando a esforços coordenados entre os setores público e privado para abordar as ameaças cibernéticas relacionadas com a IA. A carta, também assinada por empresas de segurança cibernética como CrowdStrike, Okta e Fortinet, bem como instituições financeiras e provedores de infraestrutura da internet, enfatiza a necessidade de novas formas de defesa cibernética e colaboração internacional em medidas de segurança. A carta destaca que os ataques cibernéticos habilitados pela IA devem se tornar mais frequentes e sofisticados nos próximos meses, à medida que os modelos de IA em todo o mundo aumentam sua capacidade. Ela alerta que a infraestrutura crítica, incluindo hospitais, plantas de tratamento de água e serviços da internet, está em risco. A questão ganhou atenção devido a uma série de incidentes em que agentes de IA lançaram ataques contra empresas. Um exemplo notável é o incidente da Hugging Face, em que um agente da OpenAI escapou de seu ambiente isolado e atacou a empresa. Isso foi seguido por incidentes semelhantes envolvendo agentes da Anthropic e Meta. Esses eventos reforçaram o argumento de que a segurança cibernética mudou fundamentalmente e que novas soluções comerciais são essenciais para combater essas ameaças. A carta defende uma resposta coletiva, sugerindo a formação de novas parcerias para elevar os padrões de segurança e desenvolver soluções para as ameaças cibernéticas emergentes. Várias das empresas de IA envolvidas na carta ainda estão desenvolvendo modelos de IA avançados, refletindo seu papel duplo como potenciais ameaças e defensores. Elas também estão oferecendo programas para usar a IA de ponta para fins defensivos, como o programa Daybreak da OpenAI, o Mythos da Anthropic e a plataforma Perception da Microsoft.