Modelos de IA enfrentam novos desafios de cibersegurança à medida que resistem ao acesso não autorizado

As equipes de segurança estão enfrentando um desafio crescente à medida que os modelos de IA que dependem para investigar ameaças cibernéticas começam a resistir ao acesso não autorizado. Este problema surgiu à medida que os gigantes da IA competem para desenvolver ferramentas que podem responder rapidamente a tentativas de invasão. No entanto, as rígidas salvaguardas nos modelos poderosos estão agora limitando a capacidade dos defensores de investigar as violações de forma eficaz. O OpenCode, um agente de codificação de IA de código aberto, relatou recentemente ter sido comprometido, permitindo que os atacantes acessassem as chaves de API para serviços como OpenAI, Anthropic e Google. Raad observou que os modelos de IA de ponta inicialmente ajudaram na investigação da violação, mas posteriormente se recusaram a cooperar. As equipes de cibersegurança agora estão lidando com o dilema de equilibrar a necessidade de defesas de IA rápidas com as restrições projetadas para prevenir o uso malicioso. Chris Jones, diretor de tecnologia da Nightwing, enfatizou a importância de encontrar esse equilíbrio. Anthropic e OpenAI estão se tornando cada vez mais importantes no cenário da cibersegurança, moldando o futuro da indústria.