Agentes de IA e o dilema da cibersegurança

Os agentes de IA tornaram-se um ponto central de preocupações com a cibersegurança, com o CEO da Anthropic, Dario Amodei, alertando que uma enxame de agentes maliciosos poderia potencialmente assumir o controlo da internet em seis a doze meses, causando danos potenciais na ordem de bilhões. No entanto, profissionais de segurança experientes descartaram a ideia como excessivamente alarmista. Hackers já estão a utilizar agentes de IA para vigilância, extorsão e descoberta de vulnerabilidades. Pesquisadores da Calif usaram IA para desenvolver um worm capaz de tomar o controlo de contas do WeChat e propagá-lo automaticamente. Numa Dhamani de iVerify argumenta que é quase impossível para os agentes de IA assumir o controlo da internet devido aos altos custos e requisitos de recursos. Greg Notch de Expel descreve o conceito de um enxame malicioso como 'improvável'. Apesar do ceticismo, os especialistas concordam que a IA está a melhorar os ataques cibernéticos, tornando-os mais rápidos, baratos e eficazes, embora não esteja a mudar fundamentalmente as táticas que os defensores já conhecem.