Agentes de IA y el dilema de la ciberseguridad

Los agentes de IA se han convertido en un punto central de las preocupaciones de ciberseguridad, con el CEO de Anthropic, Dario Amodei, advirtiendo que una enjambre de agentes maliciosos podría potencialmente tomar el control de Internet en un plazo de seis a doce meses, causando daños potenciales de miles de millones de dólares. Sin embargo, los profesionales de seguridad experimentados han descartado la idea como excesivamente alarmista. Los hackers ya están utilizando agentes de IA para la vigilancia, la extorsión y el descubrimiento de vulnerabilidades. Investigadores de Calif utilizaron la IA para desarrollar un gusano capaz de tomar el control de las cuentas de WeChat y propagarse automáticamente. Numa Dhamani de iVerify argumenta que es prácticamente imposible que los agentes de IA tomen el control de Internet debido al alto costo y los requisitos de recursos. Greg Notch de Expel describe el concepto de un enjambre malicioso como 'poco probable'. A pesar del escepticismo, los expertos están de acuerdo en que la IA está mejorando los ataques cibernéticos, haciéndolos más rápidos, más baratos y más efectivos, aunque no está cambiando fundamentalmente las tácticas que ya conocen los defensores.