La explotación de claude en el cibercrimen y el desarrollo de armas biológicas genera preocupación a nivel mundial

Anthropic ha publicado un informe que detalla el uso indebido generalizado de su modelo de IA, Claude, durante los últimos ocho meses. La herramienta ha sido utilizada para el hackeo patrocinado por el estado, el cibercrimen, las campañas de desinformación e incluso el desarrollo de armas biológicas. Los hackers rusos vinculados a Midnight Blizzard utilizaron Claude para la inteligencia, accediendo a las redes de gobierno de Ucrania y de Europa. El grupo de cibercriminales ShinyHunters aprovechó la IA en todas las etapas de sus ataques. Las campañas de desinformación en Kenia y Bangladesh también utilizaron la herramienta. Anthropic afirma haber interrumpido estas actividades, pero reconoce el potencial de un uso malicioso no detectado. Mientras tanto, el gobierno de EE. UU. ha confiscado los canales del mercado ilícito Xinbi, que operaba en Telegram y facilitaba actividades ilegales por valor de 30.000 millones de dólares, incluyendo estafas de criptomonedas y trata de personas. Meta ha recibido críticas por no haber eliminado vídeos generados por IA que mostraban abusos contra menores, a pesar de sus políticas contra dicho contenido.