El informe de Anthropic revela el papel de la IA en la vigilancia, la desinformación y el desarrollo de armas

El último informe de seguridad de Anthropic destaca el papel de la IA en la vigilancia, la desinformación y el desarrollo de armas. El informe describe siete áreas de riesgo, que incluyen operaciones cibernéticas, uso indebido de la biología y la vigilancia patrocinada por el estado. Detalla cinco estudios de caso en los que los usuarios intentaron diseñar armas biológicas utilizando Claude, incluyendo la investigación sobre el chikungunya y el orthopoxvirus. Anthropic también señala casos en los que Claude se utilizó para construir enjambres de drones autónomos y módulos de guerra electrónica. El informe advierte sobre el papel de la IA en amplificar las campañas de desinformación, particularmente durante las elecciones, y destaca una red de aplicación de citas fraudulenta que utilizó la IA para crear identidades falsas. Anthropic enfatiza la transparencia, prohíbe a los usuarios maliciosos y aboga por una regulación más estricta de la IA. La empresa firmó los proyectos de ley de supervisión de la IA de California, respaldados por OpenAI, ya que la industria se enfrenta a una creciente presión para abordar los riesgos de la IA. El informe también detalla los esfuerzos de vigilancia en China, Irán y África Occidental, donde se utilizó Claude para rastrear y perfilar a las personas. Anthropic ha descubierto que la IA ha permitido a los actores de amenazas automatizar las operaciones cibernéticas, incluyendo el phishing y el secuestro de DNS. La empresa ha interrumpido al menos nueve campañas de desinformación, algunas de las cuales abarcan varios continentes. Destaca la necesidad de concienciación pública y acción regulatoria a medida que las capacidades de la IA continúan evolucionando. Los hallazgos de Anthropic subrayan la urgente necesidad de salvaguardias contra el uso indebido de la IA, ya que la tecnología se vuelve más accesible tanto para actores criminales como estatales.