Anthropic revela cinco casos de uso indebido de Claude en la guerra, la vigilancia y la represión

Anthropic, el laboratorio centrado en la seguridad de la IA detrás de Claude, ha revelado cinco instancias en las que su modelo de IA fue explotado con fines maliciosos. Los incidentes, descubiertos tras ocho meses de monitoreo y esfuerzos de interrupción, incluyen una operación relacionada con Irán dirigida contra las fuerzas navales estadounidenses, un equipo yemení que utilizaba Claude para construir misiles, un esfuerzo relacionado con China para rastrear a los uigures, y un individuo que utilizaba el modelo para crear sistemas de vigilancia para 25 millones de teléfonos. En un caso, una solicitud peligrosa de investigación de virus fue redirigida a otra IA después de que Claude rechazara la tarea. Estas revelaciones han intensificado la escrutinio sobre la seguridad de la IA, y ahora los legisladores en Washington consideran este asunto como una importante preocupación política. Los hallazgos de Anthropic destacan el creciente papel de los laboratorios de IA de vanguardia en las operaciones de inteligencia, lo que genera preocupación sobre el posible uso indebido de tecnologías avanzadas.