Anthropic bloquea múltiples intentos de usar la IA para la investigación de armas biológicas este año

Según el Financial Times, Anthropic ha revelado que ha bloqueado múltiples intentos de científicos de utilizar su tecnología de IA para la investigación que podría ayudar en el desarrollo de armas biológicas este año. La empresa ha enumerado cinco casos en los que los investigadores eludieron las medidas de control y utilizaron métodos engañosos para ocultar sus intenciones de investigación. Uno de los casos involucraba a un investigador de una 'región no reconocida' que utilizaba el modelo Claude para planificar experimentos sobre la gripe aviar durante varias semanas, con filtros de seguridad que restringían la investigación al modelo de menor rendimiento. Anthropic enfatizó que no puede determinar la intención de los científicos involucrados, señalando que la misma información podría utilizarse tanto para fines dañinos como beneficiosos. Anthropic ha prohibido las cuentas mencionadas en el informe, pero no ha revelado los nombres de las instituciones o países involucrados. La semana pasada, Jacob Coxon, investigador de seguridad de Anthropic, renunció, expresando su preocupación por el hecho de que la IA podría representar una amenaza existencial antes de finales de esta década. El informe también destaca las crecientes preocupaciones entre los ejecutivos de la IA y los investigadores de bioseguridad sobre la necesidad de medidas de seguridad y regulación en la aplicación de la IA a la biología, ya que la IA podría ser explotada por diversos actores para crear armas biológicas o diseñar virus.