¿Las armas biológicas impulsadas por la IA no representan una amenaza inmediata?

Las preocupaciones sobre los apocalipsis inducidos por la IA se han intensificado, y las armas biológicas son una de las principales teorías sobre cómo una IA descontrolada podría amenazar a la humanidad. A principios de este año, los CEOs de la IA pidieron nuevas leyes para controlar la fabricación de ADN sintético, y el mes pasado, Stanford y el Arc Institute demostraron la capacidad de la IA para diseñar genomas virales. El informe de Anthropic destacó los riesgos de utilizar Claude para armas biológicas, lo que provocó que Dario Amodei instara a la supervisión gubernamental. Los expertos argumentan que el riesgo de que la IA cree armas biológicas es bajo. David Bellamy señala que la IA es una herramienta que puede ayudar tanto a los actores buenos como a los malos, pero el verdadero cuello de botella reside en la creación de virus y la adquisición de materiales necesarios. Jason Kelly de Ginkgo Bioworks añade que los humanos impedirían que la IA accediera a los recursos del laboratorio, lo que haría improbable el desarrollo a gran escala de armas biológicas. Derya Unutmaz cree que los científicos podrían desarrollar rápidamente vacunas si se liberara un supervirus. Olivia Scharfman advierte sobre el terrorismo biológico asistido por la IA, citando grupos como los sucesores de la IA transhumanista. Francois Belloux argumenta que las armas biológicas no son una opción práctica para causar grandes bajas, ya que son logísticamente complejas en comparación con otros métodos. Steph Guerra sugiere medidas de seguridad en capas, incluida la legislación para la síntesis de ADN y la vigilancia global, para mitigar los riesgos. Unutmaz enfatiza la necesidad de centrarse en el potencial positivo de la IA en los avances médicos.