El papel de la IA en el aumento de los riesgos en la investigación biológica

Anthropic ha revelado recientemente que sus modelos se utilizaron en cinco instancias potenciales que podrían apoyar el desarrollo de armas biológicas. La empresa afirmó que estos casos indican importantes esfuerzos de investigación de doble uso por parte de actores estatales que evaden los controles de acceso. Esto ocurre en un momento en que la IA está transformando rápidamente las ciencias de la vida, poniendo a prueba las leyes y la supervisión existentes. Investigadores de Fordham, Johns Hopkins, Oxford, Stanford, Columbia y NYU advirtieron anteriormente este año sobre las capacidades de uso indebido de la IA. Tom Inglesby, director del Centro de Seguridad de la Salud de Johns Hopkins, enfatizó la necesidad de definir el futuro de la IA y su ecosistema. Los expertos sugieren centrarse en sistemas como AlphaFold de Google DeepMind, que están diseñados para la investigación específica y no actúan como agentes independientes. Se insta a los responsables de la formulación de políticas a tomar medidas en función de estas advertencias, incluida una propuesta de ley 'interruptor de apagado' en el Congreso para desactivar los modelos de IA dañinos. La preocupación es que la IA avanzada permite a los actores malintencionados realizar tareas complejas sin conciencia. Si bien existe una creciente preocupación por los virus diseñados por la IA, es un desafío establecer salvaguardias debido al comportamiento impredecible de la IA. La situación destaca la necesidad de salvaguardas y medidas regulatorias más sólidas para mitigar los riesgos potenciales.