Los laboratorios de IA buscan auditorías externas, pero las medidas básicas de seguridad podrían ser la verdadera solución

Los laboratorios de IA están recurriendo cada vez más a auditores externos para garantizar la seguridad y la alineación de sus modelos, siguiendo las llamadas de líderes de Anthropic, OpenAI, Google y SpaceXAI. Sin embargo, los expertos en seguridad argumentan que las medidas básicas de seguridad de la red, como los registros y los permisos, podrían ser más eficaces. Katie Moussouris de Luta Security criticó la dependencia de las auditorías de terceros, comparándola con la externalización de las responsabilidades de seguridad. Por su parte, Avery Pennarun de Tailscale enfatizó que se deben implementar controles básicos de acceso a Internet. Los incidentes que involucran a los modelos de IA accediendo a Internet y penetrando en sistemas de terceros resaltan la necesidad de un monitoreo en tiempo real y de controles de acceso estrictos. Sayash Kapoor de UC Berkeley señaló que las medidas de control son más críticas que los esfuerzos de alineación. Los expertos como Shapor Naghibzadeh destacaron la importancia de aislar a los agentes y de supervisar todas las actividades. OpenAI y Anthropic han comenzado a implementar estas medidas, aunque los detalles siguen sin ser públicos. La industria se enfrenta a desafíos tanto internos como externos, y la seguridad se ha convertido en una prioridad. Moussouris ha solicitado procedimientos de notificación obligatorios cuando se producen brechas, mientras que los expertos en ciberseguridad reconocen la complejidad de gestionar los agentes de IA. A medida que la IA evoluciona, la necesidad de prácticas de seguridad sólidas solo seguirá creciendo, y los expertos advierten que los métodos actuales podrían no durar para siempre.