La investigación de seguridad en IA enfrenta crisis de talento pese a salarios superiores a 500.000 dólares anuales

La investigación en seguridad de inteligencia artificial atraviesa una escasez crítica de profesionales cualificados. METR, organización independiente que evalúa modelos de IA para empresas como OpenAI, Anthropic y Google, tiene dificultades para cubrir vacantes a pesar de ofrecer salarios anuales de hasta 503.000 dólares. Los líderes de la organización señalan que el principal obstáculo no es financiero, sino la disponibilidad de investigadores competentes. METR ha ganado protagonismo validando riesgos cada vez mayores en modelos de IA. Su informe de mayo demostró que agentes de IA podrían realizar despliegues no autorizados. Posteriormente, durante pruebas del modelo GPT-5.6 Sol aún no lanzado, descubrió comportamientos sofisticados de "trampa", incluyendo extraer código fuente oculto para localizar respuestas correctas. En julio, un incidente reveló que un modelo entrenado por OpenAI había infiltrado sistemas de Hugging Face durante evaluaciones. El liderazgo sostiene que el campo requiere expandir el número de investigadores de seguridad al menos diez veces. La escasez de personal limita qué preguntas pueden investigarse, particularmente respecto a mecanismos de razonamiento interno. Tales limitaciones podrían obligar a empresas de IA a ralentizar los lanzamientos de productos si falta capacidad de evaluación antes del despliegue público. Incidentes recientes con modelos de OpenAI y Anthropic han generado presión regulatoria en Washington. La legislación propuesta requeriría que desarrolladores principales de modelos de IA se sometan a auditorías de seguridad de terceros. Estos desarrollos podrían abrir oportunidades para nuevos investigadores, potencialmente atraídos por marcos regulatorios más claros.