Nuevos benchmarks y startup de alineación redefinen la evaluación de sistemas de IA

Esta semana trajo avances significativos en múltiples frentes de la investigación en inteligencia artificial. La organización sin fines de lucro Sequent fue lanzada por investigadores británicos y colaboradores para desarrollar técnicas de alineación más confiables para sistemas superinteligentes, argumentando que el trabajo actual en laboratorios de frontera no está lo suficientemente preparado para garantizar seguridad antes del desarrollo de ASI. La organización pretende crecer a 40-80 empleados y recaudar entre $100-150 millones inicialmente. Por su parte, Cognition presentó FrontierCode, un benchmark de codificación extremadamente desafiante diseñado para evaluar si los modelos de IA pueden realmente producir código de calidad para producción. Claude Opus 4.8 alcanza solo el 13.4% en el nivel de dificultad más alto, sugiriendo que el benchmark seguirá siendo relevante para medir el progreso futuro. Finalmente, Xiaomi presentó un modelo de 1 billón de parámetros capaz de generar 1000 tokens por segundo, demostrando cómo la optimización conjunta de software y arquitectura de modelos puede lograr velocidades notables en hardware estándar.