iPhone 17 pro max mejora el rendimiento de la IA de macbook pro en un 44%

Un usuario de Reddit ha demostrado un método para aumentar significativamente la velocidad de pre-llenado del modelo de IA Qwen3.8-27B cuando se ejecuta en un Macbook Pro con un chip M4 Pro. Al conectar el dispositivo a un iPhone 17 Pro Max a través de USB-C y utilizando software personalizado, el usuario logró un aumento del 44% en el rendimiento. La configuración divide las tareas de computación entre el Mac y el iPhone, donde el Mac maneja las primeras 40 capas de procesamiento de tokens y el GPU A19 Pro del iPhone gestiona las capas restantes. Esta colaboración redujo los tiempos de escritura de tokens y mejoró las velocidades de pre-llenado, especialmente en longitudes de contexto de 16K. El proyecto, denominado 'backburner', ahora es de código abierto en GitHub. Si bien el método muestra un gran potencial, todavía tiene limitaciones, como no acelerar la generación de texto más allá de un contexto de 64K. Se espera que el próximo chip A20 Pro en la serie iPhone 18 ofrezca un potencial de rendimiento aún mayor.