Shepherd permite que agentes de IA realicen bifurcaciones y reproduzcan estados de ejecución más rápido que Docker
Investigadores de las Universidades Northeastern y Stanford han lanzado Shepherd, un sustrato de tiempo de ejecución Python de código abierto diseñado para abordar un desafío crítico en sistemas de agentes de IA de larga duración: la capacidad de recuperarse eficientemente de errores sin recomputación costosa.
Los enfoques tradicionales para la recuperación de errores en agentes son costosos: reparar errores hacia adelante aumenta el tamaño del contexto y el consumo de tokens, mientras que reiniciar desde cero requiere reproducir todas las interacciones anteriores de modelos y herramientas. Shepherd resuelve esto grabando la ejecución del agente como un rastro similar a Git de eventos tipados, permitiendo a los ingenieros bifurcar cualquier estado anterior y reanudar desde allí.
El marco registra cada interacción agente-entorno como un evento tipado, creando un rastro de ejecución completo donde cada interacción funciona como una confirmación. A diferencia de Git, que solo rastrea archivos, los compromisos de Shepherd capturan tanto el estado del proceso del agente como el sistema de archivos a través de mecanismos de copia en escritura. Esto permite que una rama lleve estado vivo completo, habilitando bifurcaciones instantáneas a puntos de ejecución anteriores.
El desempeño es una ventaja clave: Shepherd bifurca procesos de agentes y sistemas de archivos 5 veces más rápido que contenedores Docker. Más críticamente, porque el prefijo de indicación hasta un punto de bifurcación permanece sin cambios, la reproducción desde una bifurcación logra reutilización de caché de indicación superior al 95%, reduciendo dramáticamente los costos de inferencia.
El marco está disponible actualmente en alfa temprano como un paquete con licencia MIT instalable a través de pip install shepherd-ai. Requiere Python 3.11 o posterior e incluye cumplimiento a nivel del sistema operativo en macOS y Linux. El equipo de investigación también formalizó operaciones principales en el asistente de prueba Lean y proporciona documentación completa, código fuente y datos experimentales.