La plataforma Habitat de OpenAI escala para servir a más de 1.000 millones de usuarios con azure cosmos db

OpenAI ha escalado su plataforma de almacenamiento Habitat para servir a más de 1.000 millones de usuarios, aprovechando Azure Cosmos DB para gestionar un crecimiento sin precedentes. La plataforma, que admite más de 500 petabytes de datos, se desarrolló para proporcionar un acceso rápido y fiable a la información para los productos de OpenAI. Habitat evolucionó de un cliente de Python a un sistema de almacenamiento distribuido a nivel mundial, abordando los desafíos relacionados con la fiabilidad, el rendimiento y la escalabilidad. La empresa se enfrentó a importantes desafíos con Azure Cosmos DB, incluyendo problemas de 'vecinos ruidosos' y limitaciones de rendimiento. Inicialmente, OpenAI utilizaba un único contenedor, pero esto provocó cuellos de botella de rendimiento. Pasaron a un modelo multiarrendatario, lo que permitió una mejor gestión de los recursos y aislamiento. Sin embargo, este enfoque requirió una planificación cuidadosa y dio lugar a complejidades operativas. En 2024, una interrupción regional puso de manifiesto la necesidad de una mayor colaboración con Azure. OpenAI ahora opera una de las cuentas de Azure Cosmos DB más grandes, almacenando decenas de petabytes de datos y gestionando más de 20 millones de consultas por segundo. La colaboración con Azure ha sido crucial para gestionar la escala y la complejidad de sus necesidades de almacenamiento.