Plataforma Habitat da OpenAI escala para atender mais de 1 bilhão de usuários com azure cosmos db

A OpenAI escalou sua plataforma de armazenamento Habitat para atender mais de 1 bilhão de usuários, utilizando o Azure Cosmos DB para gerenciar um crescimento sem precedentes. A plataforma, que suporta mais de 500 petabytes de dados, foi desenvolvida para fornecer acesso rápido e confiável às informações para os produtos da OpenAI. O Habitat evoluiu de um cliente Python para um sistema de armazenamento distribuído globalmente, abordando desafios de confiabilidade, desempenho e escalabilidade. A empresa enfrentou desafios significativos com o Azure Cosmos DB, incluindo problemas de 'ruído' e limitações de taxa. Inicialmente, a OpenAI utilizou um único contêiner, o que levou a gargalos de desempenho. Eles migraram para um modelo multi-inquilino, permitindo uma melhor gestão de recursos e isolamento. No entanto, essa abordagem exigiu um planejamento cuidadoso e levou a complexidades operacionais. Em 2024, uma falha regional destacou a necessidade de uma colaboração mais próxima com o Azure. A OpenAI agora opera uma das maiores contas do Azure Cosmos DB, armazenando dezenas de petabytes de dados e processando mais de 20 milhões de consultas por segundo. A parceria com o Azure tem sido crucial para gerenciar a escala e a complexidade de suas necessidades de armazenamento.