ChatGPTを支えるPostgreSQL、8億人規模に対応した高速化の裏側

当サイトではアフィリエイトプログラムを利用して商品を紹介しています。

OpenAIは、ChatGPTやAPIプラットフォームを支える基盤技術であるPostgreSQLの、8億人規模のユーザーに対応するためのスケーリング戦略を公開しました。 当初、急速なユーザー増加に伴うデータベースへの負荷増大に対して、インスタンスサイズの拡大やリードレプリカの追加といった基本的なスケールアップ・スケールアウトで対応してきましたが、キャッシュミスや高負荷なJOIN処理、新機能ローンチによる書き込みの急増が原因で、サービス障害（SEV）を引き起こすケースが複数発生しました。特に、PostgreSQLのMVCC（Multi-Version Concurrency Control）実装は、書き込み負荷が高い場合にパフォーマンス低下を招くことが課題として挙げられています。 この課題に対し、OpenAIは書き込み負荷の高い処理をAzure Cosmos DBなどのシャーディングされたシステムへ移行し、アプリケーションロジックの最適化によって不要な書き込みを削減しました。また、PostgreSQLのプライマリインスタンスへの負荷を最小限に抑えるため、読み取り処理の大部分を約50のリードレプリカにオフロードしています。さらに、単一プライマリ構成の単一障害点（SPOF）リスクを軽減するため、ホットスタンバイによる高可用性（HA）構成を採用し、プライマリ障害発生時には自動的なフェイルオーバーが行われる仕組みを構築しています。 これらの数々の最適化と堅牢なエンジニアリングにより、PostgreSQLは毎秒数百万クエリ（QPS）の処理能力を達成し、ChatGPTの膨大なトラフィックを安定して支えています。