概要
このプレゼンテーションは、Azure OpenAI Serviceのプロビジョニングオプションについて説明しています。主な内容は、デプロイメントの選択肢、PTU(Provisioned Throughput Unit)の効果的な利用方法、購入およびキャンセルに関する注意事項などです。また、Azure OpenAI Serviceの提供方法やコスト削減のためのAzure Reservationsの利用方法についても触れています。
ドキュメント
https://learn.microsoft.com/en-us/azure/ai-services/openai/concepts/provisioned-throughput?tabs=global-ptum
新機能:Spillover
https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/spillover-traffic-management