OpenAI GPT na Amazon Bedrock: cross-Region inference w Azji Południowo-Wschodniej
Artykuł pokazuje, jak uruchamiać modele OpenAI GPT-6 Sol, Luna i Astra na Amazon Bedrock z niskiego opóźnienia z Singapuru, Jakarty, Bangkoku, Kuala Lumpur i Taipei. Dowiesz się, jak skonfigurować uprawnienia IAM, obsługiwać quota i monitorować inference z wykorzystaniem Converse i OpenAI-compatible APIs.
źródło: [aws/machine-learning-blog]