SageMaker AI Studio ułatwia optymalizację modeli generatywnych
Amazon SageMaker AI Studio dostał nowe narzędzie do rekomendacji konfiguracji dla wdrażania modeli generatywnych – zamiast tygodni ręcznego tuningu, system automatycznie testuje różne kombinacje instancji GPU i technik optymalizacyjnych, zwracając gotowe do produkcji rekomendacje w kilka godzin. Możesz wybrać, czy zależy Ci na małych opóźnieniach, wysokiej przepustowości czy niskich kosztach, a SageMaker robi resztę, bez dodatkowych opłat za samo generowanie rekomendacji.
źródło: [aws/whats-new]