Tańsze agenty AI dzięki knowledge distillation na SageMaker
Amazon SageMaker AI pokazuje, jak za pomocą sequence-level knowledge distillation (SeqKD) przenieść zachowanie dużych modeli frontier do mniejszych, tańszych studentów. To rozwiązanie pozwala utrzymać skalę produkcyjną bez szalonego rachunku za każdy krok w pętli narzędziowej agenta.
źródło: [aws/machine-learning-blog]