Rozproszone trenowanie modeli ML na EKS bez budowania obrazów
Ray Train DLCs przychodzą z gotowym stosem CUDA i EFA, dzięki czemu możesz od razu trenować. Artykuł pokazuje praktyczny przykład fine-tuningu Qwen2.5-1.5B z PyTorch FSDP na ośmiu GPU-ach rozłożonych na dwóch instancjach g6.12xlarge w Amazon EKS.
źródło: [aws/machine-learning-blog]