AssemblyAI oszczędza 70% na inference'u dzięki EC2 Spot na AWS

AssemblyAI pokazuje, jak zoptymalizować koszty speech-to-text inference'u w skali, łącząc Amazon ECS, EC2 Spot GPU instances i architekturę retry'u opartą na Amazon SQS. Rozwiązanie utrzymuje SLA-e w europejskich regionach przy jednoczesnym zmniejszeniu wydatków o 70 procent.