Deepgram przyspiesza voice AI na AWS Trainium

Deepgram zoptymalizował swój model Nova-3 do transkrypcji mowy, przenosząc go na AWS Trainium2 dla batch inference'u offline. W artykule znajdziesz szczegóły tuningu na poziomie kernela, implementacji runtime'u w Rust-ie oraz konkretne wyniki wydajności i kosztów dla transkrypcji na skalę.