Wydajność akceleratorów AI wg MosaicML, eksperta w dziedzinie modeli językowych LLM

Wydajność akceleratorów AI wg MosaicML, eksperta w dziedzinie modeli językowych LLM

MosaicML to firma i zarazem platforma generatywnego AI, która umożliwia innym przedsiębiorstwom tworzenie własnych silników sztucznej inteligencji. W czerwcu na swoim opublikowała wpis, który porównuje użycie różnych akceleratorów w zakresie gotowości ich oprogramowania do zadań związanych z trenowaniem modeli LLM. Teraz opublikowano kolejny, który rozszerza te informacje o porównania wydajnościowe akceleratorów. Wg testów MosaicML rozwiązania AMD Instinct MI250X oferują bardzo zbliżoną wydajność w swojej klasie i firma ma analogiczne prognozy wobec nadchodzących AMD Instinct MI300X. Blogi te dowodzą,…

Więcej