I presstjänsten AMD meddelade att företaget har släppt en ny version av ROCm 6.3 öppen källkod. Denna programvara har fått ytterligare avancerade verktyg för att förenkla utvecklingsprocessen och ge ännu bättre prestanda och skalbarhet för AI och högpresterande datorer (HPC) arbetsbelastningar.
Följ vår kanal för de senaste nyheterna Google News online eller via appen.
Bland huvudfunktionerna i AMD ROCm 6.3 lyfte företaget fram följande:
- Ett SGLang-verktyg speciellt utformat för att optimera slutsatsen av toppmoderna generativa modeller, såsom stora språkmodeller och visuella språkmodeller, på AMD Instinct GPU:er. Med den kan du uppnå upp till sex gånger högre genomströmning när du sluter dig till stora språkmodeller
- Optimering av transformatorer på en ny nivå. FlashAttention-2, optimerad för ROCm 6.3, accelererar träningen av transformatormodeller och slutledning med 3 gånger. Tack vare detta är det möjligt att avsevärt minska tiden till marknaden för företagens artificiella intelligenssystem
- En AMD Fortra-kompilator som förenklar GPU-acceleration för äldre HPC-applikationer och erbjuder direkt avlastning, bakåtkompatibilitet och enkel integration utan betydande kodändringar
- En ny multi-nod FFT (en snabb algoritm för att beräkna den diskreta Fouriertransformen). Stöd för FFT med flera noder ger högpresterande FFT-beräkningar på stora datamängder. Detta gör det möjligt att öka effektiviteten och snabbheten i beslutsfattandet inom områden som olje- och gasindustrin och vetenskaplig forskning.
Datorvisionsbiblioteken utökades också i den nya versionen av programvaran. Avancerade visionbibliotek, inklusive AV1 och rocJPEG, gör det möjligt för utvecklare att skapa avancerade AI-lösningar för en mängd olika arbetsbelastningar som videoanalys eller datauppsättningsförstärkning. Det här verktyget kommer att vara användbart i en hel rad branscher, från massmedia och underhållning till autonoma system.
Med öppen källkod och kontinuerlig utveckling för att möta utvecklarnas behov fortsätter AMD att ge företag möjlighet att förnya sig snabbare, skala smartare och ligga före sina konkurrenskraftiga branscher.
Om du är intresserad av artiklar och nyheter om flyg- och rymdteknik, bjuder vi in dig till vårt nya projekt AERONAUT.media.
Läs också: