Otwarty ekosystem Dell Generative AI z akceleratorami AMD Instinct

12.06.2024

Udostępnij

   

     
Generatywna sztuczna inteligencja (GenAI) to najbardziej obiecujący akcelerator innowacji tej dekady. 78% decydentów IT wyraża duże zainteresowanie potencjałem, jaki GenAI może wprowadzić do ich organizacji.¹ Większość postrzega GenAI jako narzędzie umożliwiające zwiększenie produktywności, optymalizację procesów oraz oszczędność kosztów. Wykorzystanie tej technologii jest kluczowe, aby zapewnić organizacjom konkurencyjność w nowej, cyfrowej erze.

 

Dell Technologies i AMD łączą siły, aby przedstawić rozszerzoną ofertę rozwiązań Generatywnego AI Della, jednocześnie kontynuując prace nad przyspieszaniem zaawansowanych obciążeń pracy i oferując firmom większy zakres możliwości w dalszym prowadzeniu ich unikalnych działań związanych z GenAI. Ta nowa technologia podkreśla kluczową rolę, jaką odgrywają otwarte ekosystemy i różnorodność rozwiązań opartych na krzemie w umożliwianiu klientom korzystania z prostych, godnych zaufania i dobrze
dopasowanych rozwiązań do wdrażania AI w ich danych.

 

Kwestia dynamicznego wzrostu ilości danych oraz ich efektywnego wykorzystania są obecnie głównymi wyzwaniami świata sztucznej inteligencji. AI reprezentuje najnowszą falę innowacji, a praca nad zapewnieniem organizacjom odpowiedniej mocy obliczeniowej, niezbędnej do napędzania ich innowacji, jest kluczowa. Dzięki współpracy z AMD możemy zaoferować naszym klientom szerszy niż kiedykolwiek wcześniej wybór rozwiązań do obsługi obciążeń pracy AI i GenAI.

 

Najszybsze rozwiązanie w historii Della,² serwer Dell PowerEdge XE9680, będzie obsługiwać nadchodzący akcelerator AMD Instinct™ MI300X, oferując klientom większy wybór w zakresie wydajności AI. Serwer PowerEdge XE9680 wyposażony w procesor AMD Instinct MI300X zapewnia znakomitą wydajność dla firm chcących wykorzystać pełen potencjał swoich danych i wyróżnić się na rynku, korzystając z specjalnie dostosowanych dużych modeli językowych (LLM). Dzięki ośmiu procesorom graficznym MI300X oraz 192 GB pamięci o wysokiej przepustowości (HBM3) z przepustowością 5,3 TB/s na procesor graficzny, co daje łączną pojemność HBM3 wynoszącą 1,5 TB na serwer i ponad 21 petaflopów wydajności w 16. kolejce FP, serwer PowerEdge XE9680 z technologią MI300X jest doskonałym rozwiązaniem dla firm chcących
demokratyzować dostęp do GenAI, zmniejszać zajmowaną przestrzeń w centrach danych, obniżać całkowity koszt posiadania oraz uzyskać przewagę konkurencyjną.

 

 

 

Wraz z wsparciem dla AMD MI300X Instinct Accelerator, ogłaszamy również kolejny krok w ramach rozwiązań Dell Generative AI. Umożliwiamy organizacjom łatwiejsze wdrażanie godnego zaufania GenAI dzięki nowemu projektowi Dell Validated Design dla Generative AI z AMD.

Nowy projekt Dell Validated Design dla generatywnej sztucznej inteligencji oparty na AMD ROCm™, dostępny w przyszłym roku, rozszerza ekosystem rozwiązań Dell Generative AI i będzie zawierał programy LLM typu open-source AMD ROCm™. To otwarty zestaw sterowników, narzędzi deweloperskich i interfejsów API dla akceleratorów AMD Instinct. Projekty Dell Validated Design for Generative AI ułatwiają klientom Della budowanie zaufanych platform GenAI dopasowanych do ich potrzeb, eliminując niepewność związaną z integracją, wydajnością i rozmiarem.

 

 

8x akcelerator AMD Instinct MI300X w module akceleratora Open Compute Project (OAM) na uniwersalnej płycie bazowej (UBB). Serwer PowerEdge XE9680 jest wyjątkowy pod względem wydajności, bezpieczeństwa i prostoty obsługi. Oprogramowanie Dell Open Manage Enterprise upraszcza i przyspiesza wdrażanie infrastruktury GenAI, podczas gdy oprogramowanie CloudIQ zapewnia inteligentną automatyzację z dowolnego miejsca. Serwer PowerEdge XE9680 jest wspierany przez zintegrowane odzyskiwanie cybernetyczne oraz podejście Zero Trust dla zwiększenia bezpieczeństwa. Serwer PowerEdge XE9680 korzysta z platformy AMD Instinct zasilanej przez osiem akceleratorów AMD Instinct MI300X, umożliwiając niemal liniowe skalowanie oraz niskie opóźnienia podczas trenowania modeli GenAI w środowisku rozproszonym. Taką możliwość daje technologia Global Memory Interconnect (xGMI), gdzie klastery serwerów PowerEdge połączone są z procesorami graficznymi GPU MI300X poprzez sieć szkieletową AI opartą na Ethernet, z wykorzystaniem sieci komunikacyjnej GPU z przełącznikiem Dell PowerSwitch Z9664F-ON.

 

Jako członek Konsorcjum Ultra Ethernet (UEC), Dell jest w dalszym ciągu zwolennikiem sieci opartej na standardach. Dell Technologies jest w pozycji, która daje możliwość pełnego wykorzystania potencjału otwartego podejścia, wdrażając je we wszystkich elementach rozwiązania GenAI: obliczeniowym, szkieletowym oraz pamięci masowej. Serwer Dell PowerEdge XE9680 z akceleratorami AMD Instinct™ MI300X oraz Dell Validated Design dla Generative AI z AMD będzie dostępny w pierwszej połowie 2024 roku.

 

O autorze
Dave Lincoln jest wiceprezesem Compute Systems i odpowiada za linię biznesową serwerów
Dell PowerEdge obsługującą segmenty przedsiębiorstw, chmury, sztucznej inteligencji, HPC, brzegowej i telekomunikacyjnej.

 

POBIERZ EBOOK TUTAJ!