AMD dostało wyjątkowe zamówienie na superkomputer. Ma mieć 1,2 miliona GPU! Jeśli zostanie złożony, będzie 30 razy szybszy od obecnego lidera.
Na rynku części dla centrów danych szykuje się przewrót. W 2023 roku Nvidia dostarczyła aż 98 proc. potrzebnych GPU, a AMD pozostałe 2 proc. Jednak zapotrzebowanie rośnie tak szybko, że sama Nvidia z pewnością nie da rady wszystkich obsłużyć. Zwłaszcza że klienci chcą budować klastry do trenowania modeli sztucznej inteligencji, mające nie kilkanaście tysięcy, ale ponad milion czipów GPU.
Forrest Norrod, dyrektor generalny ds. rozwiązań centrów danych w AMD, ujawnił informacje o zamówieniu w wywiadzie dla The Next Platform. Klient autentycznie jest zainteresowany budową klastra szkoleniowego dla sztucznej inteligencji z 1,2 miliona jednostek GPU.
Zobacz: Superkomputer LUMI wytrenuje SI w językach Europy
Niestety nie wiemy, czy AMD podejmie wyzwanie i zbuduje tytana. Możemy za to spokojnie założyć, że zielona konkurencja również dostaje takie pytania. Pierwszy „milioner” w końcu powstanie – to tylko kwestia czasu. Firmy zajmujące się szkoleniem modeli SI już tworzą plany ze zdumiewającym rozmachem.
Dla skali warto przypomnieć, że najpotężniejszy aktualnie superkomputer Frontier, na którym uczone są modele sztucznej inteligencji, ma raptem 37 888 układów graficznych AMD Radeon. Powszechnie stosowane klastry mają kilka tysięcy GPU, połączonych szybką magistralą. Taki klaster zmieści się w kilku szafach serwerowych.
Budowanie klastrów szkoleniowych dla SI wiąże się też z nowymi wyzwaniami. Uczenie maszynowe to w zasadzie jedno ogromne zadanie synchroniczne. Superkomputery te zużywają znaczące ilości energii i wymagają bardzo niskich opóźnień, bo podczas wykonywania zadania węzły przesyłają dane tam i z powrotem. Przy tym trzeba brać pod uwagę potencjalne awarie. Przygotowanie klastra z ponad milionem GPU będzie więc szalenie skomplikowane.
Jednak klienci są skłonni wydać nawet sto miliardów dolarów na klastry szkoleniowe, które zapewnią im przewagę nad konkurencją.
Źródło zdjęć: AMD
Źródło tekstu: The Next Platform, oprac. własne
