Nowe centra mocy AI: modele, chipy, chmura i dane

Koniec ery wirtualnej

Era sztucznej inteligencji jako zjawiska czysto programowego dobiegła końca. Przez lata świat technologii skupiał się na elegancji algorytmów i nowości interfejsów czatowych. Ten punkt ciężkości przesunął się w stronę brutalnej rzeczywistości zasobów fizycznych. Jesteśmy świadkami ogromnego transferu wpływów od tych, którzy piszą kod, do tych, którzy kontrolują energię elektryczną, wodę i grunt. Zdolność do zbudowania inteligentniejszego modelu nie zależy już wyłącznie od talentu badaczy. Zależy od możliwości zabezpieczenia tysięcy akrów ziemi i bezpośredniego połączenia z siecią wysokiego napięcia. To powrót do ery przemysłowej, w której największymi graczami są ci z najpotężniejszą infrastrukturą. Wąskim gardłem nie jest już ludzka kreatywność. Jest nim przepustowość transformatora w podstacji lub wydajność systemu chłodzenia. Jeśli nie masz prądu, nie uruchomisz obliczeń. Jeśli nie uruchomisz obliczeń, twoje oprogramowanie nie istnieje. Ta fizyczna rzeczywistość zmienia globalną hierarchię firm technologicznych i całych narodów. Zwycięzcami są ci, którzy potrafią przekształcić materię fizyczną w cyfrową inteligencję na masową skalę.

Fizyczny stos inteligencji

Infrastruktura wymagana dla nowoczesnej AI jest znacznie bardziej złożona niż zwykły zbiór serwerów. Wszystko zaczyna się od sieci energetycznej. Centra danych wymagają obecnie setek megawatów mocy do działania. To zapotrzebowanie zmusza firmy technologiczne do bezpośrednich negocjacji z dostawcami mediów, a nawet inwestowania we własną produkcję energii. Fizyczny grunt z odpowiednim planem zagospodarowania i bliskością magistrali światłowodowych stał się cenniejszy niż samo oprogramowanie. Woda to kolejny krytyczny zasób. Te ogromne klastry chipów generują niewyobrażalne ilości ciepła. Tradycyjne chłodzenie powietrzem często nie wystarcza dla najnowszego sprzętu. Firmy przechodzą na systemy chłodzenia cieczą, które wymagają milionów litrów wody dziennie, aby zapobiec stopieniu się procesorów. Poza samym obiektem, łańcuch dostaw sprzętu jest niezwykle skoncentrowany. Nie chodzi tylko o projekt chipów. Chodzi o zaawansowane techniki pakowania, takie jak CoWoS, które pozwalają łączyć wiele chipów w jeden układ. Chodzi o pamięć High Bandwidth Memory, która zapewnia prędkości przesyłu danych niezbędne do trenowania modeli. Produkcja tych komponentów odbywa się w zaledwie kilku zakładach na świecie. Ta koncentracja tworzy kruchy system, w którym jedno zakłócenie może wstrzymać postęp całej branży. Ograniczenia nie są abstrakcyjne. To namacalne limity tego, ile inteligencji możemy wyprodukować w .

• Przepustowość połączeń sieciowych i czas potrzebny na modernizację infrastruktury energetycznej.
• Procesy uzyskiwania pozwoleń na wielkoskalowe chłodzenie przemysłowe i zużycie wody.
• Lokalny opór społeczności zaniepokojonych hałasem i cenami energii.
• Dostępność specjalistycznych komponentów elektrycznych, takich jak transformatory wysokiego napięcia.
• Kontrola eksportu zaawansowanych urządzeń do litografii i pakowania.

Geopolityka sieci energetycznej

Dystrybucja mocy AI staje się kwestią bezpieczeństwa narodowego. Rządy zdają sobie sprawę, że zdolność do przetwarzania informacji jest tak samo kluczowa jak zdolność do produkcji ropy czy stali. Doprowadziło to do fali kontroli eksportu, mających na celu powstrzymanie rywali przed zdobyciem najbardziej zaawansowanych chipów i maszyn potrzebnych do ich wytworzenia. Jednak uwaga przesuwa się z chipów na prąd. Narody posiadające stabilną, tanią i obfitą energię stają się nowymi hubami obliczeniowymi. Dlatego widzimy ogromne inwestycje w regionach z niewykorzystanymi sieciami energetycznymi lub dużym potencjałem energii odnawialnej. Koncentracja produkcji w Azji Wschodniej pozostaje znaczącym punktem zapalnym. Jedna firma, taka jak TSMC, odpowiada za zdecydowaną większość zaawansowanej produkcji chipów. Jeśli ta produkcja zostanie przerwana, globalne zasoby mocy AI zniknęłyby z dnia na dzień. To doprowadziło do gorączkowych wysiłków USA i Europy, by dotować krajową produkcję. Ale budowa fabryki to najłatwiejsza część. Zapewnienie specjalistycznej siły roboczej i ogromnych ilości energii elektrycznej potrzebnej do zasilania tych zakładów to wyzwanie na dziesięciolecia. Globalna równowaga sił jest teraz powiązana ze stabilnością sieci elektrycznej i bezpieczeństwem szlaków morskich, którymi transportowane są moduły pamięci i sprzęt sieciowy. To gra o wysoką stawkę, gdzie cena wejścia liczona jest w dziesiątkach miliardów dolarów. Więcej szczegółowych danych na temat globalnych trendów energetycznych znajdziesz w najnowszych raportach Międzynarodowej Agencji Energetycznej.

Gdy serwery spotykają się z sąsiedztwem

Wpływ tego boomu infrastrukturalnego jest najbardziej odczuwalny na szczeblu lokalnym. Wyobraźmy sobie urzędnika w średniej wielkości mieście. Duża firma technologiczna przychodzi z propozycją budowy centrum danych. Na papierze wygląda to jak zysk dla bazy podatkowej. W rzeczywistości to złożone negocjacje dotyczące przyszłości miasta. Urzędnik musi ustalić, czy lokalna sieć wytrzyma nagłe obciążenie 200 megawatów bez powodowania przerw w dostawie prądu dla mieszkańców. Musi zważyć korzyści z podatków w zestawieniu z hałasem tysięcy wentylatorów chłodzących, które pracują 24 godziny na dobę. Dla mieszkańca żyjącego w pobliżu jednego z takich obiektów codzienne życie się zmienia. Ciche obrzeża miasta stają się strefą przemysłową. Lokalny poziom wód gruntowych może spaść, ponieważ obiekt pobiera miliony litrów wody do swoich wież chłodniczych. To tutaj abstrakcyjna idea AI zderza się z rzeczywistością lokalnego oporu. W miejscach takich jak Północna Wirginia czy części Irlandii społeczności stawiają opór. Pytają, dlaczego ich rachunki za prąd rosną, by dotować operacje globalnego giganta technologicznego. Kwestionują wpływ tych ogromnych betonowych bloków na środowisko. Dla startupu próbującego zbudować nową aplikację wyzwanie jest inne. Nie mają kapitału na budowę własnych elektrowni. Są zdani na łaskę dużych dostawców chmury, którzy kontrolują dostęp do mocy obliczeniowej. Jeśli dostawcy chmury zabraknie przepustowości lub podniesie ceny z powodu kosztów energii, startup wypada z gry. Tworzy to system warstwowy, w którym tylko najbogatsze firmy mogą sobie pozwolić na innowacje. Widoczność produktu na rynku to nie to samo, co trwała przewaga. Prawdziwa przewaga płynie z posiadania aktywów fizycznych, na których opiera się oprogramowanie. Ten zwrot ku energii jądrowej ze strony firm technologicznych jest wyraźnym sygnałem, jak bardzo desperacko potrzebują stabilnej energii.

Ukryte koszty skali

Musimy zadać trudne pytania o długoterminową zrównoważoność tego wzrostu. Kto tak naprawdę płaci za ukryte koszty infrastruktury AI? Kiedy centrum danych zużywa znaczną część zasobów wodnych miasta podczas suszy, koszt nie jest tylko finansowy. To koszt społeczny ponoszony przez całą wspólnotę. Czy ulgi podatkowe przyznawane tym firmom są warte obciążenia zasobów publicznych? Musimy również rozważyć koncentrację władzy w rękach kilku firm, które kontrolują relacje z użytkownikami i moc obliczeniową. Jeśli trzy lub cztery firmy posiadają większość światowych zasobów AI, co to oznacza dla konkurencji? Czy nowy gracz ma szansę zaistnieć, gdy wymagania kapitałowe są tak wysokie? Budujemy system, który jest niezwykle wydajny, ale też niezwykle kruchy. Jedna awaria w fabryce specjalistycznych transformatorów lub susza w kluczowym hubie chłodzenia mogłaby wywołać kaskadę awarii w całym ekosystemie. Co stanie się z twórcami i firmami, które zbudowały całe swoje procesy pracy w oparciu o te modele, jeśli infrastruktura fizyczna zawiedzie? Musimy również spojrzeć na wpływ na środowisko. Choć firmy twierdzą, że są neutralne węglowo, ogromna ilość wymaganej energii zmusza wiele z nich do utrzymywania starszych, bardziej brudnych elektrowni dłużej, niż planowano. Czy korzyść z nieco lepszego chatbota jest warta opóźnienia w naszej transformacji ku czystej energii? To nie tylko pytania techniczne. To pytania etyczne i polityczne, które zdefiniują następną dekadę rozwoju technologicznego. Nasza obecna analiza infrastruktury AI pokazuje, że przepaść między posiadającymi a nieposiadającymi pogłębia się w oparciu o fizyczny dostęp.

Masz historię, narzędzie, trend lub pytanie dotyczące sztucznej inteligencji, które Twoim zdaniem powinniśmy omówić? Prześlij nam swój pomysł na artykuł — chętnie go poznamy.

Pod maską wysokiej wydajności

Dla tych, którzy muszą zrozumieć techniczne ograniczenia tej nowej ery, punkt ciężkości musi wyjść poza parametry modelu. Prawdziwe wąskie gardła znajdują się teraz w sieciach i pamięci. Trenowanie modelu na dużą skalę wymaga tysięcy GPU pracujących w idealnej synchronizacji. Jest to możliwe tylko dzięki szybkim technologiom sieciowym, takim jak InfiniBand lub specjalistyczne konfiguracje Ethernet. Opóźnienie między tymi chipami może stanowić różnicę między modelem, który trenuje się w kilka tygodni, a takim, który zajmuje miesiące. Kolejną kwestią jest pamięć. Pamięć High Bandwidth Memory (HBM) jest towarem deficytowym, ponieważ jej proces produkcyjny jest znacznie trudniejszy niż standardowego DRAM. Ogranicza to liczbę wysokiej klasy chipów, które mogą zostać wyprodukowane, nawet jeśli dostępne są wafle logiczne. Po stronie oprogramowania deweloperzy osiągają granice tego, co mogą zapewnić API. Limity zapytań (rate limits) nie służą już tylko zapobieganiu nadużyciom. Są odzwierciedleniem fizycznej pojemności sprzętu. Dla zaawansowanych użytkowników przejście na lokalne przechowywanie i lokalne uruchamianie modeli jest odpowiedzią na te ograniczenia. Jeśli możesz uruchomić mniejszy, zoptymalizowany model na własnym sprzęcie, omijasz kolejkę w centrum danych. Jednak sprzęt lokalny ma swoje własne limity w zakresie zarządzania termicznego i poboru mocy. Integracja tych modeli z istniejącymi procesami pracy jest również utrudniona przez brak standardowych interfejsów. Każdy dostawca ma swój własny, autorski stos technologiczny, co utrudnia zmianę, jeśli jeden z nich napotka awarię fizyczną. Koncentracja produkcji jest również widoczna na rynku zaawansowanych opakowań. Postępy TSMC w pakowaniu chipów to jedyny powód, dla którego możemy nadal zwiększać wydajność, gdy zbliżamy się do granic tradycyjnego krzemu. To geekowska rzeczywistość tej branży.

• Limity przepustowości InfiniBand i NVLink dla klastrów treningowych wielowęzłowych.
• Ograniczenia podaży HBM3e i ich wpływ na całkowitą wielkość produkcji GPU.
• Skoki opóźnień API spowodowane wahaniami w regionalnych sieciach energetycznych.
• Prędkości lokalnych dysków NVMe jako wąskie gardło przy pobieraniu danych do fine-tuningu.
• Limity dławienia termicznego dla konfiguracji szaf o wysokiej gęstości w starszych obiektach.

Nowa rzeczywistość dla deweloperów

Przejście od świata zorientowanego na oprogramowanie do świata zorientowanego na sprzęt jest zakończone. Firmy, które będą przewodzić w kolejnej fazie rozwoju, to te, które zabezpieczyły swoje łańcuchy dostaw i źródła energii. Dla reszty branży wyzwaniem jest wprowadzanie innowacji w ramach ograniczeń narzuconych przez świat fizyczny. Oznacza to pisanie bardziej wydajnego kodu, który wymaga mniej mocy obliczeniowej. Oznacza to znajdowanie sposobów na używanie mniejszych modeli, które mogą działać na mniej specjalistycznym sprzęcie. Dni nieskończonego, taniego skalowania są za nami. Wkraczamy w okres, w którym dostępność połączenia z siecią jest ważniejszym wskaźnikiem niż liczba napisanych linii kodu. Zrozumienie tych fizycznych centrów mocy to jedyny sposób, by zrozumieć, dokąd zmierza technologia w . Przyszłość nie jest tylko w chmurze. Jest w ziemi, w przewodach i w wodzie, które czynią chmurę możliwą.

Uwaga redakcji: Stworzyliśmy tę stronę jako wielojęzyczne centrum wiadomości i przewodników na temat sztucznej inteligencji dla osób, które nie są komputerowymi maniakami, ale nadal chcą zrozumieć sztuczną inteligencję, używać jej z większą pewnością i śledzić przyszłość, która już nadchodzi.