Ukryta maszyna AI: chipy, chmura i skala przemysłowa

Sztuczna inteligencja jest często opisywana jako seria eterycznych algorytmów żyjących w chmurze. Ten opis to wygodna fikcja, która ignoruje potężną infrastrukturę przemysłową niezbędną do działania tych systemów. Rzeczywistość nowoczesnej AI znajduje się w świecie fizycznym: w liniach wysokiego napięcia, ogromnych systemach chłodzenia i specjalistycznej produkcji krzemowej. Podczas gdy aktualizacje oprogramowania poruszają się z prędkością światła, infrastruktura je wspierająca porusza się w tempie betonu i stali. Postęp modeli wielkoskalowych napotyka obecnie na twarde ograniczenia fizyki i logistyki. Obserwujemy zmianę, w której zdolność do zabezpieczenia przyłącza do sieci energetycznej lub pozwolenia na budowę centrum danych jest równie ważna, co umiejętność pisania wydajnego kodu. Zrozumienie przyszłości technologii wymaga spojrzenia poza ekran, w stronę ciężkiego przemysłu, który ją napędza. Wąskim gardłem nie jest już tylko ludzka pomysłowość, ale dostępność gruntów, wody i energii elektrycznej na skalę, jakiej wymagało niewiele branż w historii.

Przemysłowy ciężar wirtualnej inteligencji

Sprzęt wymagany dla AI jest znacznie bardziej złożony niż standardowe wyposażenie serwerowe. Zaczyna się od projektowania specjalistycznych chipów, ale historia szybko przenosi się na pakowanie i pamięć. Pamięć o wysokiej przepustowości (High Bandwidth Memory) jest niezbędna do dostarczania danych do procesorów wystarczająco szybko, aby utrzymać wydajność. Pamięć ta jest układana pionowo i integrowana z procesorem przy użyciu zaawansowanych technik, takich jak Chip on Wafer on Substrate. Proces ten jest obsługiwany przez bardzo niewielką liczbę firm, co tworzy wąskie gardło w całym globalnym łańcuchu dostaw. Sieci to kolejny kluczowy komponent fizyczny. Systemy te nie działają w izolacji. Wymagają szybkich połączeń, takich jak InfiniBand, aby tysiące chipów mogły działać jako jedna jednostka. Tworzy to fizyczne ograniczenia w sposobie budowy centrów danych, ponieważ długość kabli miedzianych lub światłowodowych może wpływać na prędkość całego systemu.

Produkcja tych komponentów jest skoncentrowana w kilku wysoce wyspecjalizowanych zakładach. Jedna firma, TSMC, produkuje zdecydowaną większość wysokiej klasy chipów na świecie. Ta koncentracja oznacza, że pojedyncze lokalne zdarzenie lub zmiana w polityce handlowej może zatrzymać postęp w całej branży. Złożoność urządzeń produkcyjnych również ma znaczenie. Maszyny wykorzystujące litografię w ekstremalnym ultrafiolecie to najbardziej skomplikowane narzędzia, jakie kiedykolwiek zbudowali ludzie. Są produkowane tylko przez jedną firmę na świecie i wymagają lat oczekiwania na zamówienie i instalację. To nie jest świat szybkiej iteracji. To świat długoterminowego planowania i ogromnych nakładów kapitałowych. Infrastruktura jest fundamentem, na którym zbudowany jest każdy chatbot i generator obrazów. Bez tej warstwy fizycznej oprogramowanie po prostu nie może istnieć.

• Zaawansowane techniki pakowania, takie jak CoWoS, są obecnie głównym wąskim gardłem w dostawach chipów.
• Produkcja pamięci o wysokiej przepustowości wymaga specjalistycznych fabryk, które obecnie pracują na pełnych obrotach.
• Sprzęt sieciowy musi być zaprojektowany tak, aby obsługiwać ogromną przepustowość danych przy minimalnych opóźnieniach.
• Urządzenia produkcyjne dla najnowszych węzłów technologicznych mają wieloletnie zaległości w zamówieniach.
• Koncentracja produkcji w określonych regionach geograficznych tworzy znaczące ryzyko dla łańcucha dostaw.

Geopolityczna mapa mocy obliczeniowej

Koncentracja produkcji sprzętu sprawiła, że AI stała się kwestią bezpieczeństwa narodowego. Rządy stosują obecnie kontrolę eksportu, aby ograniczyć przepływ wysokiej klasy chipów i urządzeń produkcyjnych do niektórych regionów. Kontrole te dotyczą nie tylko samych chipów, ale także wiedzy niezbędnej do budowy i konserwacji maszyn, które je wytwarzają. Stworzyło to podzielone środowisko, w którym różne części świata mają dostęp do różnych poziomów mocy obliczeniowej. Ta luka wpływa na wszystko, od produktywności biznesowej po badania naukowe. Firmy są teraz zmuszone brać pod uwagę lokalizację geograficzną swoich centrów danych nie tylko ze względu na opóźnienia, ale także stabilność polityczną i zgodność z przepisami. Jest to znacząca zmiana w stosunku do wczesnych dni internetu, kiedy fizyczna lokalizacja serwera była niemal nieistotna.

Władzę biznesową w tej nowej erze sprawują ci, którzy kontrolują infrastrukturę. Dostawcy chmury, którzy zabezpieczyli duże zamówienia na chipy lata temu, mają teraz ogromną przewagę nad nowymi graczami. Ta koncentracja władzy jest bezpośrednim wynikiem fizycznych wymagań technologii. Aby lepiej zrozumieć tę dynamikę, możesz przeczytać tę analizę infrastruktury sztucznej inteligencji, aby zobaczyć, jak sprzęt kształtuje oprogramowanie. Koszt wejścia w budowę konkurencyjnego modelu wielkoskalowego mierzy się teraz w miliardach dolarów wydanych na sprzęt. Tworzy to barierę wejścia, która faworyzuje zasiedziałe giganty i podmioty wspierane przez państwo. W rezultacie uwaga przesunęła się z tego, kto ma najlepszy algorytm, na to, kto ma najbardziej niezawodny łańcuch dostaw i największe centra danych. Trend ten prawdopodobnie się utrzyma, w miarę jak modele będą rosły pod względem rozmiaru i złożoności.

Beton i chłodzenie w świecie rzeczywistym

Wpływ AI na środowisko jest często ukryty przed użytkownikiem końcowym. Pojedyncze zapytanie do dużego modelu językowego może wymagać znacznie więcej energii niż standardowe zapytanie w wyszukiwarce. To zużycie energii przekłada się na ciepło, które musi być zarządzane przez potężne systemy chłodzenia. Systemy te często zużywają miliony litrów wody każdego dnia. W regionach borykających się z niedoborem wody tworzy to bezpośrednią konkurencję między firmami technologicznymi a lokalnymi społecznościami. Gęstość energii centrum danych AI jest kilkukrotnie wyższa niż w tradycyjnym obiekcie. Oznacza to, że istniejące sieci energetyczne często nie są w stanie obsłużyć takiego obciążenia bez znaczących modernizacji. Modernizacje te mogą trwać latami i wymagać skomplikowanych procesów uzyskiwania pozwoleń z udziałem władz lokalnych i państwowych.

Wyobraźmy sobie dzień z życia zarządcy usług komunalnych w regionie, w którym budowane jest nowe centrum danych. Musi on zapewnić, że lokalna sieć poradzi sobie z ogromnym, stałym poborem mocy, nie powodując przerw w dostawach dla mieszkańców. Zarządza on codzienną pracą systemu, który nigdy nie został zaprojektowany do tak skoncentrowanego popytu.

Kiedy firma technologiczna prosi o nowe przyłącze, może to wywołać wieloletni proces budowy nowych podstacji i układania kilometrów linii wysokiego napięcia. Często prowadzi to do lokalnego oporu ze strony obywateli, którzy obawiają się wzrostu opłat za media lub wpływu obiektu na środowisko. Międzynarodowa Agencja Energetyczna zauważyła, że zużycie energii elektrycznej przez centra danych może się podwoić w ciągu najbliższych kilku lat. To nie tylko wyzwanie techniczne, ale także społeczne i polityczne. Fizyczny ślad centrum danych może zajmować setki tysięcy m² ziemi, często na obszarach, gdzie grunty są już bardzo cenne.

Pozwolenia to kolejne praktyczne ograniczenie, które jest często pomijane. Budowa centrum danych wiąże się z poruszaniem się po złożonej sieci przepisów ochrony środowiska, planów zagospodarowania przestrzennego i przepisów budowlanych. W niektórych jurysdykcjach proces ten może trwać dłużej niż sama budowa. Tworzy to rozdźwięk między szybkim tempem rozwoju oprogramowania a powolnym tempem infrastruktury fizycznej. Firmy szukają teraz lokalizacji z przyspieszonym procesem wydawania pozwoleń i łatwym dostępem do energii odnawialnej. Jednak nawet przy energii odnawialnej, sama skala popytu stanowi wyzwanie. Centrum danych działające 24 godziny na dobę wymaga stałego zasilania, co oznacza, że energia wiatrowa i słoneczna muszą być uzupełnione przez ogromne magazyny energii lub inne formy zasilania podstawowego. Dodaje to kolejną warstwę fizycznej złożoności i kosztów operacji.

Trudne pytania ery skalowania

W miarę jak kontynuujemy skalowanie tych systemów, musimy zadawać trudne pytania o ukryte koszty. Kto tak naprawdę płaci za ogromną infrastrukturę wymaganą dla AI? Chociaż narzędzia są często darmowe lub tanie dla użytkownika końcowego, koszty środowiskowe i społeczne są rozłożone na całe społeczeństwo. Czy korzyść z nieco dokładniejszego chatbota jest warta obciążenia naszych sieci energetycznych i zasobów wodnych? Istnieje również kwestia prywatności i suwerenności danych. W miarę jak coraz więcej danych jest przetwarzanych w ogromnych, scentralizowanych obiektach, ryzyko na dużą skalę wycieków danych rośnie. Fizyczna koncentracja danych czyni je również celem dla aktorów państwowych i cyberprzestępców. Musimy rozważyć, czy dążenie do ogromnej, scentralizowanej mocy obliczeniowej to jedyna droga naprzód, czy może powinniśmy inwestować więcej w zdecentralizowane i wydajne alternatywy.

Koszt sprzętu również budzi obawy. Jeśli tylko kilka firm może pozwolić sobie na budowę infrastruktury wymaganej dla najbardziej zaawansowanych modeli, co to oznacza dla przyszłości otwartych badań i konkurencji? Obserwujemy trend, w którym najbardziej zaawansowane systemy są zamknięte za własnościowymi API, a podstawowy sprzęt i dane pozostają ukryte. Ten brak przejrzystości utrudnia niezależnym badaczom weryfikację twierdzeń dotyczących bezpieczeństwa i stronniczości. Tworzy to również zależność od garstki dostawców w zakresie krytycznej infrastruktury. Jeśli jeden z tych dostawców doświadczy poważnej awarii sprzętowej lub zakłóceń geopolitycznych, wpływ byłby odczuwalny w całej globalnej gospodarce. To nie są tylko problemy techniczne, ale fundamentalne pytania o to, jak chcemy budować naszą technologiczną przyszłość.

Masz historię, narzędzie, trend lub pytanie dotyczące sztucznej inteligencji, które Twoim zdaniem powinniśmy omówić? Prześlij nam swój pomysł na artykuł — chętnie go poznamy.

Architektura sprzętowa nowoczesnych modeli

Dla zaawansowanych użytkowników i programistów fizyczne ograniczenia AI przejawiają się w integracjach przepływu pracy i limitach API. Większość użytkowników wchodzi w interakcję z tymi modelami poprzez API, które jest w zasadzie oknem do ogromnego centrum danych. Te API mają limity szybkości, które są bezpośrednio powiązane z dostępną mocą obliczeniową po drugiej stronie. Kiedy model odpowiada wolno, często dzieje się tak dlatego, że fizyczny sprzęt jest współdzielony przez tysiące innych użytkowników. Niektórzy programiści przechodzą na lokalne przechowywanie i lokalne wnioskowanie, aby ominąć te limity. Jednak uruchomienie dużego modelu lokalnie wymaga znacznego sprzętu, w tym wysokiej klasy procesorów graficznych (GPU) z dużą ilością VRAM. Doprowadziło to do gwałtownego wzrostu popytu na sprzęt klasy konsumenckiej, który może obsługiwać obciążenia AI, ale nawet najlepsze chipy konsumenckie to ułamek mocy dedykowanego serwera w centrum danych.

Integracja AI z profesjonalnymi przepływami pracy zależy również od fizycznej lokalizacji danych. Dla firm z surowymi wymogami dotyczącymi rezydencji danych, korzystanie z modelu opartego na chmurze może nie być opcją. Napędza to rynek sprzętu AI typu on-premises, który pozwala firmom uruchamiać modele na własnych serwerach. Systemy te są drogie i wymagają specjalistycznego personelu do utrzymania. Sieci pozostają tu również głównym wąskim gardłem. Przenoszenie dużych zbiorów danych do i z modelu wymaga połączeń o wysokiej przepustowości, których wiele biur nie posiada. Dlatego widzimy skupienie na edge computing, gdzie przetwarzanie odbywa się bliżej miejsca, w którym generowane są dane. Zmniejsza to potrzebę masowego przesyłania danych i może poprawić komfort użytkownika poprzez zmniejszenie opóźnień. Stos sprzętowy NVIDIA stał się de facto standardem dla tych operacji, ale branża szuka alternatyw, aby obniżyć koszty i zależność.

• Limity szybkości API są bezpośrednim odzwierciedleniem fizycznej wydajności obliczeniowej dostawcy.
• Lokalne wnioskowanie wymaga dużej pojemności VRAM, co jest obecnie funkcją premium w konsumenckich GPU.
• Przepisy dotyczące rezydencji danych wymuszają powrót do sprzętu on-premises dla wielu przedsiębiorstw.
• Edge computing ma na celu rozwiązanie problemu wąskiego gardła sieci poprzez przeniesienie obliczeń bliżej użytkownika.
• Koszt utrzymania specjalistycznego sprzętu AI jest znaczącym kosztem ogólnym dla małych firm.

Fizyczna rzeczywistość przyszłości

Narracja o AI jako zjawisku czysto cyfrowym nie jest już do utrzymania. Ograniczenia w zakresie energii, wody, ziemi i krzemu są obecnie głównymi czynnikami determinującymi tempo postępu. Wkraczamy w erę, w której sukces firmy technologicznej zależy w równym stopniu od jej zdolności do zarządzania globalnym łańcuchem dostaw i zabezpieczania kontraktów energetycznych, co od jej wiedzy oprogramowania. Sprzeczności między wirtualnym światem AI a fizycznym światem infrastruktury stają się z każdym dniem coraz bardziej widoczne. W rezultacie musimy uznać, że każdy cyfrowy postęp ma fizyczny koszt. Wyzwaniem na następną dekadę będzie znalezienie sposobów na kontynuowanie tego postępu przy jednoczesnym zarządzaniu bardzo realnymi ograniczeniami zasobów naszej planety. Przyszłość technologii nie leży tylko w kodzie, ale w sprzęcie i infrastrukturze, które czynią ją możliwą.

Uwaga redakcji: Stworzyliśmy tę stronę jako wielojęzyczne centrum wiadomości i przewodników na temat sztucznej inteligencji dla osób, które nie są komputerowymi maniakami, ale nadal chcą zrozumieć sztuczną inteligencję, używać jej z większą pewnością i śledzić przyszłość, która już nadchodzi.

Znalazłeś błąd lub coś, co wymaga poprawy? Daj nam znać.