Nová centra moci AI: Modely, čipy, cloud a data

Konec virtuální éry

Éra umělé inteligence jako čistě softwarového fenoménu je u konce. Celá léta se technologický svět soustředil na eleganci algoritmů a novost chatovacích rozhraní. Tento zájem se však přesunul k brutální realitě fyzických zdrojů. Nyní jsme svědky masivního přesunu vlivu od těch, kteří píší kód, k těm, kteří ovládají elektřinu, vodu a půdu. Schopnost vytvořit chytřejší model už nezávisí jen na talentu výzkumníků. Závisí na schopnosti zajistit si tisíce akrů půdy a přímé připojení k vysokonapěťové rozvodné síti. Je to návrat do průmyslového věku, kde jsou největšími hráči ti s nejtěžší infrastrukturou. Úzkým hrdlem už není lidská kreativita. Je to kapacita transformátoru v rozvodně nebo průtok chladicího systému. Pokud nezískáte energii, nespustíte výpočetní výkon. Pokud nespustíte výpočetní výkon, váš software neexistuje. Tato fyzická realita přeskupuje globální hierarchii technologických firem i národů. Vítězi jsou ti, kteří dokážou přeměnit fyzickou hmotu na digitální inteligenci v masivním měřítku.

Fyzický stack inteligence

Infrastruktura potřebná pro moderní AI je mnohem komplexnější než jen sbírka serverů. Začíná to elektrickou sítí. Datová centra dnes potřebují ke svému provozu stovky megawattů energie. Tato poptávka nutí technologické firmy vyjednávat přímo s dodavateli energií a dokonce investovat do vlastní výroby elektřiny. Fyzická půda se správným územním plánem a blízkostí páteřních optických sítí se stala cennější než samotný software. Voda je dalším kritickým zdrojem. Tyto masivní shluky čipů generují obrovské teplo. Tradiční vzduchové chlazení pro nejnovější hardware často nestačí. Firmy přecházejí na systémy kapalinového chlazení, které vyžadují miliony litrů vody denně, aby procesory neroztály. Kromě samotných zařízení je dodavatelský řetězec hardwaru neuvěřitelně koncentrovaný. Nejde jen o design čipů. Jde o pokročilé techniky balení, jako je CoWoS, které umožňují spojit více čipů dohromady. Jde o High Bandwidth Memory, která poskytuje rychlost přenosu dat nezbytnou pro trénování. Výroba těchto komponent probíhá jen v hrstce závodů po celém světě. Tato koncentrace vytváří křehký systém, kde jediné narušení může zastavit pokrok celého odvětví. Omezení nejsou abstraktní. Jsou to hmatatelné limity toho, kolik inteligence dokážeme vyprodukovat v .

• Kapacita připojení k síti a čas potřebný pro modernizaci infrastruktury.
• Povolovací procesy pro průmyslové chlazení a spotřebu vody ve velkém měřítku.
• Místní odpor komunit znepokojených hlukem a cenami energií.
• Dostupnost specializovaných elektrických komponent, jako jsou vysokonapěťové transformátory.
• Exportní kontroly pokročilých litografických a balicích zařízení.

Geopolitika elektrické sítě

Distribuce energie pro AI se stává otázkou národní bezpečnosti. Vlády si uvědomují, že schopnost zpracovávat informace je stejně zásadní jako schopnost produkovat ropu nebo ocel. To vedlo k nárůstu exportních kontrol navržených tak, aby zabránily rivalům v získání nejpokročilejších čipů a strojů potřebných k jejich výrobě. Pozornost se však přesouvá od čipů k energii. Národy, které mají stabilní, levnou a hojnou energii, se stávají novými centry pro výpočetní výkon. Proto vidíme masivní investice v regionech s nevyužitými sítěmi nebo velkým potenciálem obnovitelných zdrojů. Koncentrace výroby ve východní Asii zůstává významným bodem napětí. Jediná společnost jako TSMC zajišťuje naprostou většinu výroby pokročilých čipů. Pokud by byla tato výroba přerušena, globální zásoba kapacity AI by přes noc zmizela. To vedlo k horečné snaze USA a Evropy dotovat domácí výrobu. Ale postavit továrnu je ta snadná část. Získat specializovanou pracovní sílu a masivní množství elektřiny potřebné k provozu těchto závodů je výzva na desetiletí. Globální rovnováha sil je nyní spjata se stabilitou elektrické sítě a bezpečností námořních tras, které přepravují paměťové moduly a síťový hardware. Toto je hra s vysokými sázkami, kde se vstupní cena měří v desítkách miliard dolarů. Více podrobných údajů o globálních trendech v elektřině najdete v nedávných zprávách Mezinárodní energetické agentury.

Když se servery potkají se sousedstvím

Dopad tohoto infrastrukturního boomu je nejvíce pociťován na místní úrovni. Představte si úředníka ve středně velkém městě. Velká technologická firma přijde s návrhem na datové centrum. Na papíře to vypadá jako výhra pro daňový základ. Ve skutečnosti jde o složité vyjednávání o budoucnosti města. Úředník musí zjistit, zda místní síť zvládne náhlou zátěž 200 megawattů, aniž by to způsobilo výpadky pro obyvatele. Musí zvážit přínosy daňových výnosů oproti hluku tisíců chladicích ventilátorů, které běží 24 hodin denně. Pro obyvatele žijící v blízkosti jednoho z těchto míst se každodenní zkušenost mění. Tiché předměstí se stává průmyslovou zónou. Místní hladina podzemní vody může klesnout, protože zařízení čerpá miliony litrů pro své chladicí věže. Zde se abstraktní myšlenka AI setkává s realitou místního odporu. Na místech, jako je severní Virginie nebo části Irska, se komunity brání. Ptají se, proč jejich ceny elektřiny rostou, aby dotovaly provoz globálního technologického giganta. Zpochybňují dopad těchto masivních betonových bloků na životní prostředí. Pro startup, který se snaží vybudovat novou aplikaci, je výzva jiná. Nemají kapitál na stavbu vlastních elektráren. Jsou vydáni na milost velkým cloudovým poskytovatelům, kteří ovládají přístup k výpočetnímu výkonu. Pokud poskytovateli cloudu dojde kapacita nebo zvýší ceny kvůli nákladům na energii, startup končí. To vytváří stupňovitý systém, kde si inovace mohou dovolit jen ty nejbohatší firmy. Viditelnost produktu na trhu není totéž co trvalá páka. Skutečná páka pochází z vlastnictví fyzických aktiv, na kterých software závisí. Tento příklon k jaderné energii ze strany technologických firem je jasným znamením toho, jak zoufale potřebují stabilní energii.

Skryté náklady na škálování

Musíme si klást nepříjemné otázky o dlouhodobé udržitelnosti tohoto růstu. Kdo vlastně platí skryté náklady na infrastrukturu AI? Když datové centrum během sucha spotřebuje významnou část zásob vody ve městě, náklady nejsou jen finanční. Jsou to sociální náklady, které nese komunita. Stojí daňové pobídky poskytované těmto firmám za zátěž veřejných zdrojů? Musíme také zvážit koncentraci moci v rukou několika firem, které ovládají vztah s uživatelem a výpočetní výkon. Pokud tři nebo čtyři firmy vlastní většinu světové kapacity AI, co to znamená pro konkurenci? Je možné, aby se objevil nový hráč, když jsou kapitálové požadavky tak vysoké? Budujeme systém, který je neuvěřitelně efektivní, ale také neuvěřitelně křehký. Jediné selhání v továrně na specializované transformátory nebo sucho v klíčovém chladicím uzlu by mohlo spustit kaskádu selhání v celém ekosystému. Co se stane s tvůrci a firmami, kteří postavili celé své pracovní postupy na těchto modelech, pokud fyzická infrastruktura selže? Musíme se také podívat na dopad na životní prostředí. Zatímco firmy tvrdí, že jsou uhlíkově neutrální, samotný objem energie, který je potřeba, nutí mnohé udržovat starší, špinavější elektrárny v provozu déle, než se plánovalo. Stojí přínos o něco lepšího chatbota za zpoždění našeho přechodu na čistou energii? To nejsou jen technické otázky. Jsou to etické a politické otázky, které definují příští desetiletí technologického vývoje. Naše současná analýza infrastruktury AI ukazuje, že propast mezi těmi, kteří mají, a těmi, kteří nemají, se na základě fyzického přístupu prohlubuje.

Máte příběh, nástroj, trend nebo otázku týkající se AI, o kterých si myslíte, že bychom je měli pokrýt? Pošlete nám svůj nápad na článek — rádi si ho poslechneme.

Pod kapotou vysokého výkonu

Pro ty, kteří potřebují pochopit technická omezení této nové éry, se pozornost musí přesunout za parametry modelu. Skutečná úzká hrdla jsou nyní v síťování a paměti. Trénování modelu ve velkém měřítku vyžaduje tisíce GPU, aby pracovaly v dokonalé synchronizaci. To je možné pouze díky vysokorychlostním síťovým technologiím, jako je InfiniBand nebo specializované konfigurace Ethernetu. Latence mezi těmito čipy může znamenat rozdíl mezi modelem, který se trénuje týdny, a modelem, kterému to trvá měsíce. Pak je tu otázka paměti. High Bandwidth Memory (HBM) je nedostatkové zboží, protože její výrobní proces je výrazně obtížnější než u standardní DRAM. To omezuje počet špičkových čipů, které lze vyrobit, i když jsou k dispozici logické wafery. Na straně softwaru vývojáři narážejí na limity toho, co mohou poskytnout API. Rychlostní limity už nejsou jen o prevenci zneužití. Jsou odrazem fyzické kapacity základního hardwaru. Pro pokročilé uživatele je přechod k lokálnímu úložišti a lokálnímu spouštění reakcí na tato omezení. Pokud můžete spustit menší, optimalizovaný model na vlastním hardwaru, vyhnete se frontě v datovém centru. Lokální hardware má však své vlastní limity, pokud jde o tepelný management a odběr energie. Integraci těchto modelů do stávajících pracovních postupů také brání nedostatek standardizovaných rozhraní. Každý poskytovatel má svůj vlastní proprietární stack, což ztěžuje přepnutí, pokud jeden poskytovatel čelí fyzickému výpadku. Koncentrace výroby je patrná i na trhu pokročilého balení. Pokroky společnosti TSMC v balení čipů jsou jediným důvodem, proč můžeme pokračovat ve zvyšování výkonu, když narážíme na limity tradičního křemíku. To je geek realita tohoto odvětví.

• Limity propustnosti InfiniBand a NVLink pro trénovací clustery s více uzly.
• Omezení dodávek HBM3e a jejich dopad na celkové objemy výroby GPU.
• Špičky latence API způsobené výkyvy v regionální elektrické síti.
• Rychlosti lokálního NVMe úložiště jako úzké hrdlo pro příjem dat při ladění.
• Limity tepelného škrcení pro konfigurace s vysokou hustotou racků ve starších zařízeních.

Nová realita pro vývojáře

Přechod ze světa „software-first“ do světa „hardware-first“ je dokončen. Firmy, které povedou další fázi vývoje, jsou ty, které si zajistily své dodavatelské řetězce a zdroje energie. Pro zbytek odvětví je výzvou inovovat v rámci omezení stanovených fyzickým světem. To znamená psát efektivnější kód, který vyžaduje méně výpočetního výkonu. Znamená to najít způsoby, jak používat menší modely, které mohou běžet na méně specializovaném hardwaru. Dny nekonečného, levného škálování jsou za námi. Vstupujeme do období, kdy je dostupnost připojení k síti důležitějším ukazatelem než počet napsaných řádků kódu. Pochopení těchto fyzických center moci je jediný způsob, jak pochopit, kam technologie v . směřuje. Budoucnost není jen v cloudu. Je v zemi, v drátech a ve vodě, která cloud umožňuje.

Poznámka redakce: Tuto stránku jsme vytvořili jako vícejazyčné centrum zpráv a průvodců o umělé inteligenci pro lidi, kteří nejsou počítačoví maniaci, ale přesto chtějí porozumět umělé inteligenci, používat ji s větší jistotou a sledovat budoucnost, která již přichází.