Proč je AI stejně tak o hardwaru jako o softwaru

Běžné vnímání umělé inteligence se téměř výhradně soustředí na kód. Lidé mluví o velkých jazykových modelech, jako by existovaly ve vakuu čisté logiky. Diskutují o genialitě algoritmů nebo nuancích odpovědí chatbotů. Tento pohled však přehlíží ten nejdůležitější faktor v současné éře technologií. AI není jen příběhem softwaru. Je to příběh těžkého průmyslu. Jde o masivní spotřebu elektřiny a fyzické limity křemíku. Pokaždé, když uživatel položí chatbotu otázku, spustí se v datovém centru vzdáleném kilometry řetězec fyzických událostí. Tento proces zahrnuje specializované čipy, které jsou v současnosti nejcennější komoditou na světě. Pokud chcete pochopit, proč některé firmy vítězí a jiné selhávají, musíte se podívat na hardware. Software je volant, ale hardware je motor a palivo. Bez fyzické infrastruktury je i ten nejpokročilejší model na světě jen hromadou zbytečné matematiky.

Křemíkový strop

Po desetiletí se vývoj softwaru ubíral předvídatelnou cestou. Napsali jste kód a ten běžel na standardních centrálních procesorech neboli CPU. Tyto čipy byly univerzální. Dokázaly zvládnout řadu úkolů jeden po druhém. AI však změnila požadavky. Moderní modely nepotřebují všeuměla. Potřebují specialistu, který dokáže provádět miliardy jednoduchých matematických operací současně. Tomu se říká paralelní zpracování. Průmysl přesunul svou pozornost ke grafickým procesorům neboli GPU. Tyto čipy byly původně navrženy pro vykreslování videoher, ale výzkumníci zjistili, že jsou perfektní pro násobení matic, které pohání neuronové sítě. Tento posun vytvořil obrovské úzké hrdlo. Nemůžete si prostě stáhnout více inteligence. Musíte ji postavit z fyzických komponentů, jejichž výroba je neuvěřitelně náročná. Svět nyní čelí realitě, kde rychlost pokroku AI diktuje to, jak rychle dokážou firmy jako TSMC vyleptat obvody do křemíkových waferů.

Toto fyzické omezení vytvořilo v technologickém světě nový druh třídního systému. Máme tu ty, kteří jsou bohatí na výpočetní výkon, a ty, kteří jsou chudí. Firma s deseti tisíci špičkovými čipy může trénovat model, o který se firma se stovkou čipů nemůže ani pokusit. Nejde o talent nebo chytré programování. Jde o hrubou sílu. Představa, že AI je rovnostářské pole, kde může konkurovat každý s notebookem, mizí. Vstupní cena pro špičkovou úroveň vývoje AI se nyní měří v miliardách dolarů za hardware. Proto vidíme největší technologické společnosti světa utrácet bezprecedentní částky za infrastrukturu. Nekupují jen servery. Staví továrny budoucnosti. Hardware je příkop, který chrání jejich obchodní modely.

Geopolitika písku a energie

Posun směrem k AI zaměřené na hardware změnil těžiště technologického průmyslu. Už to není jen o Silicon Valley. Je to o Tchajwanském průlivu a elektrických sítích v severní Virginii. Výrobní proces pro nejpokročilejší AI čipy je tak komplexní, že ho ve velkém měřítku zvládne pouze jedna společnost, TSMC. To vytváří jediný bod selhání pro celou globální ekonomiku. Pokud se zastaví výroba na Tchaj-wanu, zastaví se pokrok v AI. Proto vlády nyní považují výrobu čipů za otázku národní bezpečnosti. Dotují výstavbu nových továren a zavádějí vývozní kontroly na špičkový hardware. Cílem je zajistit, aby jejich domácí průmysl měl přístup k fyzickým komponentům potřebným k udržení konkurenceschopnosti.

Kromě samotných čipů je tu otázka energie. Modely AI jsou neuvěřitelně žíznivé po elektřině. Jeden jediný dotaz může spotřebovat výrazně více elektřiny než požadavek běžného vyhledávače. To vyvíjí obrovský tlak na místní elektrické sítě. V místech, kde jsou soustředěna datová centra, roste poptávka po elektřině rychleji než nabídka. To vedlo k obnovenému zájmu o jadernou energii a další vysoce kapacitní zdroje energie. Mezinárodní energetická agentura poznamenala, že datová centra by mohla do roku 2026 zdvojnásobit svou spotřebu elektřiny. Toto není softwarový problém, který lze optimalizovat lepším kódem. Je to fyzická realita fungování těchto systémů. Environmentální dopad AI nenajdeme v řádcích kódu, ale v chladicích systémech a uhlíkové stopě elektráren, které servery udržují v chodu. Organizace musí při výpočtu hodnoty svých AI iniciativ zohlednit tyto fyzické náklady.

Vysoká cena každého promptu

Abyste pochopili praktický dopad hardwarových omezení, představte si den v životě zakladatelky startupu na současném trhu. Říkejme jí Sarah. Sarah má skvělý nápad na nový lékařský diagnostický nástroj. Má data i talent. Rychle však zjišťuje, že její největší překážkou není algoritmus. Jsou to náklady na inferenci. Pokaždé, když lékař použije její nástroj, musí zaplatit za čas na špičkovém GPU v cloudu. Tyto náklady nejsou statické. Kolísají podle globální poptávky. Během špiček může cena výpočetního výkonu vyskočit a ukrojit z jejích marží. Tráví více času správou cloudových kreditů a optimalizací hardwaru než samotným lékařským výzkumem. To je realita tisíců tvůrců dneška. Jsou připoutáni k fyzické dostupnosti hardwaru.

Pro běžného uživatele se to projevuje latencí a omezeními. Všimli jste si někdy, že chatbot je v určitých denních hodinách pomalejší nebo méně schopný? To je často proto, že poskytovatel naráží na hardwarový limit. Přidělují svůj dostupný výpočetní výkon tak, aby zvládli zátěž. To je přímý důsledek fyzické povahy AI. Na rozdíl od tradičního softwaru, který lze kopírovat a distribuovat s téměř nulovými marginálními náklady, vyžaduje každá instance běžícího modelu AI vyhrazenou část hardwaru. To vytváří strop pro počet lidí, kteří mohou tyto nástroje používat najednou. Vysvětluje to také, proč se mnoho společností přesouvá k menším modelům, které mohou běžet na lokálních zařízeních, jako jsou telefony nebo notebooky. Snaží se přenést hardwarovou zátěž ze svých datových center na koncového uživatele. Tento posun pohání nový cyklus upgradů spotřebního hardwaru. Lidé si kupují nové počítače ne proto, že by ty staré byly rozbité, ale proto, že jim chybí specializované čipy potřebné pro lokální spouštění moderních AI funkcí.

Toto je masivní posun v tom, jak přemýšlíme o vztahu mezi našimi zařízeními a službami, které používáme.

Máte příběh, nástroj, trend nebo otázku týkající se AI, o kterých si myslíte, že bychom je měli pokrýt? Pošlete nám svůj nápad na článek — rádi si ho poslechneme.

Dynamika obchodní síly se také mění. V minulosti mohla softwarová firma škálovat globálně s velmi malou fyzickou stopou. Dnes jsou nejmocnějšími společnostmi ty, které vlastní infrastrukturu. Proto se NVIDIA stala jednou z nejhodnotnějších společností na světě. Dodávají krumpáče a lopaty pro zlatou horečku AI. I ty nejúspěšnější softwarové AI firmy jsou často jen nájemníky v datových centrech svých větších konkurentů. To vytváří nejistou situaci. Pokud se pronajímatel rozhodne zvýšit nájemné nebo upřednostnit své vlastní interní projekty, softwarová firma nemá kam jinam jít. Fyzická vrstva je konečným zdrojem páky v moderní technologické ekonomice. Je to návrat k průmyslovější formě konkurence, kde měřítko a fyzická aktiva znamenají víc než jen chytré nápady.

Otázky, které si neklademe

Jak se noříme hlouběji do této éry závislé na hardwaru, musíme si klást obtížné otázky o skrytých nákladech. Kdo skutečně těží z toho, že bariéry vstupu jsou tak vysoké? Pokud si jen hrstka firem může dovolit hardware potřebný k budování nejpokročilejších modelů, co to znamená pro konkurenci a inovace? Vidíme koncentraci moci, která je v historii technologií bezprecedentní. Tato centralizace vytváří obrovské riziko pro soukromí a cenzuru. Pokud veškeré zpracování AI probíhá na několika tisících serverech vlastněných třemi nebo čtyřmi společnostmi, tyto společnosti mají naprostou kontrolu nad tím, co lze říkat a co lze s technologií dělat. Co se stane se suverenitou menších národů, které si nemohou dovolit vybudovat vlastní AI infrastrukturu?

Existuje také otázka fyzických materiálů potřebných ke stavbě těchto strojů. Hardware pro AI závisí na vzácných zeminách a komplexních dodavatelských řetězcích, které se často nacházejí v nestabilních regionech. Environmentální náklady na těžbu těchto materiálů se v kontextu pokroku AI diskutují jen zřídka. Mluvíme o eleganci modelu a přitom ignorujeme povrchové doly a toxický odpad vznikající během výrobního procesu. Stojí přínos o něco lepšího chatbota za ekologické škody způsobené hardwarem, který vyžaduje? Dále musíme zvážit dlouhodobou udržitelnost současných trendů spotřeby energie. Podle zpráv Mezinárodní energetické agentury růst poptávky po energii v datových centrech již v některých regionech předstihuje přidávání obnovitelných zdrojů energie. Budujeme technologickou budoucnost, kterou planeta ve skutečnosti neunese? Nejsou to technické chyby, které je třeba opravit. Jsou to základní kompromisy, které přicházejí s rozhodnutím věnovat se AI v tomto měřítku. Musíme být upřímní v tom, že AI je fyzický zásah do světa, nejen digitální.

Architektura a latence

Pro pokročilé uživatele a vývojáře je příběh hardwaru ještě specifičtější. Nejde jen o to mít GPU. Jde o konkrétní architekturu tohoto GPU. Jedním z největších úzkých hrdel moderní AI není rychlost procesoru, ale rychlost paměti. Tomu se říká paměťová zeď. Paměť s vysokou šířkou pásma neboli HBM je nezbytná pro to, aby byl procesor neustále zásobován daty. Pokud je paměť příliš pomalá, procesor zahálí a plýtvá drahými výpočetními cykly. Proto se nejnovější čipy od hlavních výrobců tak silně zaměřují na šířku pásma a kapacitu paměti. Pokud provozujete lokální model, množství VRAM na vaší kartě je nejdůležitějším faktorem. Určuje velikost modelu, který můžete načíst, a rychlost, jakou může generovat text.

Integrace pracovních postupů se také stává hardwarovým problémem. Mnoho profesionálních nástrojů nyní integruje funkce AI, které vyžadují specifické limity API nebo lokální akceleraci. Pokud používáte cloudové API, jste závislí na dostupnosti hardwaru poskytovatele. To může vést k nepředvídatelné latenci, která ničí uživatelský zážitek. Pro lokální úložiště se požadavky také zvyšují. Ukládání velkých modelů a datových sad používaných k jejich doladění vyžaduje terabajty rychlého NVMe úložiště. Vidíme také vzestup specializovaných propojení, jako je NVLink, která umožňují více GPU komunikovat mezi sebou neuvěřitelnou rychlostí. To je nutné, protože největší modely se již nevejdou na jeden čip. Musí být rozprostřeny mezi desítky nebo dokonce stovky čipů, které pracují v dokonalé synchronizaci. Pokud je fyzické spojení mezi těmito čipy příliš pomalé, celý systém se zhroutí. Tato úroveň hardwarové komplexnosti je na hony vzdálená dnům, kdy stačilo napsat skript a spustit ho na notebooku. Podrobnější návody na optimalizaci vašeho lokálního nastavení najdete na webu AI Magazine. Porozumění těmto technickým specifikacím již není volitelné pro nikoho, kdo chce pracovat na špici tohoto oboru. Rozdíl mezi úspěšným nasazením a selháním často závisí na tom, jak dobře zvládnete fyzická omezení svého hardwarového stacku.

Fyzická realita

Příběh o AI jako čistě digitálním fenoménu je mrtvý. Realita je taková, že AI je fyzický průmysl, který vyžaduje obrovské množství půdy, vody, energie a křemíku. Pokrok, který v příštích letech uvidíme, bude určen stejně tak průlomy ve vědě o materiálech a výrobě energie, jako průlomy ve strojovém učení. Vstupujeme do období, kdy fyzický svět znovu potvrzuje svou dominanci nad digitálním světem. Společnosti, které to pochopí a investují do vlastního hardwaru a dodávek energie, budou těmi, které povedou. Ty, které považují hardware za druhořadý, zjistí, že jsou z trhu vytlačeny cenou. Nejdůležitější věcí, kterou je třeba si pamatovat, je, že každý kousek digitální inteligence má svůj fyzický domov. Do roku 2026 bude mapa světa AI vypadat hodně jako mapa nejmocnějších průmyslových center světa. Křemíkový strop je skutečný a my všichni pod ním žijeme.

Poznámka redakce: Tuto stránku jsme vytvořili jako vícejazyčné centrum zpráv a průvodců o umělé inteligenci pro lidi, kteří nejsou počítačoví maniaci, ale přesto chtějí porozumět umělé inteligenci, používat ji s větší jistotou a sledovat budoucnost, která již přichází.

Našli jste chybu nebo něco, co je potřeba opravit? Dejte nám vědět.