Nvidia, AMD a nový závod v oblasti výpočetního výkonu

Globální technologický průmysl je momentálně v zajetí zásadní proměny toho, jak definujeme a distribuujeme výkon. Po desetiletí bylo srdcem každého stroje CPU, ale tato éra skončila. Dnes se pozornost přesunula ke specializovanému křemíku, který zvládá masivní matematické úlohy moderní syntetické inteligence. Nejde jen o to, kdo vyrobí rychlejší komponentu. Je to boj o výpočetní převahu. Nvidia a AMD jsou hlavními aktéry příběhu, který zahrnuje mnohem víc než jen hardware. Jde o kontrolu infrastruktury, která určí příští dekádu vývoje softwaru. Sázky jsou vysoké, protože vítěz neprodává jen produkt. Vytváří platformu, kterou ostatní musí používat, aby zůstali relevantní. Tento přechod od obecných výpočtů k akcelerovaným představuje fundamentální změnu v hierarchii technologického světa.

Neviditelný kód, který poutá cloud

Abyste pochopili, proč jedna firma v tomto prostoru dominuje, musíte se podívat za fyzický čip. Většina pozorovatelů se soustředí na počet tranzistorů nebo taktovací frekvenci GPU. Skutečná síla však leží ve softwarové vrstvě mezi hardwarem a vývojářem. Nvidia strávila téměř dvě desetiletí budováním proprietárního prostředí zvaného CUDA. To umožňuje programátorům využít paralelní výkon GPU pro úkoly, které s grafikou vůbec nesouvisejí. Protože je tolik stávajícího kódu napsáno přímo pro toto prostředí, přechod ke konkurenci není jen o výměně karty. Vyžaduje přepsání tisíců řádků komplexních instrukcí. Toto je softwarový příkop, který brání i těm nejlépe financovaným konkurentům v okamžitém úspěchu. Hardware se tak stává v podstatě vstupenkou do specifického softwarového ekosystému.

AMD se snaží kontrovat otevřeným přístupem zvaným ROCm. Jejich strategií je nabídnout životaschopnou alternativu, která vývojáře neuzamkne u jednoho dodavatele. I když jejich nejnovější hardware, jako je řada MI300, slibuje vysoký výkon, softwarová propast zůstává velkou překážkou. Mnoho vývojářů zjišťuje, že nejnovější nástroje a knihovny jsou optimalizovány primárně pro Nvidii, což ostatní platformy staví do role dohánějících. Tato dynamika posiluje dominanci stávajícího lídra. Pokud jste inženýr, který se snaží spustit model, jdete tam, kde je dokumentace nejúplnější a chyby již odhalené. Více podrobností o nejnovějších pokrocích v architektuře GPU najdete v oficiální technické dokumentaci. Pochopení infrastruktury pro umělou inteligenci je zásadní pro každého, kdo se snaží předpovědět, odkud přijde další vlna inovací. Konkurence je dnes stejně tak o zkušenosti vývojářů jako o samotném křemíku.

Geopolitický monopol na inteligenci

Důsledky tohoto závodu sahají daleko za hranice účetních knih Silicon Valley. Vidíme koncentraci moci, která soupeří s ropnými monopoly dvacátého století. Hrstka hyperscalers, včetně Microsoftu, Amazonu a Googlu, jsou hlavními odběrateli těchto špičkových čipů. To vytváří zpětnou vazbu, kde největší firmy dostávají nejlepší hardware jako první, což jim umožňuje stavět výkonnější modely, což generuje další zisky na nákup dalšího hardwaru. Tato koncentrace zdrojů znamená, že menší hráči a dokonce celé národy se ocitají na špatné straně rostoucí propasti. Ti, kteří mají přístup k masivním výpočetním clusterům, mohou inovovat tempem, které je pro ostatní nemožné. To vedlo ke vzniku dvoustupňového systému v technologickém průmyslu: na ty, kteří mají výpočetní výkon, a ty, kteří ho nemají.

Vlády si této nerovnováhy všimly. Křemík je nyní vnímán jako strategické aktivum národního významu. Exportní omezení mají zabránit tomu, aby se pokročilé čipy dostaly do určitých regionů, čímž se hardware stává nástrojem zahraniční politiky. Tato omezení nejsou jen o prevenci vojenského využití. Jde o zajištění toho, aby ekonomické výhody příští generace softwaru zůstaly v rámci určitých hranic. Dodavatelský řetězec těchto čipů je navíc neuvěřitelně křehký. Většina pokročilé výroby probíhá na jediném místě na Tchaj-wanu, což vytváří kritický bod selhání pro celou globální ekonomiku. V minulosti jsme viděli, jak omezení dodávek může zastavit výrobu v mnoha odvětvích. Pokud by se tok špičkových GPU zastavil, vývoj moderního softwaru by prakticky zamrzl. Tato závislost na pár firmách a jediném výrobním partnerovi je riziko, které podle mnoha analytiků trh ještě plně nezapočítal. Podle zpráv z Reuters jsou tyto zranitelnosti dodavatelského řetězce hlavní prioritou globálních obchodních regulátorů.

Vysoká cena za hlad po výkonu

Představte si každodenní realitu zakladatele startupu v současném prostředí. Jejich hlavní starostí už není jen najímání nejlepších talentů nebo hledání shody produktu s trhem. Místo toho tráví značnou část času vyjednáváním o čase na serverech. V běžný den může zakladatel začít kontrolou svého burn rate, jen aby zjistil, že většina kapitálu jde přímo poskytovateli cloudu za pronájem přístupu k H100 clusterům. Čipy si přímo koupit nemohou, protože dodací lhůty jsou dlouhé měsíce a postrádají chladicí infrastrukturu pro jejich lokální provoz. Jsou nuceni čekat v digitální frontě a doufat, že je větší zákazník nepřebije v prioritním přístupu. To je na hony vzdálené počátkům internetu, kdy pár levných serverů stačilo k podpoře globální platformy. Vstupní cena pro seriózní vývoj se posunula z tisíců dolarů na miliony.

Den pokračuje bojem s technickým dluhem. Protože používají pronajatý hardware, musí optimalizovat každou sekundu tréninkového času. Pokud úloha selže kvůli drobné chybě v kódu, může to stát tisíce dolarů ve vyplýtvaném výpočetním výkonu. Tento tlak dusí experimentování. Vývojáři méně zkoušejí radikální nápady, když je cena za selhání tak vysoká.

Existuje také problém *ecosystem lock-in*, který se projeví, když se pokusí přesunout svou zátěž. Mohou zjistit, že konkrétní knihovna, kterou použili, funguje efektivně pouze na jednom typu hardwaru, což z nich dělá rukojmí konkrétního cloudového poskytovatele. Zakladatel si uvědomuje, že nestaví jen produkt: slouží jako průtokový ohřívač pro kapitál, který teče od investorů přímo k výrobcům čipů. Tato realita mění typy firem, které získávají financování. Investoři stále častěji hledají týmy, které mají garantovaný přístup k výkonu, spíše než jen dobré nápady. Tento posun dokumentují nedávné průmyslové průzkumy od Gartner, které zdůrazňují rostoucí náklady na infrastrukturu jako hlavní bariéru vstupu.

Máte příběh, nástroj, trend nebo otázku týkající se AI, o kterých si myslíte, že bychom je měli pokrýt? Pošlete nám svůj nápad na článek — rádi si ho poslechneme.

Skrytá daň za proprietární křemík

Jak se noříme hlouběji do éry akcelerovaných výpočtů, musíme si klást těžké otázky o dlouhodobých důsledcích. Je zdravé, aby základy moderních technologií ovládalo tak malé množství subjektů? Když jedna firma poskytuje hardware, softwarové prostředí i síťové propojení, v podstatě vlastní celý stack. To vytváří skrytou daň na inovace. Každý vývojář, který píše kód pro proprietární systém, přispívá k monopolu, který je každým dnem těžší prolomit. Co se stane se soukromím dat, když musí procházet těmito specializovanými čipy ve sdíleném cloudovém prostředí? I když poskytovatelé tvrdí, že data jsou izolovaná, fyzická realita sdíleného křemíku naznačuje, že by mohly být možné nové typy side-channel útoků. Vyměňujeme transparentnost za výkon a plná cena tohoto obchodu zatím není známa.

Otázkou je také environmentální udržitelnost. Energetické nároky těchto nových datových center jsou ohromující. Stavíme masivní zařízení, která vyžadují tolik elektřiny jako malá města jen pro provádění maticových násobení. Je to udržitelná cesta pro planetu? Pokud poptávka po těchto modelech poroste současným tempem, nakonec narazíme na fyzický limit toho, kolik energie můžeme poskytnout. Co se navíc stane, pokud současné nadšení pro tyto technologie dosáhne vrcholu? Momentálně jsme ve fázi masivního budování, ale pokud se ekonomické výnosy pro firmy kupující tyto čipy nedostaví, můžeme vidět náhlou a násilnou korekci. Dluhy vzaté na vybudování této infrastruktury bude třeba splácet bez ohledu na to, zda je software, který na nich běží, ziskový. Musíme zvážit, zda stavíme na písku, nebo jde o trvalou změnu v tom, jak svět funguje.

Pod kapotou AI enginu

Pro ty, kteří potřebují pochopit technická omezení, není příběh jen o GPU. Úzké hrdlo moderních výpočtů se přesunulo od procesoru k paměti a propojení. High Bandwidth Memory, konkrétně HBM3e, je v současnosti nejžádanější komponentou na světě. Umožňuje procesoru přistupovat k datům rychlostmi, které byly dříve nemožné. Bez této paměti by nejrychlejší GPU jen nečinně čekalo na přísun dat. Proto jsou omezení dodávek tak přetrvávající. Nejde jen o výrobu více čipů: jde o koordinaci produkce mnoha komplexních komponent od různých dodavatelů. Dostupnost této paměti bude pravděpodobně diktovat celkový výstup celého průmyslu. To je fyzický limit, který software jen tak nepřekoná.

Networking je další kritický dílek skládačky. Když trénujete model napříč tisíci GPU, rychlost, jakou spolu tyto čipy komunikují, se stává určujícím faktorem výkonu. Nvidia používá proprietární propojení zvané NVLink, které poskytuje mnohem vyšší propustnost než standardní Ethernet. To je další vrstva příkopu. I když konkurent vyrobí čip, který je v izolaci rychlejší, nemůže se vyrovnat výkonu clusteru, pokud je jejich networking pomalejší. Power users se také musí vypořádat s přísnými API limity a realitou úzkých hrdel lokálního úložiště. I s nejrychlejším výpočetním výkonem zůstává přesun terabajtů dat do clusteru pomalým a drahým procesem. Následující faktory jsou v současnosti hlavními technickými limity pro náročné uživatele:

• Saturace propustnosti paměti během velkoobjemových úloh inference.
• Tepelné omezování (thermal throttling) v konfiguracích s vysokou hustotou racků.
• Latence propojení při škálování za hranice jednoho podu.
• Vysoké náklady na trvalé úložiště v blízkosti výpočetních uzlů.

Většina organizací zjišťuje, že tyto úlohy nemůže provozovat lokálně. Specializované nároky na napájení a chlazení přesahují možnosti standardního datového centra. To vynucuje závislost na pár konkrétních poskytovatelích, kteří mají kapitál na vybudování těchto na míru šitých prostředí. Geek sekce trhu už není o stavění vlastního rigu: je o pochopení konfiguračních možností virtuálního stroje ve vzdáleném zařízení. Přechod od lokálního hardwaru k abstrahovaným cloudovým výpočtům je pro náročné úlohy téměř dokončen.

Verdikt o křemíkové válce

Závod mezi Nvidií a AMD není jednoduchou soutěží v rychlosti. Je to bitva o budoucnost výpočetní platformy. Nvidia má obrovský náskok, nejen díky hardwaru, ale proto, že úspěšně uzamkla vývojářskou komunitu do svého softwarového ekosystému. AMD bojuje v bitvě proti proudu prosazováním otevřených standardů, ale čelí značné výzvě při překonávání setrvačnosti stávajících kódových základen. Skutečnými vítězi jsou zatím hyperscalers, kteří mají kapitál na nákup tohoto křemíku ve velkém, čímž dále centralizují moc v technologickém průmyslu. Pro běžného uživatele nebo vývojáře jsou sázky praktické. Vidíme, jak rostou náklady na inovace a objevuje se nový typ hlídače bran. Křemíková válka přepisuje pravidla globální ekonomiky a jsme teprve v raných fázích pozorování jejího skutečného dopadu. Pozornost musí zůstat na tom, zda tato koncentrace moci slouží širším zájmům společnosti, nebo jen zájmům těch, kteří vlastní čipy.

Poznámka redakce: Tuto stránku jsme vytvořili jako vícejazyčné centrum zpráv a průvodců o umělé inteligenci pro lidi, kteří nejsou počítačoví maniaci, ale přesto chtějí porozumět umělé inteligenci, používat ji s větší jistotou a sledovat budoucnost, která již přichází.

Našli jste chybu nebo něco, co je potřeba opravit? Dejte nám vědět.