Az AI rejtett motorja: chipek, felhő és ipari méretek

A mesterséges intelligenciát gyakran úgy írják le, mint egy felhőben élő éteri algoritmus-sorozatot. Ez a leírás egy kényelmes fikció, amely figyelmen kívül hagyja azt a hatalmas ipari gépezetet, amelyre ezeknek a rendszereknek a működtetéséhez szükség van. A modern AI valósága a nagyfeszültségű távvezetékek, a masszív hűtőrendszerek és a speciális szilíciumgyártás fizikai világában rejlik. Míg a szoftverfrissítések fénysebességgel haladnak, az őket támogató infrastruktúra a beton és az acél sebességével mozog. A nagyméretű modellek fejlődése mostanra a fizika és a logisztika kemény korlátaiba ütközik. Azt látjuk, hogy a hálózati csatlakozás vagy az adatközpont-engedély megszerzésének képessége éppolyan fontos, mint a hatékony kód írása. A technológia jövőjének megértéséhez a képernyőn túlra, az azt működtető nehéziparra kell tekintenünk. A szűk keresztmetszet már nem csak az emberi találékonyság, hanem a földterület, a víz és az elektromos áram rendelkezésre állása olyan mértékben, amilyenre kevés iparág tartott valaha igényt.

A virtuális intelligencia ipari súlya

Az AI-hoz szükséges hardver sokkal összetettebb, mint a szabványos szerverberendezések. A speciális chiptervezéssel kezdődik, de a történet gyorsan a csomagolás és a memória felé terelődik. A High Bandwidth Memory elengedhetetlen ahhoz, hogy az adatokat elég gyorsan eljuttassuk a processzorokhoz a teljesítmény fenntartása érdekében. Ezt a memóriát függőlegesen halmozzák fel, és olyan fejlett technikákkal integrálják a processzorral, mint a Chip on Wafer on Substrate. Ezt a folyamatot nagyon kevés vállalat kezeli, ami szűk keresztmetszetet hoz létre a teljes globális ellátásban. A hálózatépítés egy másik kritikus fizikai összetevő. Ezek a rendszerek nem működnek elszigetelten. Nagy sebességű összeköttetésekre, például InfiniBand-re van szükségük, hogy több ezer chip egyetlen egységként működhessen. Ez fizikai korlátokat szab az adatközpontok felépítésének, mivel a réz- vagy száloptikai kábelek hossza befolyásolhatja az egész rendszer sebességét.

Ezeknek az alkatrészeknek a gyártása néhány, rendkívül specializált létesítményre koncentrálódik. Egyetlen vállalat, a TSMC gyártja a világ csúcskategóriás chipjeinek túlnyomó többségét. Ez a koncentráció azt jelenti, hogy egyetlen helyi esemény vagy kereskedelempolitikai változás megállíthatja az egész iparág fejlődését. A gyártóberendezések összetettsége is tényező. Az extrém ultraibolya litográfiát használó gépek az emberiség által valaha épített legbonyolultabb eszközök. Ezeket csak egyetlen vállalat gyártja a világon, és évekbe telik a megrendelésük és telepítésük. Ez nem a gyors iteráció világa. Ez a hosszú távú tervezés és a hatalmas tőkebefektetés világa. Az infrastruktúra az az alap, amelyre minden chatbot és képgenerátor épül. E fizikai réteg nélkül a szoftver egyszerűen nem létezhet.

• Az olyan fejlett csomagolási technikák, mint a CoWoS, jelenleg a chipellátás elsődleges szűk keresztmetszetei.
• A High Bandwidth Memory gyártása speciális gyárakat igényel, amelyek jelenleg teljes kapacitással működnek.
• A hálózati hardvereket úgy kell megtervezni, hogy minimális késleltetéssel kezeljék a hatalmas adatátvitelt.
• A legújabb csomópontok gyártóberendezései többéves hátralékban vannak.
• A termelés meghatározott földrajzi régiókba történő koncentrálása jelentős ellátási lánckockázatot teremt.

A számítási teljesítmény geopolitikai térképe

A hardvergyártás koncentrációja az AI-t nemzetbiztonsági kérdéssé tette. A kormányok most exportellenőrzéseket alkalmaznak a csúcskategóriás chipek és gyártóberendezések bizonyos régiókba történő áramlásának korlátozására. Ezek az ellenőrzések nemcsak magukra a chipekre vonatkoznak, hanem azokra az ismeretekre is, amelyek az azokat előállító gépek megépítéséhez és karbantartásához szükségesek. Ez egy széttöredezett környezetet teremtett, ahol a világ különböző részei különböző szintű számítási teljesítményhez férnek hozzá. Ez a szakadék mindent érint az üzleti termelékenységtől a tudományos kutatásig. A vállalatok most kénytelenek figyelembe venni adatközpontjaik földrajzi elhelyezkedését, nemcsak a késleltetés, hanem a politikai stabilitás és a szabályozási megfelelés miatt is. Ez jelentős változás az internet korai napjaihoz képest, amikor egy szerver fizikai helye szinte lényegtelen volt.

Az új korszak üzleti ereje azok kezében van, akik az infrastruktúrát irányítják. Azok a felhőszolgáltatók, amelyek évekkel ezelőtt nagy chiprendeléseket biztosítottak, most hatalmas előnyben vannak az újoncokkal szemben. Ez a hatalmi koncentráció a technológia fizikai követelményeinek közvetlen eredménye. A dinamikák mélyebb megértéséhez olvassa el ezt a mélyreható elemzést a mesterséges intelligencia infrastruktúrájáról, hogy lássa, hogyan formálja a hardver a szoftvert. A versenyképes, nagyméretű modell megépítésének belépési költsége ma már több milliárd dolláros hardverberuházásban mérhető. Ez olyan belépési korlátot teremt, amely a bejáratott óriáscégeket és az államilag támogatott szervezeteket segíti. A hangsúly eltolódott arról, hogy kinek van a legjobb algoritmusa, arra, hogy kinek van a legmegbízhatóbb ellátási lánca és a legnagyobb adatközpontja. Ez a tendencia valószínűleg folytatódni fog, ahogy a modellek mérete és összetettsége nő.

Beton és hűtés a való világban

Az AI környezeti hatása gyakran rejtve marad a végfelhasználó elől. Egyetlen lekérdezés egy nagy nyelvi modellhez lényegesen több energiát igényelhet, mint egy szabványos keresőmotor-lekérdezés. Ez az energiafogyasztás hővé alakul, amelyet hatalmas hűtőrendszerekkel kell kezelni. Ezek a rendszerek gyakran több millió liter vizet használnak fel naponta. A vízhiánnyal küzdő régiókban ez közvetlen versenyt teremt a technológiai vállalatok és a helyi közösségek között. Az AI-adatközpontok energiasűrűsége többszöröse a hagyományos létesítményekének. Ez azt jelenti, hogy a meglévő elektromos hálózatok gyakran nem képesek kezelni a terhelést jelentős fejlesztések nélkül. Ezek a fejlesztések évekig tarthatnak, és bonyolult engedélyezési folyamatokat igényelnek a helyi és állami kormányzatok bevonásával.

Gondoljunk egy önkormányzati közüzemi vezető egy napjára egy olyan régióban, ahol új adatközpont épül. Biztosítaniuk kell, hogy a helyi hálózat elbírja a hatalmas, állandó energiaigényt anélkül, hogy áramkimaradásokat okozna a lakosoknak. Egy olyan rendszer napi működését irányítják, amelyet soha nem ilyen szintű koncentrált igénybevételre terveztek.

Amikor egy technológiai vállalat új csatlakozást kér, az többéves folyamatot indíthat el új alállomások építésével és mérföldnyi nagyfeszültségű vezeték lefektetésével. Ez gyakran vezet helyi ellenálláshoz azoktól a polgároktól, akik aggódnak a növekvő közüzemi díjak vagy a létesítmény környezeti hatásai miatt. A Nemzetközi Energiaügynökség megjegyezte, hogy az adatközpontok villamosenergia-fogyasztása a következő néhány évben megduplázódhat. Ez nemcsak technikai, hanem társadalmi és politikai kihívás is. Az adatközpont fizikai lábnyoma több százezer m² földterületet foglalhat el, gyakran olyan területeken, ahol a földterület már amúgy is drága.

Az engedélyezés egy másik gyakorlati korlát, amelyet gyakran figyelmen kívül hagynak. Az adatközpont építése a környezetvédelmi előírások, az övezeti törvények és az építési szabályzatok bonyolult hálójában való navigálást jelenti. Egyes joghatóságokban a folyamat tovább tarthat, mint maga az építkezés. Ez szakadékot teremt a szoftverfejlesztés gyors üteme és a fizikai infrastruktúra lassú üteme között. A vállalatok most olyan helyszíneket keresnek, ahol gyorsított engedélyezés és könnyű hozzáférés biztosított a megújuló energiához. Azonban még a megújuló energiával is kihívást jelent az igények puszta mértéke. Egy 24 órában működő adatközpont állandó energiaellátást igényel, ami azt jelenti, hogy a szél- és napenergiát hatalmas akkumulátoros tárolással vagy más alapenergia-formákkal kell kiegészíteni. Ez a fizikai összetettség és a költségek újabb rétegét adja a működéshez.

Nehéz kérdések a skálázódás korszakában

Ahogy folytatjuk ezeknek a rendszereknek a skálázását, nehéz kérdéseket kell feltennünk a rejtett költségekről. Ki fizeti valójában az AI-hoz szükséges hatalmas infrastruktúrát? Bár az eszközök gyakran ingyenesek vagy alacsony költségűek a végfelhasználó számára, a környezeti és társadalmi költségek eloszlanak a társadalomban. Megéri-e egy kicsit pontosabb chatbot előnye az elektromos hálózatainkra és vízkészleteinkre nehezedő terhet? Ott van a magánélet és az adatszuverenitás kérdése is. Ahogy egyre több adatot dolgoznak fel hatalmas, központosított létesítményekben, a nagyszabású adatszivárgások kockázata nő. Az adatok fizikai koncentrációja az állami szereplők és a kiberbűnözők célpontjává is teszi azokat. Meg kell fontolnunk, hogy a hatalmas, központosított számítástechnika felé történő elmozdulás az egyetlen járható út, vagy többet kellene fektetnünk a decentralizált és hatékony alternatívákba.

A hardver költsége is aggodalomra ad okot. Ha csak néhány vállalat engedheti meg magának a legfejlettebb modellekhez szükséges infrastruktúra kiépítését, mit jelent ez a nyílt kutatás és a verseny jövőjére nézve? Azt látjuk, hogy a legképesebb rendszerek zárt, saját fejlesztésű API-k mögé vannak zárva, miközben a mögöttes hardver és adatok rejtve maradnak. Az átláthatóság hiánya megnehezíti a független kutatók számára a biztonsággal és az elfogultsággal kapcsolatos állítások ellenőrzését. Emellett függőséget is teremt a kritikus infrastruktúráért felelős maroknyi szolgáltatótól. Ha ezen szolgáltatók egyike jelentős hardverhibát vagy geopolitikai zavart tapasztal, a hatás az egész világgazdaságban érezhető lenne. Ezek nemcsak technikai problémák, hanem alapvető kérdések arról, hogyan akarjuk felépíteni technológiai jövőnket.

Van egy AI-történet, eszköz, trend vagy kérdés, amiről úgy gondolja, hogy foglalkoznunk kellene vele? Küldje el nekünk cikkötletét — szívesen meghallgatnánk.

A modern modellek hardverarchitektúrája

Az erőfelhasználók és a fejlesztők számára az AI fizikai korlátai a munkafolyamat-integrációkban és az API-korlátokban nyilvánulnak meg. A legtöbb felhasználó API-n keresztül lép kapcsolatba ezekkel a modellekkel, ami lényegében egy ablak egy hatalmas adatközpontra. Ezeknek az API-knak sebességkorlátai vannak, amelyek közvetlenül kapcsolódnak a túloldalon rendelkezésre álló számítási teljesítményhez. Amikor egy modell lassan válaszol, az gyakran azért van, mert a fizikai hardveren több ezer másik felhasználó osztozik. Egyes fejlesztők a helyi tárolás és a helyi következtetés (inference) felé mozdulnak el, hogy megkerüljék ezeket a korlátokat. Azonban egy nagy modell helyi futtatása jelentős hardvert igényel, beleértve a nagy mennyiségű VRAM-mal rendelkező csúcskategóriás GPU-kat. Ez megnövelte a keresletet a fogyasztói kategóriájú hardverek iránt, amelyek képesek kezelni az AI-munkaterheléseket, de még a legjobb fogyasztói chipek is csak töredékét jelentik egy dedikált adatközponti rack teljesítményének.

Az AI integrációja a professzionális munkafolyamatokba az adatok fizikai elhelyezkedésétől is függ. Azoknál a vállalatoknál, amelyek szigorú adattárolási követelményekkel rendelkeznek, a felhőalapú modell használata nem biztos, hogy opció. Ez hajtja a helyszíni (on-premises) AI-hardverek piacát, amely lehetővé teszi a vállalatok számára, hogy saját szervereiken futtassák a modelleket. Ezek a rendszerek drágák, és speciális személyzetet igényelnek a karbantartásukhoz. A hálózatépítés itt is jelentős szűk keresztmetszet marad. A nagy adatkészletek modellbe történő be- és ki mozgatása nagy sávszélességű kapcsolatokat igényel, amelyekkel sok iroda nem rendelkezik. Ezért látjuk az edge computingra helyezett hangsúlyt, ahol a feldolgozás közelebb történik ahhoz a helyhez, ahol az adatok keletkeznek. Ez csökkenti a hatalmas adatátvitelek szükségességét, és a késleltetés csökkentésével javíthatja a felhasználói élményt. Az NVIDIA hardverstackje a de facto szabvánnyá vált ezeknél a műveleteknél, de az iparág alternatívákat keres a költségek és a függőség csökkentésére.

• Az API sebességkorlátai a szolgáltató fizikai számítási kapacitásának közvetlen tükröződései.
• A helyi következtetés nagy VRAM-kapacitást igényel, ami jelenleg prémium funkció a fogyasztói GPU-kban.
• Az adattárolási törvények sok vállalatot kényszerítenek vissza a helyszíni hardverek használatára.
• Az edge computing célja a hálózati szűk keresztmetszet megoldása a számítási feladatok felhasználóhoz való közelebb vitelével.
• A speciális AI-hardverek karbantartásának költsége jelentős rezsiköltség a kisvállalkozások számára.

A jövő fizikai valósága

Az AI mint tisztán digitális jelenség narratívája már nem fenntartható. Az energia, a víz, a föld és a szilícium korlátai ma már a fejlődés ütemét meghatározó elsődleges tényezők. Olyan korszakba lépünk, ahol egy technológiai vállalat sikere éppúgy függ a globális ellátási lánc kezelésének és az energiakontraktusok biztosításának képességétől, mint a szoftveres szakértelmétől. Az AI virtuális világa és az infrastruktúra fizikai világa közötti ellentmondások napról napra láthatóbbá válnak. Fel kell ismernünk, hogy minden digitális előrelépésnek fizikai ára van. A következő évtized kihívása az lesz, hogy megtaláljuk a módját a fejlődés folytatásának, miközben kezeljük bolygónk erőforrásainak nagyon is valós korlátait. A technológia jövője nemcsak a kódban, hanem a hardverben és az azt lehetővé tevő infrastruktúrában rejlik.

A szerkesztő megjegyzése: Ezt az oldalt többnyelvű AI hírek és útmutatók központjaként hoztuk létre olyan emberek számára, akik nem számítógépes zsenik, de mégis szeretnék megérteni a mesterséges intelligenciát, magabiztosabban használni, és követni a már megérkező jövőt.

Hibát talált, vagy valami javításra szorul? Tudassa velünk.