Šta rast data centara znači za AI trku

Fizička granica virtuelne inteligencije

Trka za veštačkom inteligencijom se preselila iz istraživačkih laboratorija na gradilišta. Godinama se industrija fokusirala na eleganciju koda i veličinu neuronskih mreža. Danas su primarna ograničenja mnogo primitivnija. To su zemljište, struja, voda i bakar. Ako želite da izgradite sledeću generaciju velikih jezičkih modela, nije vam potreban samo bolji algoritam. Potrebna vam je ogromna zgrada ispunjena hiljadama specijalizovanih čipova koji troše struje kao manji grad. Ova promena sa softvera na tešku infrastrukturu izmenila je prirodu tehnološke konkurencije. Više nije stvar samo u tome ko ima najbolje inženjere. Radi se o tome ko može da obezbedi vezu sa električnom mrežom i ko može da ubedi lokalne vlasti da im dozvole izgradnju objekta koji troši milione litara vode za hlađenje.

Svaki put kada korisnik ukuca upit u chatbot, pokreće se fizički lanac događaja. Taj zahtev ne postoji u cloudu. On postoji u rack-u servera. Ovi serveri postaju sve gušći i topliji. Rast ovih objekata je najznačajnija fizička ekspanzija u istoriji tehnološke industrije. To je ogromna opklada na budućnost compute-a. Ali ovaj rast udara u zid fizičke realnosti. Vidimo pomak od apstraktne ideje interneta ka svetu u kojem su data centri jednako važni i kontroverzni kao rafinerije nafte ili elektrane. Ovo je nova realnost AI trke. To je nadmetanje za fundamentalne resurse fizičkog sveta.

Od koda do betona i bakra

Izgradnja modernog data centra je vežba iz industrijskog inženjeringa. U prošlosti, data centar je mogao biti preuređeno skladište sa malo dodatne klimatizacije. Sada su ovi objekti namenski građene mašine dizajnirane da podnesu intenzivnu toplotu AI čipova. Najvažniji faktor je struja. Jedan moderan AI čip može da povuče više od 700 vati. Kada spakujete desetine hiljada ovih čipova u jednu zgradu, zahtevi za strujom dostižu stotine megavata. Ovde nije reč samo o ceni električne energije. Radi se o njenoj dostupnosti. U mnogim delovima sveta, električna mreža je već na granici kapaciteta. Tehnološke kompanije se sada takmiče sa stambenim naseljima i fabrikama za istu ograničenu ponudu elektrona.

Zemljište je sledeća prepreka. Ne možete samo graditi ove objekte bilo gde. Moraju biti blizu fiber optic linija kako bi se smanjila latencija. Takođe moraju biti u područjima gde je tlo stabilno, a klima podnošljiva. To je dovelo do masovne koncentracije data centara na mestima kao što je Severna Virdžinija. Ovaj region obrađuje ogroman deo globalnog internet saobraćaja. Ali čak i tamo, zemljišta ponestaje. Kompanije sada gledaju udaljenije lokacije, ali tim lokacijama često nedostaju neophodne veze sa mrežom. Ovo stvara problem „kokoške i jajeta“. Možete naći zemljište, ali ne možete dobiti struju. Ili možete naći struju, ali proces dobijanja dozvola traje godinama. Dozvole su postale glavno usko grlo. Lokalne vlasti su sve skeptičnije prema ovim projektima jer zauzimaju prostor i troše resurse, a pružaju relativno malo dugoročnih radnih mesta.

Hlađenje je treći stub ove infrastrukture. AI čipovi generišu neverovatnu količinu toplote. Tradicionalno vazdušno hlađenje više nije dovoljno za rack-ove najveće gustine. Mnogi novi objekti prelaze na tečno hlađenje. To podrazumeva sprovođenje cevi sa vodom ili specijalizovanim rashladnim sredstvom direktno do čipova. Ovo zahteva ogromnu količinu vode. U nekim slučajevima, jedan data centar može da potroši stotine miliona litara vode godišnje. Ovo stavlja tehnološke kompanije u direktnu konkurenciju sa lokalnom poljoprivredom i stambenim potrebama za vodom. U područjima sklonim suši, ovo je postalo politička tačka usijanja. Industrija pokušava da pređe na sisteme zatvorene petlje koji recikliraju vodu, ali početni zahtevi ostaju zapanjujući. Ovo su praktična ograničenja koja definišu trenutnu eru tehnološkog rasta.

Geopolitika High Performance Compute-a

Data centri više nisu samo korporativna imovina. Oni su nacionalni prioriteti. Vlade širom sveta shvataju da je compute power oblik nacionalne snage. Ovo je dovelo do koncepta suverenog AI-a. Države žele sopstvene data centre locirane unutar svojih granica kako bi osigurale privatnost podataka i nacionalnu bezbednost. Ne žele da se oslanjaju na objekte locirane u drugim jurisdikcijama. Ovo vodi ka fragmentiranoj globalnoj infrastrukturi. Umesto nekoliko masivnih čvorišta, vidimo pritisak za lokalizovane data centre u svakoj većoj ekonomiji. Ovo je značajan pomak od centralizovanog modela koji je dominirao protekle decenije. To čini trku u infrastrukturi još složenijom jer kompanije moraju da se snalaze u različitim regulatornim okruženjima u svakoj zemlji.

Ova geopolitička dimenzija učinila je data centre metom industrijske politike. Neke vlade nude ogromne subvencije kako bi privukle developere data centara. Oni vide ove zgrade kao temelj moderne ekonomije. Drugi se kreću u suprotnom smeru. Zabrinuti su zbog opterećenja svojih nacionalnih mreža i uticaja takve visoke potrošnje energije na životnu sredinu. Na primer, neki gradovi su uveli moratorijume na izgradnju novih data centara dok ne nadograde svoju električnu infrastrukturu. Ovo stvara mozaik dostupnosti. Kompanija bi možda mogla da gradi u jednoj zemlji, ali da bude blokirana u drugoj. Ova geografska distribucija je važna jer utiče na latenciju i performanse AI modela za korisnike u tim regionima. Ako državi nedostaje lokalni compute, njeni građani će uvek biti u nepovoljnijem položaju u AI trci.

Borba za ove resurse je takođe borba za lance snabdevanja. Komponente potrebne za izgradnju data centra su deficitarna roba. To uključuje sve, od samih čipova do masivnih transformatora potrebnih za povezivanje na mrežu. Vreme isporuke za deo ove opreme može biti dve ili tri godine. To znači da su pobednici AI trke u 2027 određeni odlukama donetim pre nekoliko godina. Kompanije koje su rano obezbedile struju i opremu imaju ogromnu prednost. Oni koji sada pokušavaju da uđu na tržište shvataju da su vrata delimično zatvorena. Fizički svet se kreće mnogo sporije od sveta softvera. Možete napisati novi kod za jedan dan, ali ne možete izgraditi trafostanicu za jedan dan. Ova realnost tera tehnološke kompanije da razmišljaju kao industrijski giganti.

Kada Large Language Models sretnu lokalne električne mreže

Da biste razumeli uticaj ovog rasta, zamislite tipičan dan u životu modernog data centra. Zamislite objekat koji se nalazi na periferiji grada srednje veličine. Unutra su redovi rack-ova, svaki otprilike veličine frižidera. Ovi rack-ovi su prepuni GPU-ova. Kako sunce izlazi i ljudi počinju svoj radni dan, potražnja za AI servisima raste. Hiljade zahteva za dopunu koda, generisanje slika i sumiranje teksta preplavljuju zgradu. Svaki zahtev izaziva skok u potrošnji struje. Ventilatori za hlađenje se brže vrte. Pumpe za tečno hlađenje pojačavaju rad. Toplota koju generišu ovi čipovi je toliko intenzivna da je možete osetiti kroz izolovane zidove serverske sobe. Ovo je zvuk moderne ekonomije. To je konstantno, niskofrekventno zujanje koje nikada ne prestaje.

Izvan zidova, uticaj oseća zajednica. Lokalna elektrodistribucija mora da upravlja opterećenjem. Ako data centar povuče previše struje, to može izazvati nestabilnost u mreži. Zbog toga mnogi data centri imaju masivne banke baterija i dizel generatore na licu mesta. Oni su u suštini svoje sopstvene mini-komunalne službe. Ali ovi generatori stvaraju buku i emisije, što dovodi do lokalnog otpora. Stanovnici u obližnjim naseljima mogu se žaliti na konstantno zujanje ili prizor masivnih dalekovoda koji prolaze kroz njihova dvorišta. Oni vide zgradu koja pokriva 500.000 m² ali zapošljava samo nekoliko desetina ljudi. Pitaju se šta dobijaju zauzvrat za opterećenje svojih lokalnih resursa. Ovde se tehnika susreće sa politikom. Data centar je inženjersko čudo, ali je i komšija koji troši mnogo struje i vode.

Razmere ovoga je teško vizualizovati. Jedan veliki kampus data centara može da potroši struje koliko i 100.000 domova. Kada tehnološki gigant najavi novi projekat od 10 milijardi dolara, oni ne kupuju samo servere. Oni grade masivni industrijski kompleks. To uključuje namenska postrojenja za prečišćavanje vode i privatne električne trafostanice. U nekim slučajevima, čak investiraju u nuklearnu energiju kako bi osigurali stabilno snabdevanje energijom bez ugljenika. Ovo je radikalan otklon od načina na koji su tehnološke kompanije nekada poslovale. One više nisu samo stanari u tuđoj zgradi. One su primarni pokretači razvoja infrastrukture u mnogim regionima. Ovaj rast menja fizički izgled naših gradova i način na koji se upravlja našim komunalnim uslugama. To je masivna, vidljiva manifestacija digitalnog doba.

Trenje nije samo zbog resursa. Radi se o brzini promena. Lokalna električna mreža je dizajnirana da raste predvidljivom brzinom tokom decenija. AI bum je taj rast komprimovao u nekoliko godina. Komunalne službe se bore da održe korak. U nekim regionima, vreme čekanja na novi priključak na mrežu sada je duže od pet godina. Ovo je pretvorilo pristup mreži u vrednu robu. Neke kompanije čak kupuju stare industrijske lokacije samo zato što već imaju priključak za struju visokog kapaciteta. Nije ih briga za zgrade. Briga ih je za bakar u zemlji. To je nivo očaja na tržištu. AI trka se vodi u rovovima lokalnih komisija za planiranje i upravnih odbora komunalnih preduzeća.

Teška pitanja za doba compute-a

Kako nastavljamo ovu ekspanziju, moramo postaviti teška pitanja o skrivenim troškovima. Ko zapravo ima koristi od ove masivne izgradnje? Iako su AI servisi dostupni globalno, troškovi zaštite životne sredine i infrastrukture su često lokalizovani. Zajednica u ruralnom području može videti kako joj nivo podzemnih voda opada da bi podržala data centar koji opslužuje korisnike na drugoj strani planete. Takođe moramo razmotriti dugoročnu održivost ovog modela. Ako svaka velika kompanija i vlada želi svoj masivni compute klaster, ukupna globalna potražnja za energijom biće astronomska. Da li je ovo najbolja upotreba naših ograničenih energetskih resursa? U suštini menjamo fizičku energiju za digitalnu inteligenciju. To je kompromis o kojem je potrebna šira javna debata.

Tu je i pitanje privatnosti i kontrole. Kako data centri postaju sve centralizovaniji u rukama nekoliko tehnoloških giganata, te kompanije dobijaju neverovatnu količinu moći. One nisu samo pružaoci softvera. One su vlasnici fizičke infrastrukture koja omogućava moderan život. Ako jedna kompanija poseduje data centre, čipove i modele, oni imaju nivo vertikalne integracije koji je bez presedana. Ovo stvara masivnu barijeru za ulazak manjih konkurenata. Kako startup može da se takmiči kada ne može ni da dobije dozvolu za struju? Fizička realnost AI infrastrukture bi mogla biti ultimativna antikonkurentska sila. Ona pretvara tržište ideja u tržište kapitala i betona.

Konačno, moramo pogledati otpornost ovog sistema. Koncentrisanjem tolike compute snage u nekoliko geografskih čvorišta, stvaramo pojedinačne tačke kvara. Prirodna katastrofa ili ciljani napad na glavno čvorište data centara mogli bi imati globalne posledice. Videli smo nagoveštaj ovoga tokom pandemije kada su poremećaji u lancu snabdevanja usporili širenje data centara. Ali rizici su sada još veći. Naša celokupna ekonomija se gradi na ovim objektima. Ako mreža padne ili voda za hlađenje presuši, AI staje. Ovo je paradoks digitalnog doba. Naša najnaprednija tehnologija u potpunosti zavisi od najosnovnijih fizičkih sistema. Gradimo futuristički svet na veoma krhkim temeljima.

Arhitektura AI kičme

Za one koji posmatraju tehničku stranu, pomak u dizajnu data centara je dubok. Udaljavamo se od cloud computinga opšte namene ka specijalizovanim AI fabrikama. U tradicionalnom data centru, cilj je bio ugostiti hiljade različitih aplikacija za hiljade različitih klijenata. Radno opterećenje je bilo nepredvidivo, ali uglavnom niskog intenziteta. U AI fabrici, cela zgrada je često posvećena jednom zadatku, kao što je obuka masivnog modela. Ovo omogućava mnogo veći nivo optimizacije. Samo umrežavanje je masivan izazov. Da biste obučili model preko hiljada GPU-ova, potrebna vam je mreža koja može da podnese neverovatne količine podataka sa skoro nultom latencijom. Ovo je dovelo do usvajanja tehnologija kao što su InfiniBand i high-speed Ethernet switchevi koji rade na 800Gbps.

Skladištenje je još jedan kritičan faktor. Obuka AI modela zahteva hranjenje petabajtima podataka onoliko brzo koliko GPU-ovi mogu da ih obrade. Ovo je učinilo tradicionalne hard diskove zastarelim za ova radna opterećenja. Sve se pomera ka high-speed NVMe flash storage-u. Ali čak i najbrže skladištenje može postati usko grlo ako pipeline podataka nije pravilno dizajniran. Zato vidimo veći fokus na lokalno skladištenje i edge computing. Pomeranjem podataka bliže compute-u, kompanije mogu smanjiti opterećenje mreže. Međutim, sama veličina modela to otežava. State-of-the-art model može biti veličine stotina gigabajta, što ga čini teškim za pokretanje na bilo čemu osim na masivnom serverskom klasteru. Ovo drži moć u rukama onih koji mogu da priušte velike objekte.

Takođe vidimo promenu u tome kako API-ji i lokalno skladištenje interaguju. Mnogi developeri pokušavaju da pronađu načine da pokrenu manje verzije ovih modela na lokalnom hardveru kako bi izbegli visoke troškove i latenciju cloud-a. Ovo je poznato kao lokalna inferencija. Iako radi za jednostavne zadatke, najsposobniji modeli i dalje zahtevaju masivne resurse data centra. Ovo stvara sistem nivoa. „Najpametniji“ AI živi u ogromnim, vodom hlađenim objektima, dok jednostavniji, brži AI živi na vašem telefonu ili laptopu. Upravljanje prebacivanjem između ova dva okruženja je sledeći veliki izazov za softverske developere. Oni moraju da balansiraju potrebu za performansama sa realnošću ograničenih lokalnih resursa. Ovde AI infrastructure insights postaju neophodni za svaku kompaniju koja pokušava da izgradi moderan tech stack.

Realnost trke u infrastrukturi

Rast data centara je najiskreniji pokazatelj kuda ide AI trka. Možete ignorisati marketinški hype i blještave demo snimke, ali ne možete ignorisati građevinske kranove i trafostanice. Ove zgrade su fizički dokaz ambicija industrije. One pokazuju da glavni igrači veruju da AI nije prolazni trend, već fundamentalna promena u načinu na koji obrađujemo informacije. Ali ova promena dolazi sa cenom. Ograničenja fizičkog sveta su mnogo manje fleksibilna od ograničenja softvera. Ne možete samo skalirati električnu mrežu sa nekoliko klikova. Ne možete downloadovati više vode.

Kako idemo napred, pobednici AI trke biće kompanije i nacije koje najbolje mogu da upravljaju ovim fizičkim resursima. To će biti oni koji pronađu inovativne načine da hlade svoje čipove, oni koji osiguraju dugoročne energetske ugovore i oni koji mogu da izgrade objekte koje njihove lokalne zajednice vide kao imovinu, a ne kao teret. Virtuelni svet se konačno susreće sa fizičkim svetom, a rezultat je masivna, složena i često neuredna ekspanzija. Budućnost AI-a se gradi upravo sada, jedan megavat i jedan litar vode po jedan. To je trka sa vremenom, ali još važnije, to je trka protiv granica resursa naše planete.

Napomena urednika: Kreirali smo ovaj sajt kao višejezični centar za vesti i vodiče o veštačkoj inteligenciji za ljude koji nisu kompjuterski genijalci, ali ipak žele da razumeju veštačku inteligenciju, koriste je sa više samopouzdanja i prate budućnost koja već stiže.