Ukuaji wa Data Centre na Mashindano ya AI

Kikomo cha Kimwili cha Akili Bandia

Mashindano ya akili bandia (AI) yamehama kutoka maabara za utafiti na kuingia kwenye maeneo ya ujenzi. Kwa miaka mingi, sekta hii ilijikita katika umaridadi wa code na ukubwa wa neural networks. Leo, vikwazo vikuu ni vya msingi zaidi. Hivi ni ardhi, nishati, maji, na shaba. Ikiwa unataka kujenga kizazi kijacho cha large language models, huhitaji tu algorithm bora. Unahitaji jengo kubwa lililojaa maelfu ya chips maalum zinazotumia umeme mwingi kama mji mdogo. Mabadiliko haya kutoka kwenye software kuelekea miundombinu mizito yamebadilisha asili ya ushindani wa teknolojia. Sio tena kuhusu nani ana wahandisi bora. Ni kuhusu nani anaweza kupata muunganisho kwenye gridi ya umeme na nani anaweza kushawishi serikali za mitaa kuwaruhusu kujenga kituo kinachotumia mamilioni ya galoni za maji kwa ajili ya kupoza vifaa.

Kila mara mtumiaji anapoandika prompt kwenye chatbot, msururu wa matukio ya kimwili huanza. Ombi hilo halipo kwenye cloud. Lipo kwenye rack ya seva. Seva hizi zinazidi kuwa nzito na zenye joto kali. Ukuaji wa vituo hivi ndio upanuzi mkubwa zaidi wa kimwili katika historia ya sekta ya teknolojia. Ni dau kubwa kwa mustakabali wa compute. Lakini ukuaji huu unagonga ukuta wa uhalisia wa kimwili. Tunaona mabadiliko kutoka kwenye wazo dhahania la intaneti kuelekea ulimwengu ambapo data centers ni muhimu na zenye utata kama visima vya mafuta au mitambo ya umeme. Hii ndiyo hali halisi mpya ya mashindano ya AI. Ni ushindani kwa rasilimali za msingi za ulimwengu wa kimwili.

Kutoka Code hadi Zege na Shaba

Kujenga data center ya kisasa ni kazi ya uhandisi wa viwanda. Zamani, data center ingeweza kuwa ghala lililorekebishwa na kuwekewa viyoyozi vya ziada. Sasa, vituo hivi ni mashine zilizojengwa mahususi kushughulikia joto kali la chips za AI. Sababu muhimu zaidi ni nishati. Chip moja ya kisasa ya AI inaweza kutumia zaidi ya wati 700. Unapoweka makumi ya maelfu ya hizi kwenye jengo moja, mahitaji ya nishati hufikia mamia ya megawatts. Hii si kuhusu gharama ya umeme pekee. Ni kuhusu upatikanaji wake. Katika sehemu nyingi duniani, gridi ya umeme tayari imefikia uwezo wake wa juu. Kampuni za teknolojia sasa zinashindana na makazi ya watu na viwanda kwa ajili ya usambazaji uleule mdogo wa nishati.

Ardhi ni kikwazo kingine. Huwezi tu kujenga vituo hivi popote. Vinahitaji kuwa karibu na nyaya za fiber optic ili kupunguza latency. Pia vinahitaji kuwa katika maeneo ambapo ardhi ni imara na hali ya hewa inafaa. Hii imesababisha mkusanyiko mkubwa wa data centers katika maeneo kama Northern Virginia. Eneo hili hushughulikia sehemu kubwa ya trafiki ya intaneti duniani. Lakini hata huko, ardhi inaisha. Kampuni sasa zinaangalia maeneo ya mbali zaidi, lakini maeneo hayo mara nyingi hukosa miunganisho ya gridi inayohitajika. Hii inaleta tatizo la kuku na yai. Unaweza kupata ardhi, lakini huwezi kupata nishati. Au unaweza kupata nishati, lakini mchakato wa vibali vya mitaa huchukua miaka. Vibali vimekuwa kikwazo kikubwa. Serikali za mitaa zinazidi kuwa na shaka na miradi hii kwa sababu inachukua nafasi na kutumia rasilimali lakini inatoa ajira chache za muda mrefu.

Upozaji ni nguzo ya tatu ya miundombinu hii. Chips za AI huzalisha kiasi kikubwa cha joto. Upozaji wa hewa wa kawaida hautoshi tena kwa racks zenye msongamano mkubwa. Vituo vingi vipya vinahamia kwenye liquid cooling. Hii inahusisha kuweka mabomba ya maji au coolant maalum moja kwa moja kwenye chips. Hii inahitaji kiasi kikubwa cha maji. Katika baadhi ya matukio, data center moja inaweza kutumia mamia ya mamilioni ya galoni za maji kwa mwaka. Hii inaziweka kampuni za teknolojia katika ushindani wa moja kwa moja na kilimo cha ndani na mahitaji ya maji ya makazi. Katika maeneo yenye ukame, hili limekuwa suala la kisiasa. Sekta hii inajaribu kuelekea kwenye mifumo ya closed-loop inayotumia tena maji, lakini mahitaji ya awali bado ni makubwa. Hivi ndivyo vikwazo vya kivitendo vinavyofafanua enzi ya sasa ya ukuaji wa teknolojia.

Jiopolitiki ya High Performance Compute

Data centers si mali za kampuni tena. Ni vipaumbele vya kitaifa. Serikali duniani kote zinatambua kuwa uwezo wa compute ni aina ya nguvu ya kitaifa. Hii imeleta dhana ya sovereign AI. Nchi zinataka data centers zao zilizopo ndani ya mipaka yao ili kuhakikisha faragha ya data na usalama wa taifa. Hazitaki kutegemea vituo vilivyopo katika mamlaka nyingine. Hii inasababisha miundombinu ya kimataifa iliyogawanyika. Badala ya vituo vichache vikubwa, tunaona msukumo wa data centers zilizojanibishwa katika kila uchumi mkuu. Hii ni mabadiliko makubwa kutoka kwa mfano wa kati uliotawala muongo uliopita. Inafanya mashindano ya miundombinu kuwa magumu zaidi kwa sababu kampuni lazima zikabiliane na mazingira tofauti ya kisheria katika kila nchi.

Hali hii ya kijiopolitiki imezifanya data centers kuwa lengo la sera za viwanda. Baadhi ya serikali zinatoa ruzuku kubwa ili kuvutia watengenezaji wa data centers. Zinaona majengo haya kama msingi wa uchumi wa kisasa. Nyingine zinaelekea upande mwingine. Zina wasiwasi kuhusu shinikizo kwenye gridi zao za kitaifa na athari za kimazingira za matumizi makubwa ya nishati. Kwa mfano, baadhi ya miji imeweka marufuku ya ujenzi mpya wa data centers hadi pale watakapoweza kuboresha miundombinu yao ya umeme. Hii inajenga hali ya kutokuwa na uhakika wa upatikanaji. Kampuni inaweza kujenga katika nchi moja lakini ikazuiwa katika nyingine. Usambazaji huu wa kijiografia ni muhimu kwa sababu unaathiri latency na utendaji wa models za AI kwa watumiaji katika maeneo hayo. Ikiwa nchi haina uwezo wa compute wa ndani, raia wake watakuwa daima katika hasara kwenye mashindano ya AI.

Mapambano ya rasilimali hizi pia ni mapambano ya supply chains. Vipengele vinavyohitajika kujenga data center vinapungua. Hii inajumuisha kila kitu kuanzia chips zenyewe hadi transfoma kubwa zinazohitajika kuunganisha kwenye gridi. Muda wa kusubiri kwa baadhi ya vifaa hivi unaweza kuwa miaka miwili au mitatu. Hii inamaanisha kuwa washindi wa mashindano ya AI katika 2026 waliamuliwa na maamuzi yaliyofanywa miaka iliyopita. Kampuni zilizopata nishati na vifaa vyao mapema zina faida kubwa. Wale wanaojaribu kuingia sokoni sasa wanaona kuwa mlango umefungwa kiasi. Ulimwengu wa kimwili unasonga polepole zaidi kuliko ulimwengu wa software. Unaweza kuandika kipande kipya cha code kwa siku moja, lakini huwezi kujenga substation kwa siku moja. Uhalisia huu unazilazimisha kampuni za teknolojia kufikiri kama majitu ya viwanda.

Wakati Large Language Models Zinapokutana na Gridi za Umeme za Mitaa

Ili kuelewa athari za ukuaji huu, fikiria siku ya kawaida katika maisha ya data center ya kisasa. Fikiria kituo kilichopo pembezoni mwa mji wa ukubwa wa kati. Ndani, kuna safu za racks, kila moja ikiwa na ukubwa wa friji. Racks hizi zimejaa GPUs. Jua linapochomoza na watu kuanza siku yao ya kazi, mahitaji ya huduma za AI huongezeka. Maelfu ya maombi ya ukamilishaji wa code, utengenezaji wa picha, na muhtasari wa maandishi hufurika ndani ya jengo. Kila ombi huchochea ongezeko la matumizi ya nishati. Mashabiki wa kupoza huzunguka kwa kasi zaidi. Pampu za liquid cooling huongeza kasi. Joto linalozalishwa na chips hizi ni kali sana kiasi kwamba unaweza kulihisi kupitia kuta zilizotengwa za chumba cha seva. Hii ndiyo sauti ya uchumi wa kisasa. Ni mngurumo wa mara kwa mara, wa masafa ya chini ambao hauishi kamwe.

Nje ya kuta, athari huhisiwa na jamii. Kampuni ya huduma ya umeme ya mtaa inabidi isimamie mzigo huo. Ikiwa data center itachota umeme mwingi, inaweza kusababisha kutokuwa na utulivu kwenye gridi. Hii ndiyo sababu data centers nyingi zina benki kubwa za betri na jenereta za dizeli kwenye eneo hilo. Kimsingi ni vituo vidogo vya huduma vyao wenyewe. Lakini jenereta hizi hutengeneza kelele na moshi, na kusababisha upinzani wa wenyeji. Wakazi katika vitongoji vya karibu wanaweza kulalamika kuhusu mngurumo wa mara kwa mara au kuona nyaya kubwa za umeme zikipitishwa kwenye mashamba yao. Wanaona jengo linalochukua 500,000 m² lakini linaajiri watu wachache tu. Wanajiuliza wanapata nini badala ya shinikizo kwenye rasilimali zao za mitaa. Hapa ndipo teknolojia inapokutana na siasa. Data center ni maajabu ya uhandisi, lakini pia ni jirani anayetumia umeme na maji mengi.

Ukubwa wa jambo hili ni vigumu kuufikiria. Kampasi moja kubwa ya data center inaweza kutumia umeme mwingi kama nyumba 100,000. Jitu la teknolojia linapotangaza mradi mpya wa dola bilioni 10, halinunui seva tu. Linajenga tata kubwa ya viwanda. Hii inajumuisha mitambo maalum ya kusafisha maji na substations za umeme za kibinafsi. Katika baadhi ya matukio, wanawekeza hata kwenye nishati ya nyuklia ili kuhakikisha usambazaji thabiti wa nishati isiyo na kaboni. Hii ni mabadiliko makubwa kutoka kwa njia ambayo kampuni za teknolojia zilikuwa zikifanya kazi. Si wapangaji tena katika jengo la mtu mwingine. Wao ndio vichocheo vikuu vya maendeleo ya miundombinu katika maeneo mengi. Ukuaji huu unabadilisha mwonekano wa kimwili wa miji yetu na njia ambayo huduma zetu zinasimamiwa. Ni dhihirisho kubwa na dhahiri la enzi ya kidijitali.

Msuguano si kuhusu rasilimali pekee. Ni kuhusu kasi ya mabadiliko. Gridi ya umeme ya mtaa imeundwa kukua kwa kiwango kinachotabirika kwa miongo kadhaa. Mlipuko wa AI umefinya ukuaji huo katika miaka michache. Huduma za umeme zinajitahidi kwenda na wakati. Katika baadhi ya maeneo, muda wa kusubiri kwa muunganisho mpya wa gridi sasa ni zaidi ya miaka mitano. Hii imeifanya upatikanaji wa gridi kuwa bidhaa ya thamani. Baadhi ya kampuni zinanunua hata maeneo ya zamani ya viwanda kwa sababu tayari yana muunganisho wa nishati ya uwezo wa juu. Hazijali kuhusu majengo. Zinajali kuhusu shaba iliyo ardhini. Hii ndiyo kiwango cha kukata tamaa sokoni. Mashindano ya AI yanapiganwa kwenye mitaro ya tume za mipango za mitaa na bodi za huduma za umeme.

Maswali Magumu kwa Enzi ya Compute

Tunapoendelea na upanuzi huu, lazima tuulize maswali magumu kuhusu gharama zilizofichika. Nani anafaidika kweli na ujenzi huu mkubwa? Wakati huduma za AI zinapatikana kimataifa, gharama za kimazingira na miundombinu mara nyingi huwa za mitaa. Jamii katika eneo la vijijini inaweza kuona kiwango chake cha maji kikishuka ili kusaidia data center inayohudumia watumiaji upande mwingine wa dunia. Lazima pia tuzingatie uendelevu wa muda mrefu wa mfano huu. Ikiwa kila kampuni kubwa na serikali inataka kuwa na kundi lake kubwa la compute, mahitaji ya jumla ya nishati duniani yatakuwa makubwa mno. Je, huu ndio matumizi bora ya rasilimali zetu chache za nishati? Kimsingi tunabadilishana nishati ya kimwili kwa akili ya kidijitali. Huo ni ubadilishaji unaohitaji mjadala zaidi wa umma.

Pia kuna swali la faragha na udhibiti. Data centers zinapozidi kuwa mikononi mwa majitu machache ya teknolojia, kampuni hizo zinapata nguvu kubwa sana. Si watoa huduma wa software pekee. Wao ni wamiliki wa miundombinu ya kimwili inayofanya maisha ya kisasa kuwa yawezekana. Ikiwa kampuni moja inamiliki data centers, chips, na models, ina kiwango cha ushirikiano wa wima ambacho hakijawahi kutokea. Hii inajenga kizuizi kikubwa cha kuingia kwa washindani wadogo. Startup inawezaje kushindana wakati haiwezi hata kupata kibali cha umeme? Uhalisia wa kimwili wa miundombinu ya AI unaweza kuwa nguvu kuu ya kupinga ushindani. Inageuza soko la mawazo kuwa soko la mtaji na zege.

Hatimaye, lazima tuangalie ustahimilivu wa mfumo huu. Kwa kukusanya nguvu nyingi za compute katika vituo vichache vya kijiografia, tunajenga sehemu moja ya kushindwa. Maafa ya asili au shambulio lililolengwa kwenye kituo kikubwa cha data center linaweza kuwa na matokeo ya kimataifa. Tuliona dokezo la hili wakati wa janga ambapo usumbufu wa supply chain ulipunguza upanuzi wa data centers. Lakini hatari ni kubwa zaidi sasa. Uchumi wetu wote unajengwa juu ya vituo hivi. Ikiwa gridi itashindwa au maji ya kupoza yataisha, AI inasimama. Hii ndiyo kitendawili cha enzi ya kidijitali. Teknolojia yetu ya hali ya juu zaidi inategemea kabisa mifumo ya msingi zaidi ya kimwili. Tunajenga ulimwengu wa baadaye kwenye msingi dhaifu sana.

Usanifu wa Uti wa Mgongo wa AI

Kwa wale wanaoangalia upande wa kiufundi, mabadiliko katika usanifu wa data center ni makubwa. Tunahama kutoka general-purpose cloud computing kuelekea viwanda maalum vya AI. Katika data center ya kawaida, lengo lilikuwa kuhudumia maelfu ya programu tofauti kwa maelfu ya wateja tofauti. Kazi ilikuwa isiyotabirika lakini kwa ujumla ya kiwango cha chini. Katika kiwanda cha AI, jengo zima mara nyingi hujitolea kwa kazi moja, kama vile kufunza model kubwa. Hii inaruhusu viwango vya juu zaidi vya uboreshaji. Mtandao pekee ni changamoto kubwa. Ili kufunza model katika maelfu ya GPUs, unahitaji mtandao unaoweza kushughulikia kiasi kikubwa cha data na karibu zero latency. Hii imesababisha kupitishwa kwa teknolojia kama InfiniBand na swichi za high-speed Ethernet zinazofanya kazi kwa 800Gbps.

Uhifadhi ni sababu nyingine muhimu. Kufunza model ya AI kunahitaji kuilisha petabytes za data kwa haraka kama GPUs zinavyoweza kuichakata. Hii imefanya hard drives za kawaida kuwa za kizamani kwa kazi hizi. Kila kitu kinahamia kwenye high-speed NVMe flash storage. Lakini hata uhifadhi wa haraka zaidi unaweza kuwa kikwazo ikiwa data pipeline haijasanifiwa kwa usahihi. Hii ndiyo sababu tunaona umakini zaidi kwenye uhifadhi wa ndani na edge computing. Kwa kuhamisha data karibu na compute, kampuni zinaweza kupunguza shinikizo kwenye mtandao. Hata hivyo, ukubwa wa models hufanya hili kuwa gumu. Model ya kisasa inaweza kuwa na ukubwa wa mamia ya gigabytes, na kuifanya kuwa ngumu kuendesha kwenye kitu chochote isipokuwa server cluster kubwa. Hii inashikilia nguvu mikononi mwa wale wanaoweza kumudu vituo vikubwa.

Pia tunaona mabadiliko katika jinsi APIs na uhifadhi wa ndani unavyoingiliana. Watengenezaji wengi wanajaribu kutafuta njia za kuendesha matoleo madogo ya models hizi kwenye vifaa vya ndani ili kuepuka gharama kubwa na latency ya cloud. Hii inajulikana kama local inference. Ingawa inafanya kazi kwa kazi rahisi, models zenye uwezo zaidi bado zinahitaji rasilimali kubwa za data center. Hii inajenga mfumo wa ngazi. AI