Kwa nini GPU Zimekuwa Mashine Zinazotafutwa Zaidi kwenye Tech

Uchumi wa dunia sasa unategemea aina fulani ya silicon ambayo zamani ilithaminiwa tu na vijana wanaocheza video games. Graphics Processing Units, au GPU, zimebadilika kutoka kuwa vifaa vya pembeni na kuwa rasilimali muhimu zaidi katika mfumo wa kisasa wa viwanda. Hii si ongezeko la muda mfupi la mahitaji, bali ni mabadiliko ya msingi ya jinsi nguvu inavyoonyeshwa katika karne ya ishirini na moja. Kwa miongo kadhaa, Central Processing Unit ndiyo ilikuwa mfalme asiyepingika wa kompyuta. Ilishughulikia mantiki na kazi za mfululizo kwa usahihi. Hata hivyo, kuongezeka kwa data nyingi na neural networks tata kulifichua udhaifu katika usanifu huo wa zamani. Dunia ilihitaji mashine inayoweza kufanya mamilioni ya hesabu rahisi kwa wakati mmoja. GPU ndiyo ilikuwa kifaa pekee kilichokuwa tayari kwa kazi hiyo. Leo, mapambano ya kupata chips hizi yanafafanua mikakati ya mataifa na mizania ya mashirika makubwa zaidi duniani. Ikiwa huna chips hizi, huna mustakabali. Uhaba huu umeunda tabaka jipya la walinzi wanaodhibiti mtiririko wa akili yenyewe.

Injini ya Kihisabati Nyuma ya Uhaba

Ili kuelewa kwa nini kampuni moja kama NVIDIA sasa ina thamani inayoshindana na uchumi wa mataifa mazima, lazima uelewe kile ambacho GPU hufanya. Processor ya kawaida ni kama msomi anayeweza kutatua matatizo magumu sana moja baada ya lingine. GPU ni kama uwanja uliojaa wanafunzi ambao kila mmoja anaweza kutatua tatizo rahisi la kujumlisha kwa wakati mmoja. Unapofunza large language model, kimsingi unafanya matrilioni ya jumlisho hizi rahisi. Usanifu wa GPU unairuhusu kusambaza kazi hii kwenye maelfu ya cores ndogo. Hii inajulikana kama parallel processing. Njia hii ndiyo pekee ya kuchakata kiasi kikubwa cha data kinachohitajika ili kufanya software ya kisasa ionekane kuwa na akili. Bila vifaa hivi maalum, maendeleo ya sasa katika automated reasoning yangekwama kwa sababu processors za kawaida zingechukua miongo kadhaa kumaliza kile ambacho GPU cluster inaweza kufanya kwa wiki.

Vifaa vyenyewe ni sehemu tu ya hadithi. Thamani ya kweli iko kwenye mfumo wa ikolojia unaozunguka silicon hiyo. GPU za kisasa zimeunganishwa na high bandwidth memory na interconnects maalum zinazoruhusu maelfu ya chips kuzungumza na kila mmoja kama vile ni ubongo mmoja mkubwa. Hapa ndipo dhana potofu ya “fast chip” inapovunjika. Chip moja ya haraka haina maana kwa mahitaji ya kisasa. Unahitaji mtandao wa chips. Hii inahitaji mbinu za hali ya juu za ufungashaji kama Chip on Wafer on Substrate, mchakato ambao ni mgumu sana kiasi kwamba ni vituo vichache tu duniani vinavyoweza kuufanya kwa uhakika. Mnyororo wa ugavi ni njia nyembamba inayoanza na mashine za lithography za Uholanzi na kuishia katika vyumba maalum vya usafi nchini Taiwan. Usumbufu wowote katika mnyororo huu huleta athari inayoweza kuchelewesha miradi ya mabilioni ya dola kwa miaka.

Software ndiyo kipande cha mwisho cha fumbo. Sekta imekubaliana kutumia lugha maalum ya programu inayoitwa CUDA. Hii inaunda kizuizi kikubwa kwa mshindani yeyote. Hata kama kampuni pinzani itatengeneza chip ya haraka zaidi, hawawezi kurahisi kunakili mamilioni ya mistari ya code ambayo watengenezaji wamekwishaandika kwa ajili ya platform iliyopo. Hii ndiyo sababu nguvu ya vifaa inakuwa nguvu ya platform. Wakati kampuni inadhibiti vifaa na lugha inayotumiwa kuzungumza navyo, inadhibiti mfumo mzima wa uvumbuzi. Matokeo yake ni soko ambapo wanunuzi wako tayari kulipa bei yoyote ili tu kubaki kwenye mbio.

Jiopolitikia Mpya ya Nguvu ya Silicon

Mkusanyiko wa utengenezaji wa chips umegeuza vifaa kuwa zana kuu ya sera za kigeni. Serikali ya Marekani imetambua kuwa **computational sovereignty** sasa ni muhimu kama uhuru wa nishati. Hii imesababisha udhibiti mkali wa mauzo ya nje ulioundwa kuzuia mataifa pinzani kupata chips za hali ya juu zaidi. Hizi si tu migogoro ya kibiashara. Ni majaribio ya kudhibiti kasi ambayo sehemu mbalimbali za dunia zinaweza kutengeneza teknolojia mpya. Kwa sababu usanifu wa chips hizi unategemea sana mali ya kiakili ya Marekani na utengenezaji unategemea washirika wachache, Marekani inashikilia nafasi ya kipekee ya ushawishi. Ushawishi huu hutumiwa kuamuru nani anaweza kujenga kizazi kijacho cha data centers na wapi vituo hivyo vinaweza kuwekwa. Ni aina ya udhibiti wa kidijitali ambao dunia haijawahi kuona hapo awali.

Uwezo wa kifedha ni sababu nyingine inayotenganisha washindi na walioshindwa. Kujenga GPU cluster ya kisasa kunahitaji mabilioni ya dola katika uwekezaji wa awali. Hii inawapendelea tech platforms wakubwa ambao wana akiba ya fedha ya kununua uwezo wa uzalishaji wa miaka mizima. Startups ndogo na hata mataifa ya kati wanajikuta wakiwa katika hasara. Hawawezi kushindana na nguvu ya ununuzi ya kampuni inayoweza kuandika hundi ya dola bilioni kumi bila kusita. Hii inaunda mzunguko ambapo kampuni tajiri zaidi zinapata vifaa bora, jambo linaloziruhusu kujenga software bora, ambayo inazalisha fedha zaidi kununua vifaa zaidi. Kasi ya viwanda ya mzunguko huu inasonga kwa kasi zaidi kuliko uwezo wa watunga sera kuudhibiti. Kufikia wakati sheria inajadiliwa na kupitishwa, teknolojia mara nyingi inakuwa imesonga mbele kwa vizazi viwili.

Cloud control ndiyo usemi wa mwisho wa nguvu hii. Watu wengi hawatawahi kuona GPU ya hali ya juu ana kwa ana. Watakodisha muda kwenye moja kupitia cloud provider. Hii inamaanisha kuwa kampuni chache kimsingi hufanya kazi kama wamiliki wa nyumba wa enzi ya kidijitali. Wanaamua ni watafiti gani wanaopewa kipaumbele na ni aina gani ya miradi inayoruhusiwa kufanya kazi kwenye vifaa vyao. Mkusanyiko huu wa nguvu ya kompyuta ni mabadiliko makubwa kutoka siku za mwanzo za mtandao, ambao ulijengwa juu ya vifaa vilivyosambazwa na vinavyopatikana. Sasa, ukitaka kujenga kitu muhimu, lazima ulipe kodi kwa wamiliki wa platform. Hii inaunda ulimwengu ambapo miundombinu ya akili inamilikiwa na kikundi kidogo cha watu binafsi, na kuibua maswali kuhusu utulivu wa muda mrefu wa uchumi wa dunia unaotegemea ushirikiano wao.

Mapambano ya Compute katika Ulimwengu Halisi

Kwa msanidi programu anayefanya kazi katika kituo cha kisasa cha teknolojia, uhaba wa GPU ni ukweli wa kila siku. Fikiria timu ndogo inayojaribu kufunza mfano mpya wa uchunguzi wa matibabu. Wana data na vipaji, lakini hawana vifaa. Wanatumia asubuhi zao kuburudisha cloud consoles, wakitumai kuwa instances chache za H100 zitapatikana. Wanapopata cluster hatimaye, saa huanza kukimbia kwa kiwango cha maelfu ya dola kwa saa. Kila kosa kwenye code ni hasara kubwa ya kifedha. Shinikizo hili hubadilisha jinsi watu wanavyofanya kazi. Uvumbuzi unakuwa kamari ya hatari kubwa ambapo wale tu wenye mifuko mirefu wanaweza kumudu kushindwa. “Day in the Life” kwa timu hizi si kuhusu coding ya ubunifu bali ni kuhusu kusimamia vifaa vichache vya compute walivyoweza kupata.

Athari inaenea mbali zaidi ya sekta ya teknolojia. Kampuni za usafirishaji hutumia chips hizi kuboresha njia za usafirishaji duniani kwa wakati halisi. Kampuni za dawa huzitumia kuiga jinsi dawa mpya zitakavyoingiliana na protini za binadamu. Hata sekta ya nishati inazitumia kudhibiti mizigo inayobadilika ya power grid ya kisasa. Wakati ugavi wa GPU unapokuwa mdogo, maendeleo katika nyanja hizi zote hupungua. Tunaona utofauti katika uchumi wa dunia. Mashirika ambayo yamepata compute pipelines zao yanasonga kwa kasi ya mwanga, wakati yale yanayosubiri vifaa yamekwama katika siku za nyuma. Hii ndiyo sababu tunaona kampuni kama NVIDIA na TSMC zikikua kuwa vituo vya fedha duniani. Wao ni huduma za enzi mpya, wakitoa “umeme” kwa ajili ya enzi ya habari.

Dhana potofu kuhusu sekta hii ni za kawaida. Watu wengi hufikiri kwamba tunaweza tu kujenga viwanda zaidi ili kutatua uhaba. Hii inapuuza utata wa ajabu wa mchakato wa utengenezaji. Kiwanda cha kisasa cha utengenezaji kinagharimu takriban dola bilioni ishirini na kinachukua miaka kujenga. Inahitaji usambazaji thabiti wa maji safi sana, kiasi kikubwa cha umeme, na wafanyakazi waliobobea sana ambao huchukua miongo kadhaa kufunzwa. Huwezi tu kuwasha swichi na kuongeza uzalishaji. Zaidi ya hayo, vipengele vya mitandao na kumbukumbu mara nyingi huwa adimu kama chips zenyewe. Ikiwa una GPU lakini huna nyaya maalum za kuziunganisha, bado una rundo la silicon isiyo na maana. Sekta hii ni mfululizo wa vikwazo vinavyoingiliana vinavyofanya upanuzi wa haraka kuwa karibu kutowezekana. Hii ni hadithi ya mipaka ya kimwili inayokutana na mahitaji yasiyo na kikomo.

Maswali Magumu kwa Mustakabali Uliokusanywa

Tunapozidi kutegemea vifaa hivi, lazima tuulize maswali magumu kuhusu gharama zilizofichwa. Athari za kimazingira ndiyo wasiwasi dhahiri zaidi. Data center moja kubwa inaweza kutumia umeme mwingi kama mji mdogo. Nguvu nyingi ya nishati hii hutumiwa kuweka GPU baridi wakati zinapofanya hesabu. Kimsingi tunabadilishana kiasi kikubwa cha kaboni kwa akili ya kidijitali. Je, huu ni biashara endelevu? Wasiwasi mwingine ni mmomonyoko wa faragha. Wakati compute yote inakusanywa katika cloud providers wachache, watoa huduma hao wana uwezo wa kinadharia kuona kila kitu kinachojengwa kwenye mifumo yao. Tunaelekea kwenye ulimwengu ambapo hakuna mtu anayemiliki zana zake mwenyewe. Nini kitatokea ikiwa mtoa huduma mkuu ataamua kukata ufikiaji kwa nchi au sekta fulani?

• Nani anaamua ni miradi gani ya utafiti inayostahili rasilimali chache za compute?
• Tunazuiaje mgawanyiko wa kudumu wa kidijitali kati ya mataifa yanayozalisha chips na yale yanayozitumia?
• Ni nini matokeo ya muda mrefu ya uchumi wa dunia unaotegemea kisiwa kimoja kwa kipengele chake muhimu zaidi?
• Je, tunaweza kutengeneza usanifu mbadala ambao hauhitaji nishati nyingi na umesambazwa zaidi?
• Nini kitatokea kwa mfumo wa kifedha wa dunia ikiwa thamani ya makampuni haya makubwa ya teknolojia itafichuliwa kuwa Bubble ya uvumi?

Mkusanyiko wa utengenezaji nchini Taiwan labda ndiyo hatua kubwa zaidi ya kutofaulu katika historia ya viwanda vya kisasa. Maafa moja ya asili au mgogoro wa kijiopolitika unaweza kusimamisha uzalishaji wa asilimia 90 ya chips za hali ya juu duniani. Marekani imejaribu kupunguza hili kwa kupitisha CHIPS Act, lakini kuhamisha sekta ngumu kama hii inachukua muda. Kwa sasa tuko katika kipindi cha hatari kubwa. Tumejenga ustaarabu wa dunia unaoendeshwa na rasilimali inayozalishwa katika eneo dogo sana na lenye mgogoro mkubwa. Hii ni kinyume ambacho bado hatujatatua. Tunataka kasi ya mapinduzi ya kidijitali, lakini bado hatujajenga miundombinu thabiti ya kuyaunga mkono. Mvutano kati ya kasi ya viwanda na ukweli wa kisiasa ndiyo mapambano ya wakati wetu.

Sehemu ya Geek: Chini ya Kifuniko cha H100

Kwa watumiaji wa nguvu, hadithi ya kweli iko kwenye vipimo na vikwazo. Kiwango cha sasa cha dhahabu ni NVIDIA H100, ambayo ina transistors bilioni 80. Lakini idadi mbichi ya transistor si muhimu kuliko memory bandwidth. Chips hizi hutumia kumbukumbu ya HBM3, ambayo inaruhusu data kusonga kwa kasi ya zaidi ya terabytes 3 kwa sekunde. Hii ni muhimu kwa sababu processor ni ya haraka sana kiasi kwamba mara nyingi hutumia muda wake mwingi kusubiri data ifike kutoka kwenye hifadhi. Hii inajulikana kama **memory wall**. Ikiwa unajenga cluster ya ndani, changamoto yako kubwa si chips zenyewe, bali ni mitandao. Unahitaji InfiniBand au swichi maalum za Ethernet ili kushughulikia trafiki kubwa ya east-west kati ya nodes. Bila low latency interconnect kama NVLink, usanidi wako wa multi-GPU utapata upungufu mkubwa wa utendaji wakati chips zinapohangaika kusawazisha data zao.

API limits ni kikwazo kingine kwa watengenezaji. Cloud providers wengi huweka upendeleo mkali juu ya ni chips ngapi za hali ya juu unazoweza kukodisha kwa wakati mmoja. Hii inalazimisha timu kuboresha code zao kwa ajili ya mafunzo yaliyosambazwa kwenye instances ndogo na zinazopatikana zaidi. Hifadhi ya ndani pia inakuwa suala kubwa. Unapofanya kazi na datasets ambazo ni mamia ya terabytes kwa ukubwa, kikwazo mara nyingi huhama kutoka GPU kwenda kwenye NVMe drives. Unahitaji parallel file system kama Lustre au Weka ili kulisha GPU kwa kasi ya kutosha ili kuziweka kwenye matumizi ya asilimia 100. Ikiwa GPU zako zimekaa bila kazi kwa hata milisekunde chache, unapoteza maelfu ya dola. Lengo la systems engineer wa kisasa ni kusawazisha compute, kumbukumbu, na mitandao ili hakuna kipengele kimoja kinachozuia vingine.

Upande wa software ni mgumu vilevile. Ingawa CUDA ndiyo platform inayotawala, kuna harakati zinazokua kuelekea njia mbadala za open source kama Triton na ROCm. Hata hivyo, hizi bado ziko nyuma katika suala la usaidizi wa maktaba na zana za watengenezaji. Enterprise workflows nyingi zimeunganishwa sana kwenye mfumo wa ikolojia wa NVIDIA, na kufanya iwe vigumu kubadili hadi vifaa vya bei nafuu kutoka AMD au Intel. Lock-in hii ndiyo kichocheo kikuu cha faida kubwa tunayoona katika sekta hii. Kwa geek, changamoto ni kupitia ulimwengu huu wa umiliki wakati akijaribu kujenga mifumo inayonyumbulika iwezekanavyo. Tunaona mabadiliko kuelekea “bare metal” cloud providers wanaowapa watengenezaji udhibiti zaidi juu ya vifaa, lakini hizi zinahitaji kiwango cha juu zaidi cha utaalamu wa kiufundi ili kusimamia kwa ufanisi.

Hesabu ya Mwisho ya Nguvu ya Silicon

GPU imekuwa zaidi ya kipengele kwenye kompyuta. Ni msingi wa msingi wa enzi inayofuata ya maendeleo ya binadamu. Mapambano ya mashine hizi ni mapambano ya uwezo wa kuchakata habari, kugundua dawa mpya, na kuonyesha nguvu kwenye jukwaa la dunia. Kwa sasa tunaishi katika kipindi cha mkusanyiko mkubwa, ambapo kampuni chache na mataifa machache yanashikilia kadi zote. Hii imeunda mazingira ya hatari kubwa ambapo bei ya kuingia inapimwa kwa mabilioni ya dola na gharama ya kushindwa ni kutokuwa na umuhimu. Tunaposonga mbele, changamoto itakuwa kutafuta njia za kufanya nguvu hii ipatikane zaidi na iwe endelevu zaidi. Kwa sasa, dunia inabaki katika mtego wa homa ya silicon ambayo haionyeshi dalili za kupungua. Mashine zinahitajika sana, na mstari wa kuzipata unazidi kuwa mrefu.

Editörün notu: Bu siteyi, bilgisayar dehası olmayan ancak yine de yapay zekayı anlamak, daha güvenle kullanmak ve zaten gelmekte olan geleceği takip etmek isteyenler için çok dilli bir yapay zeka haberleri ve rehberleri merkezi olarak oluşturduk.