Kwa nini AI ni Hadithi ya Hardware kama ilivyo ya Software

Mtazamo wa kawaida kuhusu artificial intelligence unajikita karibu kabisa kwenye code. Watu huzungumzia large language models kana kwamba zipo katika utupu wa mantiki safi. Wanajadili umahiri wa algorithm au nuances za majibu ya chatbot. Mtazamo huu unakosa jambo muhimu zaidi katika enzi hii ya teknolojia. AI si hadithi ya software pekee. Ni hadithi ya viwanda vizito. Ni kuhusu matumizi makubwa ya umeme na mipaka ya kimwili ya silicon. Kila mara mtumiaji anapouliza swali kwa chatbot, msururu wa matukio ya kimwili hutokea kwenye data center iliyo maili nyingi mbali. Mchakato huu unahusisha chips maalum ambazo kwa sasa ndizo bidhaa za thamani zaidi duniani. Ikiwa unataka kuelewa kwa nini kampuni fulani zinafanikiwa na nyingine zinashindwa, lazima uangalie hardware. Software ni usukani, lakini hardware ndiyo injini na mafuta. Bila miundombinu ya kimwili, model ya hali ya juu zaidi duniani ni mkusanyiko tu wa hesabu zisizo na maana.

Dari ya Silicon

Kwa miongo kadhaa, maendeleo ya software yalifuata njia inayotabirika. Uliandika code, na ikafanya kazi kwenye central processing units au CPUs za kawaida. Chips hizi zilikuwa za jumla. Ziliweza kushughulikia kazi mbalimbali moja baada ya nyingine. Hata hivyo, AI ilibadilisha mahitaji. Modern models hazihitaji kifaa cha jumla. Zinahitaji mtaalamu anayeweza kufanya mabilioni ya operesheni rahisi za hisabati kwa wakati mmoja. Hii inaitwa parallel processing. Sekta ilihamishia umakini wake kwenye graphics processing units au GPUs. Chips hizi awali zilibuniwa kwa ajili ya kuonyesha video games, lakini watafiti waligundua zilikuwa kamili kwa ajili ya matrix multiplication inayoendesha neural networks. Mabadiliko haya yaliunda kizuizi kikubwa. Huwezi tu kudownload akili zaidi. Lazima uijenge kwa vipengele vya kimwili ambavyo ni vigumu sana kutengeneza. Dunia kwa sasa inakabiliwa na ukweli ambapo kasi ya maendeleo ya AI inaamriwa na jinsi kampuni kama TSMC zinavyoweza kuchora circuits kwenye silicon wafers.

Kizuizi hiki cha kimwili kimeunda mfumo mpya wa matabaka katika ulimwengu wa tech. Kuna matajiri wa compute na maskini wa compute. Kampuni yenye chips elfu kumi za hali ya juu inaweza kufunza model ambayo kampuni yenye chips mia moja haiwezi hata kuanza kujaribu. Hili si suala la kipaji au uandishi mzuri wa code. Ni suala la nguvu ghafi. Dhana potofu kwamba AI ni uwanja wa usawa ambapo mtu yeyote mwenye laptop anaweza kushindana inafifia. Bei ya kuingia katika ngazi ya juu ya maendeleo ya AI sasa inapimwa kwa mabilioni ya dola za hardware. Hii ndiyo sababu tunaona kampuni kubwa zaidi za tech duniani zikitumia kiasi kisicho na kifani kwenye miundombinu. Hazinunui tu seva. Zinajenga viwanda vya siku zijazo. Hardware ndiyo ngome inayolinda mifumo yao ya biashara.

Jiopolitiki ya Mchanga na Nguvu

Mabadiliko kuelekea AI inayozingatia hardware yamehamisha kitovu cha mvuto kwa sekta ya tech. Sio tena kuhusu Silicon Valley pekee. Ni kuhusu Taiwan Strait na gridi za umeme za kaskazini mwa Virginia. Mchakato wa utengenezaji wa chips za AI za hali ya juu zaidi ni mgumu sana kiasi kwamba kampuni moja tu, TSMC, inaweza kuifanya kwa kiwango kikubwa. Hii inaunda hatari ya kufeli kwa uchumi mzima wa dunia. Ikiwa uzalishaji nchini Taiwan utasimama, maendeleo ya AI yatasimama. Hii ndiyo sababu serikali sasa zinachukulia utengenezaji wa chips kama suala la usalama wa taifa. Zinatoa ruzuku kwa ajili ya ujenzi wa viwanda vipya na kuweka vizuizi vya usafirishaji kwenye hardware ya hali ya juu. Lengo ni kuhakikisha kuwa viwanda vyao vya ndani vinapata vipengele vya kimwili vinavyohitajika ili kubaki na ushindani.

Zaidi ya chips zenyewe, kuna suala la nishati. Models za AI zina kiu kubwa ya umeme. Swali moja linaweza kutumia umeme mwingi zaidi kuliko ombi la kawaida la search engine. Hii inaweka shinikizo kubwa kwenye gridi za umeme za ndani. Katika maeneo ambapo data centers zimejilimbikizia, mahitaji ya umeme yanakua kwa kasi zaidi kuliko usambazaji. Hii imesababisha hamu mpya ya nishati ya nyuklia na vyanzo vingine vya nishati yenye uwezo mkubwa. International Energy Agency imebainisha kuwa data centers zinaweza kuongeza matumizi yao ya umeme mara mbili ifikapo . Hili si tatizo la software linaloweza kutatuliwa kwa code bora zaidi. Ni ukweli wa kimwili wa jinsi mifumo hii inavyofanya kazi. Athari za kimazingira za AI hazipatikani kwenye mistari ya code bali kwenye mifumo ya kupoza na carbon footprint ya mitambo ya umeme inayowasha seva. Mashirika lazima yazingatie gharama hizi za kimwili wakati wa kuhesabu thamani ya mipango yao ya AI.

Gharama Kubwa ya Kila Prompt

Ili kuelewa athari za kivitendo za vikwazo vya hardware, fikiria siku katika maisha ya mwanzilishi wa startup katika soko la sasa. Tumuite Sarah. Sarah ana wazo zuri la kifaa kipya cha utambuzi wa matibabu. Ana data na kipaji. Hata hivyo, anagundua haraka kuwa kikwazo chake kikubwa si algorithm. Ni gharama ya inference. Kila mara daktari anapotumia kifaa chake, lazima alipie muda kwenye GPU ya hali ya juu katika cloud. Gharama hizi si tuli. Zinabadilika kulingana na mahitaji ya kimataifa. Wakati wa saa za kilele, bei ya compute inaweza kupanda, ikila faida yake. Anatumia muda mwingi kusimamia cloud credits zake na kuboresha matumizi yake ya hardware kuliko anavyofanya kwenye utafiti wa kweli wa matibabu. Hii ndiyo hali halisi kwa maelfu ya wabunifu leo. Wamefungwa na upatikanaji wa kimwili wa hardware.

Kwa mtumiaji wa kawaida, hii inadhihirika kama latency na mapungufu. Je, umewahi kugundua kuwa chatbot inakuwa polepole au haina uwezo wakati fulani wa siku? Hiyo mara nyingi ni kwa sababu mtoa huduma anafikia kikomo cha hardware. Wanagawa compute yao inayopatikana ili kushughulikia mzigo. Hii ni matokeo ya moja kwa moja ya asili ya kimwili ya AI. Tofauti na software ya jadi, ambayo inaweza kunakiliwa na kusambazwa kwa gharama ndogo karibu na sifuri, kila mfano wa model ya AI inayofanya kazi inahitaji sehemu maalum ya hardware. Hii inaunda dari ya watu wangapi wanaoweza kutumia vifaa hivi kwa wakati mmoja. Pia inaelezea kwa nini kampuni nyingi zinahamia kwenye models ndogo zinazoweza kufanya kazi kwenye vifaa vya ndani kama simu au laptops. Wanajaribu kuhamisha mzigo wa hardware kutoka kwa data centers zao kwenda kwa mtumiaji wa mwisho. Mabadiliko haya yanachochea mzunguko mpya wa uboreshaji wa consumer hardware. Watu wananunua kompyuta mpya si kwa sababu za zamani zimevunjika, bali kwa sababu za zamani hazina chips maalum zinazohitajika kuendesha vipengele vya kisasa vya AI ndani ya kifaa.

Mienendo ya nguvu za biashara pia inabadilika. Zamani, kampuni ya software ingeweza kukua kimataifa ikiwa na alama ndogo sana ya kimwili. Leo, kampuni zenye nguvu zaidi ni zile zinazomiliki miundombinu. Hii ndiyo sababu NVIDIA imekuwa moja ya kampuni zenye thamani zaidi duniani. Wanatoa vifaa vya msingi kwa ajili ya dhahabu ya AI. Hata kampuni zenye mafanikio zaidi za software ya AI mara nyingi ni wapangaji tu katika data centers za washindani wao wakubwa. Hii inaunda hali ya hatari. Ikiwa mwenye nyumba ataamua kupandisha kodi au kuweka kipaumbele kwenye miradi yao ya ndani, kampuni ya software haina mahali pengine pa kwenda. Safu ya kimwili ndiyo chanzo kikuu cha ushawishi katika uchumi wa kisasa wa tech. Ni kurudi kwenye aina ya viwanda ya ushindani ambapo ukubwa na mali za kimwili ni muhimu zaidi kuliko mawazo mazuri tu.

Maswali Ambayo Hatulizi

Tunapoingia ndani zaidi katika enzi hii inayotegemea hardware, lazima tuulize maswali magumu kuhusu gharama zilizofichika. Nani anafaidika kweli wakati vizuizi vya kuingia ni vya juu sana? Ikiwa ni kampuni chache tu zinazoweza kumudu hardware inayohitajika kujenga models za hali ya juu zaidi, hiyo inamaanisha nini kwa ushindani na uvumbuzi? Tunaona mkusanyiko wa nguvu ambao haujawahi kutokea katika historia ya teknolojia. Ujumuishaji huu unaunda hatari kubwa kwa faragha na udhibiti. Ikiwa usindikaji wote wa AI unatokea kwenye seva chache elfu zinazomilikiwa na kampuni tatu au nne, kampuni hizo zina udhibiti kamili juu ya kile kinachoweza kusemwa na kile kinachoweza kufanywa na teknolojia. Nini kinatokea kwa uhuru wa mataifa madogo ambayo hayawezi kumudu kujenga miundombinu yao ya AI?

Pia kuna swali la vifaa vya kimwili vinavyohitajika kujenga mashine hizi. Hardware ya AI inategemea madini adimu na msururu wa ugavi tata ambao mara nyingi hupatikana katika maeneo yasiyo na utulivu. Gharama ya kimazingira ya kuchimba vifaa hivi mara chache hujadiliwa katika muktadha wa maendeleo ya AI. Tunazungumzia uzuri wa model huku tukipuuza migodi ya wazi na taka zenye sumu zinazozalishwa wakati wa mchakato wa utengenezaji. Je, faida ya chatbot bora kidogo inastahili uharibifu wa kiikolojia unaosababishwa na hardware inayohitaji? Zaidi ya hayo, lazima tuzingatie uendelevu wa muda mrefu wa mienendo ya sasa ya matumizi ya nishati. Kulingana na ripoti kutoka kwa International Energy Agency, ukuaji wa mahitaji ya umeme ya data center tayari unazidi uongezaji wa nishati mbadala katika baadhi ya maeneo. Je, tunajenga mustakabali wa kiteknolojia ambao sayari haiwezi kuustahimili? Hizi si hitilafu za kiufundi zinazopaswa kurekebishwa. Ni makubaliano ya kimsingi yanayokuja na uamuzi wa kufuata AI kwa kiwango hiki. Tunahitaji kuwa waaminifu kuhusu ukweli kwamba AI ni uingiliaji wa kimwili duniani, si wa kidijitali pekee.

Usanifu na Latency

Kwa watumiaji wa nguvu na watengenezaji, hadithi ya hardware inakuwa maalum zaidi. Si kuhusu kuwa na GPU tu. Ni kuhusu usanifu maalum wa GPU hiyo. Moja ya vizuizi vikubwa katika AI ya kisasa si kasi ya processor, bali kasi ya kumbukumbu. Hii inajulikana kama memory wall. High Bandwidth Memory au HBM ni muhimu kwa ajili ya kuweka processor ikiwa na data. Ikiwa kumbukumbu ni polepole sana, processor inakaa bila kazi, ikipoteza mizunguko ya gharama kubwa ya compute. Hii ndiyo sababu chips za hivi karibuni kutoka kwa watengenezaji wakuu zinazingatia sana bandwidth ya kumbukumbu na uwezo. Ikiwa unaendesha model ya ndani, kiasi cha VRAM kwenye kadi yako ndicho sababu muhimu zaidi. Inaamua ukubwa wa model unayoweza kupakia na kasi ambayo inaweza kutoa maandishi.

Ujumuishaji wa mtiririko wa kazi pia unakuwa tatizo la hardware. Vifaa vingi vya kitaalamu sasa vinaunganisha vipengele vya AI vinavyohitaji mipaka maalum ya API au kasi ya ndani. Ikiwa unatumia API inayotegemea cloud, unategemea upatikanaji wa hardware ya mtoa huduma. Hii inaweza kusababisha latency isiyotabirika inayoharibu uzoefu wa mtumiaji. Kwa uhifadhi wa ndani, mahitaji pia yanaongezeka. Kuhifadhi models kubwa na datasets zinazotumiwa kuziboresha kunahitaji terabytes za uhifadhi wa haraka wa NVMe. Pia tunaona kuongezeka kwa viunganishi maalum kama NVLink, vinavyoruhusu GPUs nyingi kuongea na kila mmoja kwa kasi ya ajabu. Hii ni muhimu kwa sababu models kubwa zaidi hazitoshei kwenye chip moja. Lazima zisambazwe kwenye chips kadhaa au hata mamia, zote zikifanya kazi kwa usawaziko kamili. Ikiwa muunganisho wa kimwili kati ya chips hizo ni polepole sana, mfumo mzima unavunjika. Kiwango hiki cha utata wa hardware ni mbali sana na siku za kuandika script tu na kuiendesha kwenye laptop. Unaweza kupata miongozo ya kina zaidi ya kuboresha usanidi wako wa ndani kwenye tovuti ya AI Magazine. Kuelewa maelezo haya ya kiufundi si hiari tena kwa yeyote anayetaka kufanya kazi kwenye ukingo wa uwanja huu. Tofauti kati ya utekelezaji uliofanikiwa na kufeli mara nyingi inakuja kwenye jinsi unavyosimamia vikwazo vya kimwili vya hardware stack yako.

Ukweli wa Kimwili

Simulizi ya AI kama jambo la kidijitali pekee imekufa. Ukweli ni kwamba AI ni sekta ya kimwili inayohitaji kiasi kikubwa cha ardhi, maji, nishati, na silicon. Maendeleo tunayoona katika miaka ijayo yataamriwa na mafanikio katika sayansi ya vifaa na uzalishaji wa nishati kama ilivyo kwa mafanikio katika machine learning. Tunaingia katika kipindi ambapo ulimwengu wa kimwili unasisitiza utawala wake juu ya ulimwengu wa kidijitali. Kampuni zinazoelewa hili na kuwekeza katika hardware yao wenyewe na usambazaji wa nishati ndizo zitakazoongoza. Zile zinazochukulia hardware kama jambo la ziada zitajikuta zikishindwa kumudu bei ya soko. Jambo muhimu zaidi kukumbuka ni kwamba kila sehemu ya akili ya kidijitali ina makazi ya kimwili. Ifikapo , ramani ya ulimwengu wa AI itaonekana kama ramani ya vituo vya viwanda vyenye nguvu zaidi duniani. Dari ya silicon ni halisi, na sote tunaishi chini yake.

Editor’s note: We created this site as a multilingual AI news and guides hub for people who are not computer geeks, but still want to understand artificial intelligence, use it with more confidence, and follow the future that is already arriving.