Kwa Nini Maboresho Madogo ya Model Yanaleta Mabadiliko Makubwa

Mashindano ya kujenga model kubwa zaidi ya artificial intelligence yanakabiliwa na kikwazo cha kupungua kwa faida. Wakati habari kuu mara nyingi huzingatia mifumo mikubwa yenye vigezo mabilioni, maendeleo ya kweli yanatokea pembezoni. Maboresho madogo katika jinsi model hizi zinavyochakata data yanaleta mabadiliko makubwa katika kile software inaweza kufanya kila siku. Tunahama kutoka kipindi ambacho ukubwa wa raw ulikuwa kipimo pekee kilichojali. Leo, tunazingatia ni kiasi gani cha intelligence tunaweza kutosheleza kwenye nafasi ndogo. Mabadiliko haya yanaifanya teknolojia kupatikana kwa urahisi na kuwa ya haraka kwa kila mtu. Sio kuhusu kujenga ubongo mkubwa tena. Ni kuhusu kuifanya mibongo iliyopo ifanye kazi kwa ufanisi zaidi. Model inapokuwa ndogo kwa asilimia kumi lakini ikabaki na usahihi wake, haisaidii tu kuokoa pesa kwenye gharama za server. Inawezesha kategoria nzima mpya ya applications ambazo hapo awali hazikuwezekana kutokana na vikwazo vya hardware. Mpito huu ndio mwelekeo muhimu zaidi katika sekta ya tech hivi sasa kwa sababu unahamisha nguvu ya advanced computation kutoka data centers kubwa hadi kiganjani mwako.

Mwisho wa Enzi ya Kubwa ni Bora

Ili kuelewa kwa nini marekebisho haya madogo ni muhimu, lazima tuangalie ni nini hasa. Maendeleo mengi yanatokana na maeneo matatu: data curation, quantization, na marekebisho ya usanifu. Kwa muda mrefu, watafiti waliamini kuwa data nyingi ilikuwa bora kila wakati. Walikusanya internet nzima na kuilisha kwenye mashine. Sasa, tunajua kuwa data ya ubora wa juu ina thamani zaidi kuliko wingi tu. Kwa kusafisha datasets na kuondoa taarifa zisizo za lazima, wahandisi wanaweza kufunza model ndogo zinazozidi zile kubwa zilizotangulia. Hii mara nyingi huitwa data ya ubora wa vitabu vya kiada. Sababu nyingine kubwa ni quantization. Huu ni mchakato wa kupunguza usahihi wa namba ambazo model hutumia kufanya mahesabu yake. Badala ya kutumia decimals za usahihi wa juu, model inaweza kutumia integers rahisi. Hii inaonekana kama itaharibu matokeo, lakini hesabu za werevu huruhusu model kubaki na akili karibu sawa huku ikihitaji sehemu ndogo tu ya memory. Unaweza kusoma zaidi kuhusu mabadiliko haya ya kiufundi katika utafiti wa hivi karibuni kuhusu QLoRA na compression ya model.

Hatimaye, kuna mabadiliko ya usanifu kama mifumo ya umakini (attention mechanisms) inayozingatia sehemu muhimu zaidi za sentensi. Hizi sio marekebisho makubwa. Ni marekebisho madogo kwenye hesabu yanayoruhusu mfumo kupuuza kelele. Unapochanganya mambo haya, unapata model inayotoshea kwenye laptop ya kawaida badala ya kuhitaji chumba kilichojaa chips maalum. Watu mara nyingi huzidisha haja ya model kubwa kwa kazi rahisi. Wanapunguza kiasi cha mantiki kinachoweza kuingizwa kwenye vigezo vichache vya mabilioni. Tunaona mwelekeo ambapo “kutosha” kunakuwa kiwango cha kawaida kwa bidhaa nyingi za watumiaji. Hii inaruhusu watengenezaji kuingiza vipengele smart kwenye apps bila kutoza ada ya usajili ili kufidia gharama kubwa za cloud. Ni mabadiliko ya msingi katika jinsi software inavyojengwa na kusambazwa.

Kwa Nini Local Intelligence Ni Muhimu Zaidi Kuliko Nguvu ya Cloud

Athari za kimataifa za maboresho haya madogo ni vigumu kuzidisha. Sehemu kubwa ya dunia haina ufikiaji wa internet ya kasi inayohitajika kuingiliana na model kubwa za cloud. Wakati intelligence inahitaji muunganisho wa mara kwa mara na server huko Virginia au Dublin, inabaki kuwa anasa kwa matajiri. Maboresho madogo ya model yanabadilisha hili kwa kuruhusu software kufanya kazi locally kwenye hardware ya kiwango cha kati. Hii inamaanisha mwanafunzi katika eneo la vijijini au mfanyakazi katika soko linaloibukia anaweza kupata kiwango sawa cha msaada kama mtu aliye kwenye kitovu cha tech. Inasawazisha uwanja kwa njia ambayo raw scaling haingeweza kamwe. Gharama ya intelligence inashuka kuelekea sifuri. Hii ni muhimu hasa kwa faragha na usalama. Wakati data haihitaji kuondoka kwenye kifaa, hatari ya ukiukaji ni ndogo sana. Serikali na watoa huduma za afya wanaangalia model hizi zenye ufanisi kama njia ya kutoa huduma bila kuhatarisha data za raia.

Mabadiliko haya pia yanaathiri mazingira. Mafunzo ya kiwango kikubwa hutumia kiasi kikubwa cha umeme na maji kwa ajili ya kupoza. Kwa kuzingatia ufanisi, sekta inaweza kupunguza carbon footprint yake huku ikiendelea kutoa bidhaa bora. Majarida ya kisayansi kama Nature yameangazia jinsi AI yenye ufanisi inaweza kupunguza gharama za kimazingira za sekta hiyo. Hizi ni njia chache ambazo mabadiliko haya ya kimataifa yanajitokeza:

• Huduma za utafsiri za ndani (local) zinazofanya kazi bila muunganisho wowote wa internet.
• Zana za utambuzi wa matibabu zinazofanya kazi kwenye tablets zinazobebeka katika kliniki za mbali.
• Software ya elimu inayobadilika kulingana na mahitaji ya mwanafunzi kwenye hardware ya gharama nafuu.
• Uchujaji wa faragha wa wakati halisi kwa simu za video unaotokea kabisa kwenye kifaa.
• Ufuatiliaji wa mazao wa kiotomatiki kwa wakulima wanaotumia drones za bei nafuu na uchakataji wa ndani.

Hii sio tu kuhusu kufanya mambo kuwa ya haraka. Ni kuhusu kuyafanya yawe ya ulimwengu wote. Mahitaji ya hardware yanaposhuka, msingi wa watumiaji unaowezekana unakua kwa mabilioni ya watu. Mwelekeo huu unahusishwa kwa karibu na mitindo ya hivi karibuni katika maendeleo ya AI ambayo yanatanguliza upatikanaji kuliko nguvu mbichi.

Jumanne na Msaidizi wa Nje ya Mtandao

Fikiria siku katika maisha ya mhandisi wa shambani anayeitwa Marcus. Anafanya kazi kwenye mitambo ya upepo ya pwani ambapo ufikiaji wa internet haupo. Hapo awali, Marcus akikutana na hitilafu ya kiufundi asiyoijua, ilibidi apige picha, asubiri hadi arudi pwani, na kushauriana na mwongozo au mwenzake mwandamizi. Hii inaweza kuchelewesha matengenezo kwa siku. Sasa, anabeba tablet ngumu yenye model ya ndani iliyoboreshwa sana. Anaelekeza kamera kwenye vipengele vya mtambo na model inatambua tatizo kwa wakati halisi. Inatoa mwongozo wa hatua kwa hatua wa matengenezo kulingana na namba maalum ya serial ya mashine. Model anayotumia Marcus sio jitu la vigezo trilioni. Ni toleo dogo, maalum lililosafishwa kuelewa uhandisi wa mitambo. Huu ni mfano thabiti wa jinsi uboreshaji mdogo katika ufanisi wa model unavyounda mabadiliko makubwa katika tija.

Baadaye siku hiyo, Marcus anatumia kifaa hicho hicho kutafsiri hati ya kiufundi kutoka kwa msambazaji wa kigeni. Tafsiri ni karibu kamilifu kwa sababu model ilifunzwa kwenye seti ndogo lakini ya ubora wa juu ya maandishi ya uhandisi. Hakuwahi kulazimika kupakia faili hata moja kwenye cloud. Uaminifu huu ndio unaofanya teknolojia kuwa muhimu katika ulimwengu wa kweli. Watu wengi hudhani kuwa AI lazima iwe generalist ili kusaidia, lakini Marcus anathibitisha kuwa mifumo maalum, midogo mara nyingi ni bora kwa kazi za kitaaluma. Asili ndogo ya model ni kipengele, si hitilafu. Inamaanisha mfumo ni wa haraka, wa faragha zaidi, na wa bei nafuu kuendesha. Marcus alipokea sasisho lake la hivi karibuni wiki iliyopita, na tofauti ya kasi ilionekana mara moja.

Utata hapa ni kwamba wakati model zinapozidi kuwa ndogo, kazi wanazofanya zinazidi kuwa kubwa. Tunaona mabadiliko kutoka kupiga gumzo na bot kuelekea kuingiza zana kwenye workflow. Watu huwa wanazidisha umuhimu wa model kuweza kuandika ushairi. Wanapunguza thamani ya model inayoweza kutoa data kikamilifu kutoka kwa ankara iliyofifia au kutambua ufa mdogo kwenye boriti ya chuma. Hizi ndizo kazi zinazoendesha uchumi wa dunia. Maboresho haya madogo yanapoendelea, mstari kati ya software smart na software ya kawaida utatoweka. Kila kitu kitafanya kazi vizuri zaidi. Hii ndiyo hali halisi ya mazingira ya sasa ya tech.

Maswali Magumu Kuhusu Biashara ya Ufanisi

Hata hivyo, lazima tutumie shaka ya Socratic kwa mwelekeo huu. Ikiwa tunaelekea kwenye model ndogo, zilizoboreshwa zaidi, tunaacha nini nyuma? Swali moja gumu ni kama kuzingatia ufanisi kunasababisha plateau ya “kutosha”. Ikiwa model imeboreshwa kuwa ya haraka, je, inapoteza uwezo wa kushughulikia kesi za kipekee ambazo model kubwa inaweza kukamata? Lazima tuulize ikiwa haraka ya kupunguza model inaunda aina mpya ya upendeleo. Ikiwa tunatumia data ya ubora wa juu pekee kufunza mifumo hii, nani anafafanua ubora ni nini? Tunaweza kuchuja kwa bahati mbaya sauti na mitazamo ya makundi yaliyotengwa kwa sababu data yao haitoshei kiwango cha vitabu vya kiada.

Una hadithi ya AI, zana, mwelekeo, au swali unalofikiri tunapaswa kushughulikia? Tutumie wazo lako la makala — tungependa kulisikia.

Pia kuna swali la gharama zilizofichika. Wakati kuendesha model ndogo ni nafuu, utafiti na maendeleo yanayohitajika kupunguza model kubwa ni ghali sana. Je, tunahamisha tu matumizi ya nishati kutoka hatua ya inference hadi hatua ya mafunzo na uboreshaji? Pia, model hizi zinapozidi kuwa za kawaida kwenye vifaa vya kibinafsi, nini kinatokea kwa faragha yetu? Hata kama model inafanya kazi locally, metadata kuhusu jinsi tunavyoitumia bado inaweza kuvunwa. Tunahitaji kuuliza ikiwa urahisi wa local intelligence unastahili uwezekano wa ufuatiliaji wa kuvamia zaidi. Ikiwa kila app kwenye simu yako ina ubongo wake mdogo, nani anafuatilia kile ambacho ubongo huo unajifunza kukuhusu? Pia tunapaswa kuzingatia maisha marefu ya hardware. Ikiwa software inaendelea kuwa na ufanisi zaidi, je, makampuni bado yatatusukuma kuboresha vifaa vyetu kila ? Au hii itasababisha enzi endelevu ambapo simu ya miaka mitano bado ina uwezo kamili wa kuendesha zana za hivi karibuni? Hizi ndizo utata tunazopaswa kukabiliana nazo kadiri teknolojia inavyoendelea.

Uhandisi Nyuma ya Compression

Kwa watumiaji wa nguvu na watengenezaji, mabadiliko ya model ndogo ni suala la maelezo ya kiufundi. Kipimo muhimu zaidi si tena idadi ya vigezo. Ni bits kwa vigezo. Tunaona mabadiliko kutoka 16 bit floating point weights hadi 8 bit na hata 4 bit quantization. Hii inaruhusu model ambayo kwa kawaida ingehitaji 40 gigabytes ya VRAM kutoshea kwenye chini ya 10 gigabytes. Hii ni mabadiliko makubwa kwa uhifadhi wa ndani na mahitaji ya GPU. Watengenezaji sasa wanaangalia LoRA, au Low-Rank Adaptation, ili kurekebisha model hizi kwenye kazi maalum bila kufunza upya mfumo mzima. Hii inafanya ujumuishaji wa workflow kuwa rahisi zaidi. Unaweza kupata nyaraka za kiufundi kuhusu mbinu hizi kwenye MIT Technology Review.

Wakati wa kujenga applications, lazima uzingatie mipaka ifuatayo ya kiufundi:

• Memory bandwidth mara nyingi ni kikwazo kikubwa kuliko nguvu ya kompyuta kwa local inference.
• Mipaka ya API kwa model za cloud inazidi kuwa isiyo na umuhimu kwani local hosting inakuwa inayowezekana kwa uzalishaji.
• Usimamizi wa context window bado ni changamoto kwa model ndogo kwani huwa zinapoteza ufuatiliaji wa mazungumzo marefu haraka.
• Chaguo kati ya usahihi wa FP8 na INT4 linaweza kuathiri sana kiwango cha hallucination katika kazi za ubunifu.
• Mahitaji ya uhifadhi wa ndani yanapungua lakini hitaji la diski za NVMe za kasi ya juu linabaki kwa ajili ya upakiaji wa haraka wa model.

Pia tunaona kuongezeka kwa speculative decoding, ambapo model ndogo sana inatabiri tokens chache zinazofuata na model kubwa inazithibitisha. Mbinu hii ya mseto inatoa kasi ya model ndogo na usahihi wa jitu. Ni njia ya werevu ya kupita biashara za jadi za ukubwa wa model. Kwa yeyote anayetaka kukaa mbele katika uwanja huu, kuelewa mbinu hizi za compression ni muhimu zaidi kuliko kujua jinsi ya kujenga model kutoka mwanzo. Wakati ujao ni wa waboreshaji wanaoweza kufanya zaidi na kidogo. Mtazamo unahama kutoka nguvu mbichi kwenda uhandisi wa werevu.

Lengo Linalohamia la Utendaji Bora

Jambo la msingi ni kwamba enzi ya “kubwa ni bora kila wakati” inafikia mwisho. Maendeleo muhimu zaidi hayahusu tena kuongeza tabaka zaidi au data zaidi. Yanahusu uboreshaji, ufanisi, na upatikanaji. Tunaona mabadiliko yatakayofanya advanced computation kuwa ya kawaida kama kikokotoo. Maendeleo haya sio tu mafanikio ya kiufundi. Ni ya kijamii. Inaleta nguvu ya utafiti wa hali ya juu kwa kila mtu, bila kujali hardware au muunganisho wao wa internet. Ni demokrasia ya intelligence kupitia mlango wa nyuma wa uboreshaji.

Editor’s note: We created this site as a multilingual AI news and guides hub for people who are not computer geeks, but still want to understand artificial intelligence, use it with more confidence, and follow the future that is already arriving.

Tunapotazama kuelekea ijayo, swali la wazi linabaki: tutaendelea kupata njia za kupunguza intelligence, au tutafikia kikomo cha kimwili kinachotulazimisha kurudi kwenye cloud? Kwa sasa, mwelekeo uko wazi. Ndogo ndiyo kubwa mpya. Mifumo tutakayotumia kesho itafafanuliwa si kwa kiasi wanachojua, bali kwa jinsi wanavyotumia vizuri kile walicho nacho.