Kitabu Kipya cha Sheria za AI Duniani Kinaanza Kuundwa

Mwisho wa Ubunifu Usio na Vikwazo

Enzi ya uhuru wa kupindukia katika akili mnemba (AI) inafika ukingoni. Kwa miaka mingi, watengenezaji walijenga mifumo bila usimamizi wowote. Sasa, kitabu kipya cha sheria za kimataifa kinaibuka ili kuchukua nafasi ya uhuru huo kwa muundo thabiti wa kufuata kanuni na usalama. Hizi si mapendekezo tu; ni sheria kali zinazoambatana na faini kubwa na tishio la kufungiwa sokoni. Umoja wa Ulaya unaongoza kwa Sheria yake ya AI, huku Marekani ikipiga hatua na maagizo ya kiutendaji yanayolenga mifumo yenye nguvu zaidi. Sheria hizi zitabadilisha jinsi code inavyoandikwa na data inavyokusanywa. Zitabainisha nani anaweza kushindana katika uwanja huu wenye ushindani mkali. Ikiwa unajenga mfumo unaotabiri tabia za binadamu, sasa uko chini ya darubini. Mabadiliko haya yanaelekeza sekta kutoka kwenye kasi kuelekea usalama. Makampuni lazima sasa yathibitishe kuwa mifumo yao haina upendeleo kabla ya kuizindua. Hii ndiyo hali halisi mpya kwa kila kampuni ya tech duniani.

Kupanga Hatari katika Code

Kiini cha sheria hizi mpya ni mbinu ya kuzingatia hatari. Hii inamaanisha sheria inachukulia injini ya kupendekeza muziki tofauti na kifaa cha utambuzi wa matibabu au gari linalojiendesha. Umoja wa Ulaya umeweka kiwango cha dhahabu kwa udhibiti huu. Wanagawanya AI katika kategoria nne kulingana na madhara yanayoweza kusababishwa kwa jamii. Mifumo iliyopigwa marufuku ni ile inayosababisha madhara ya wazi. Hii inajumuisha mifumo ya kijamii ya kupima raia (social scoring) inayotumiwa na nchi za kidikteta. Pia inajumuisha utambuzi wa kibiolojia wa wakati halisi katika maeneo ya umma. Mifumo yenye hatari kubwa ndiyo itakayochunguzwa zaidi na wadhibiti, hasa katika miundombinu muhimu, elimu, na ajira. Ikiwa AI inaamua nani anapata kazi au mkopo, lazima iwe wazi, iwe na usimamizi wa kibinadamu, na iwe na usahihi wa hali ya juu. Mifumo yenye hatari ndogo, kama chatbots, inahitaji tu kumjulisha mtumiaji kuwa anazungumza na mashine. Mifumo yenye hatari ndogo zaidi, kama michezo ya video, haiguswi sana. Mfumo huu umeundwa kulinda haki bila kuzuia maendeleo. Hata hivyo, ufafanuzi wa kategoria hizi bado unajadiliwa mahakamani na kwenye bodi za wakurugenzi. Sheria zinajaribu kuweka mstari, lakini mstari huo unabadilika kadiri teknolojia inavyokua.

Bunge la Ulaya limefafanua kategoria hizi katika taarifa zao za hivi punde kuhusu Sheria ya AI ya EU. Hati hii inatumika kama msingi wa jinsi ulimwengu unavyofikiria kuhusu utawala wa AI. Inahamisha mazungumzo kutoka kwa hofu za kufikirika kuelekea mahitaji halisi ya kiutendaji ambayo makampuni lazima yatimize ili kuendelea na biashara.

Mashindano ya Viwango vya Kimataifa

Sheria hizi hazitabaki Ulaya pekee. Tunaona kuongezeka kwa *Brussels Effect* kwa wakati halisi. Hii hutokea wakati soko kubwa linapoweka sheria ambazo kila mtu mwingine lazima azifuate ili kubaki husika. Kampuni ya kimataifa haitajenga mfumo mmoja kwa Paris na mwingine kwa New York ikiwa gharama ni kubwa mno. Watajenga kulingana na kiwango kikali zaidi kinachopatikana. Hii ndiyo sababu mfumo wa EU unakuwa kiolezo cha kimataifa. Nchi nyingine kama Brazil na Kanada tayari zinafanyia kazi sheria zinazofanana na mtazamo wa Ulaya. Hata Marekani, ambayo kwa kawaida hupendelea udhibiti mdogo ili kuhimiza uvumbuzi, inaelekea kwenye udhibiti zaidi. Ikulu ya White House ilitoa agizo la kiutendaji linalohitaji watengenezaji wa mifumo yenye nguvu kushiriki matokeo yao ya majaribio ya usalama na serikali. Hii inaunda ulimwengu wa udhibiti uliogawanyika lakini unaoelekea pamoja. Makampuni sasa lazima yaajiri timu za wanasheria ili kusoma mahitaji mapya. Startups ndogo katika masoko yanayoibukia zinaweza kuona sheria hizi haziwezekani kufuata. Hii inaweza kusababisha ulimwengu ambapo makubwa ya tech pekee ndiyo yana rasilimali za kufuata kanuni. Ni mchezo wa hatari ambapo sheria zinaandikwa huku magari yakiwa tayari yanatembea kwa kasi kamili. Agizo la Kiutendaji la Marekani kuhusu usalama wa AI ni ishara wazi kuwa enzi ya kujidhibiti imekwisha.

Una hadithi ya AI, zana, mwelekeo, au swali unalofikiri tunapaswa kushughulikia? Tutumie wazo lako la makala — tungependa kulisikia.

Siku katika Ofisi Inayofuata Kanuni

Hebu fikiria meneja wa bidhaa anayeitwa Alex. Alex anafanya kazi katika startup inayojenga zana za AI kwa ajili ya rasilimali watu. Kabla ya sheria mpya, Alex alikuwa akitoa sasisho kila Ijumaa alasiri. Sasa, mchakato ni wa polepole na wa makini zaidi. Kila kipengele kipya lazima kipitie tathmini kali ya hatari kabla ya mstari wowote wa code kupelekwa. Alex lazima aorodheshe data ya mafunzo na kuonyesha kuwa haibagui makundi yaliyolindwa. Lazima aweke kumbukumbu za kina za jinsi mfumo unavyofanya maamuzi. Hii inaongeza wiki kwenye mzunguko wa maendeleo. Siku ya Jumanne ya kawaida, Alex haandiki code au kubuni vipengele vipya. Anakutana na afisa wa kufuata kanuni ili kupitia kadi za mfumo. Wanachunguza ikiwa API logs zinakidhi viwango vipya vya uwazi na uhifadhi wa data. Hii ndiyo msuguano unaoletwa na usalama. Kwa mtumiaji, hii inaweza kumaanisha kutolewa polepole kwa vipengele vipya. Lakini pia inamaanisha nafasi ndogo ya kukataliwa kazi isivyo haki na algorithm ya siri. Watu mara nyingi hupunguza umuhimu wa sheria hizi kwa uvumbuzi. Wanafikiri sekta itasimama. Kwa kweli, itabadilika sura tu. Watu pia hupunguza utata wa sheria hizi. Sio tu kuhusu kuepuka upendeleo. Ni kuhusu uhuru wa data na matumizi ya nishati. Migongano iko kila mahali. Tunataka AI iwe ya haraka na yenye nguvu, lakini pia tunataka iwe ya polepole na makini. Tunataka iwe wazi, lakini pia tunataka kulinda siri za kibiashara za makampuni yanayoijenga. Migongano hii haitatuliwi: inasimamiwa. Kitabu kipya cha sheria ni jaribio la kuishi na migongano hii. Alex lazima ashughulikie kazi kadhaa maalum kila wiki:

• Kupitia asili ya data ili kuhakikisha seti zote za mafunzo zimepatikana kisheria.
• Kuendesha scripts za kugundua upendeleo kwenye kila toleo jipya la mfumo.
• Kuandika rasilimali za kompyuta zilizotumiwa kufunza mifumo mikubwa.
• Kusasisha interface ya mtumiaji ili kujumuisha ufichuzi wa lazima wa AI.
• Kusimamia ukaguzi wa wahusika wengine wa itifaki za usalama za kampuni.

Mwisho wa siku, Alex anahisi uzito wa sheria hizi mpya. Anajua ni muhimu kwa usawa. Lakini pia anajua kuwa washindani wake katika nchi zenye sheria chache wanasonga mbele kwa kasi zaidi. Anajiuliza ikiwa startup yake inaweza kuishi gharama ya kuwa na maadili. Hii ndiyo hali halisi kwa maelfu ya watengenezaji. Msuguano ni wa kweli, na uko hapa kubaki. Kwa zaidi kuhusu jinsi mabadiliko haya yanavyoathiri sekta, angalia uchambuzi wetu wa hivi punde wa sera za AI.

Maswali Magumu kwa Wadhibiti Wapya

Nani anafaidika kweli na sheria hizi? Je, ni umma, au ni makubwa ya tech yanayoweza kumudu ada za kisheria? Ikiwa startup inapaswa kutumia nusu ya mtaji wake kwenye kufuata kanuni, je, hiyo inaua ushindani? Lazima pia tuulize kuhusu gharama zilizofichika za faragha. Ikiwa kila mfumo lazima ukaguliwe, nani anafanya ukaguzi? Je, tunaiamini wakala wa serikali kupata kazi za ndani za kila AI kuu? Pia kuna swali la ukosefu wa usawa wa kimataifa. Ikiwa Magharibi inaweka sheria, nini kinatokea kwa Global South? Je, watalazimika kufuata viwango visivyofaa kwa mahitaji yao ya ndani? Tunaambiwa sheria hizi zinatufanya kuwa salama zaidi, lakini je, ni kweli? Au zinaunda tu hali ya usalama wa uongo wakati hatari halisi zinahamia sehemu zisizodhibitiwa za dark web? Lazima tuulize ikiwa sheria iliyoandikwa inaweza kweli kwenda sambamba na teknolojia inayobadilika kila mwezi. Pengo kati ya code na sheria ni mahali ambapo mambo mengi yanaweza kwenda vibaya. Baraza la Ushauri la AI la Umoja wa Mataifa linajaribu kushughulikia mapengo haya ya kimataifa, lakini makubaliano ni magumu kupatikana. Migongano inabaki wazi. Tunataka ulinzi, lakini tunaogopa udhibiti kupita kiasi. Tunataka uvumbuzi, lakini tunaogopa matokeo ya mfumo ambao hatuuelewi kikamilifu. Maswali haya hayana majibu rahisi, na sheria za sasa ni jaribio la kwanza tu la kuyapata.

Usanifu wa Kiufundi wa Kufuata Kanuni

Kwa watumiaji wa nguvu na watengenezaji, sheria zinakuwa maalum sana. Agizo la kiutendaji la Marekani linazingatia nguvu ya kompyuta kama kipimo cha hatari. Ikiwa mfumo unafunzwa kwa kutumia zaidi ya 10^26 floating point operations, inachochea hitaji la kuripoti kwa lazima. Hii ni kiasi kikubwa cha kompyuta, lakini kadiri vifaa vinavyoboreka, mifumo mingi itafikia kikomo hiki. Watengenezaji lazima pia wahofie asili ya data. Huwezi tena kuchota data kutoka mtandaoni na kutumaini bora. Unahitaji kuthibitisha una haki ya kutumia data hiyo. Pia kuna viwango vipya vya red-teaming. Hapa ndipo unapoajiri watu kujaribu kuvunja AI yako. Matokeo ya majaribio haya sasa lazima yaandikwe na kushirikiwa na wadhibiti katika mamlaka fulani. Watoa huduma wa API pia wanakabiliwa na mipaka mipya. Wanaweza kuhitajika kuthibitisha utambulisho wa wateja wao ili kuzuia AI ya matumizi mawili (dual-use) isianguke katika mikono isiyofaa. Uhifadhi wa ndani wa mifumo ni eneo lingine la wasiwasi. Ikiwa mfumo ni mdogo wa kutosha kuendesha kwenye laptop, unatekelezaje sheria hizi? Jibu mara nyingi ni kupitia vizuizi vya kiwango cha vifaa au alama za lazima (watermarking) za maudhui yaliyozalishwa na AI. Vikwazo hivi vya kiufundi ndivyo msingi mpya kwa yeyote anayefanya kazi katika uwanja huu. Lazima sasa uzingatie mahitaji yafuatayo ya kiufundi:

• Utekelezaji wa uwekaji kumbukumbu imara kwa vikao vyote vya mafunzo ya mfumo.
• Kutengeneza zana za kiotomatiki za kuweka alama kwenye maandishi na picha zinazozalishwa.
• Kuanzisha mazingira salama kwa ukaguzi wa mifumo na wahusika wengine.
• Kuhakikisha mipaka ya kasi ya API haipiti vichujio vya usalama.
• Kudumisha rekodi za kina za uingiliaji wote wa binadamu.

Mahitaji haya yanabadilisha mtiririko wa kazi wa mtengenezaji. Sio tena kuhusu kuboresha usahihi au kasi. Ni kuhusu kujenga mfumo unaoweza kukaguliwa kuanzia mwanzo. Hii inamaanisha muda mwingi unaotumiwa kwenye miundombinu na muda mdogo kwenye algorithm kuu. Pia inamaanisha kuwa uhifadhi wa ndani na mifumo ya nje ya mtandao itakabiliwa na shinikizo la kujumuisha vipengele hivi vya usalama, jambo ambalo linaweza kuathiri utendaji kwenye vifaa vya pembeni.

Mfumo Usiokamilika

Jambo la msingi ni kwamba enzi ya kusonga haraka na kuvunja mambo imekwisha kwa akili mnemba. Tunaingia katika enzi ya kusonga kwa uangalifu na kuandika kila kitu. Sheria bado zinaandikwa, na ziko mbali na ukamilifu. Ni maelewano ya fujo kati ya usalama, faida, na usalama wa taifa. Swali moja kuu linabaki wazi: je, sheria kuu inaweza kudhibiti teknolojia iliyogatuliwa? Kadiri mifumo ya chanzo huria (open-source) inavyoendelea kuboreka, pengo kati ya kile kinachodhibitiwa na kile kinachowezekana litaongezeka. Huu sio mwisho wa hadithi. Huu ni mwisho wa mwanzo tu. Kitabu cha sheria kinaanza kuundwa, lakini wino bado ni mbichi. Tutaona jinsi sheria hizi zinavyotekelezwa na jinsi sekta inavyobadilika katika miezi ijayo. Uhakika pekee ni kwamba jinsi tunavyojenga na kutumia AI haitakuwa sawa tena.

Editor’s note: We created this site as a multilingual AI news and guides hub for people who are not computer geeks, but still want to understand artificial intelligence, use it with more confidence, and follow the future that is already arriving.