ഏറ്റവും ബുദ്ധിമാനായ AI വിദഗ്ധർ നൽകുന്ന മുന്നറിയിപ്പുകൾ എന്തൊക്കെയാണ്?

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനെക്കുറിച്ചുള്ള സംസാരം ഇപ്പോൾ അത്ഭുതത്തിൽ നിന്ന് മാറി ഒരു നിശബ്ദമായ ആശങ്കയിലേക്ക് വഴിമാറിയിരിക്കുന്നു. പ്രമുഖ ഗവേഷകരും ഈ രംഗത്തെ വിദഗ്ധരും ഇപ്പോൾ ചിന്തിക്കുന്നത് ഈ സിസ്റ്റങ്ങൾക്ക് എന്ത് ചെയ്യാൻ കഴിയും എന്നതിനെക്കുറിച്ചല്ല, മറിച്ച് അവ നൽകുന്ന ഉത്തരങ്ങൾ നമുക്ക് പരിശോധിക്കാൻ കഴിയാതെ വന്നാൽ എന്ത് സംഭവിക്കും എന്നതിനെക്കുറിച്ചാണ്. ഇതിന്റെ കാതൽ വളരെ ലളിതമാണ്. AI സൃഷ്ടിക്കുന്ന വിവരങ്ങളുടെ വേഗത മനുഷ്യന്റെ പരിശോധനാ ശേഷിയെക്കാൾ വളരെ മുന്നിലാണ്. ഇത് പിശകുകളും പക്ഷപാതങ്ങളും തെറ്റായ വിവരങ്ങളും (hallucinations) ആരും ശ്രദ്ധിക്കാതെ പോകാൻ ഇടയാക്കുന്നു. സാങ്കേതികവിദ്യ പരാജയപ്പെടുന്നതല്ല പ്രശ്നം, മറിച്ച് അത് അനുകരണത്തിൽ ഇത്രയധികം വിജയിക്കുന്നതാണ്. സൗകര്യത്തിന് വേണ്ടി കൃത്യതയെ ബലികഴിക്കുകയാണെന്ന് വിദഗ്ധർ മുന്നറിയിപ്പ് നൽകുന്നു. AI-യെ ഒരു അന്തിമ അധികാരിയായി കാണുന്നത് തെറ്റായ വിവരങ്ങളുടെ അടിസ്ഥാനത്തിൽ ഭാവി കെട്ടിപ്പടുക്കാൻ നമ്മെ പ്രേരിപ്പിക്കും.

സ്റ്റാറ്റിസ്റ്റിക്കൽ അനുകരണത്തിന്റെ പ്രവർത്തനരീതി

അടിസ്ഥാനപരമായി, ആധുനിക AI എന്നത് ഒരു വലിയ സ്റ്റാറ്റിസ്റ്റിക്കൽ പ്രെഡിക്ഷൻ (statistical prediction) സംവിധാനമാണ്. ഒരു ലാർജ് ലാംഗ്വേജ് മോഡലിനോട് (LLM) എന്തെങ്കിലും ചോദിക്കുമ്പോൾ, അത് മനുഷ്യനെപ്പോലെ ചിന്തിക്കുകയല്ല ചെയ്യുന്നത്. പകരം, പരിശീലന വേളയിൽ പഠിച്ച കോടിക്കണക്കിന് വാക്കുകളിൽ നിന്ന് അടുത്ത വാക്ക് ഏതായിരിക്കുമെന്ന് സാധ്യത കണക്കാക്കുകയാണ് ചെയ്യുന്നത്. പല ഉപയോക്താക്കളും ഈ വ്യത്യാസം മനസ്സിലാക്കുന്നില്ല. ഈ സിസ്റ്റങ്ങൾക്ക് പിന്നിൽ ബോധപൂർവ്വമായ യുക്തിയുണ്ടെന്ന് നമ്മൾ തെറ്റിദ്ധരിക്കുന്നു. യഥാർത്ഥത്തിൽ, ഇത് ഡാറ്റയുടെ ഒരു കണ്ണാടി മാത്രമാണ്. ഇന്റർനെറ്റ്, പുസ്തകങ്ങൾ, കോഡ് എന്നിവയിൽ നിന്നാണ് ഈ ഡാറ്റ വരുന്നത്. മനുഷ്യന്റെ തെറ്റുകളും വൈരുദ്ധ്യങ്ങളും ഈ ഡാറ്റയിൽ ഉള്ളതിനാൽ, മോഡലും അത് പ്രതിഫലിപ്പിക്കുന്നു. ഒരു AI-ക്ക് തെറ്റായ വിവരങ്ങൾ പോലും ഗണിതശാസ്ത്രപരമായ സത്യം പോലെ ആത്മവിശ്വാസത്തോടെ പറയാൻ സാധിക്കും. കാരണം, അതിന് സത്യത്തെക്കുറിച്ചുള്ള ധാരണയല്ല, സാധ്യതയെക്കുറിച്ചുള്ള ധാരണയാണുള്ളത്.

ഈ സത്യം തിരിച്ചറിയാനുള്ള കഴിവില്ലായ്മയാണ് ഹാലുസിനേഷനുകൾക്ക് (hallucinations) കാരണം. ഇതൊരു സാങ്കേതിക തകരാറല്ല, മറിച്ച് സിസ്റ്റം ഡിസൈൻ ചെയ്തതുപോലെ പ്രവർത്തിക്കുന്നതാണ്. ഉദാഹരണത്തിന്, ഒരു ചെറിയ ചരിത്രകാരനെക്കുറിച്ച് ചോദിച്ചാൽ, അയാൾക്ക് ഇല്ലാത്ത ബിരുദങ്ങൾ AI കണ്ടുപിടിച്ചേക്കാം. അത് നുണ പറയുകയല്ല, ഒരു പാറ്റേൺ പൂർത്തിയാക്കുകയാണ് ചെയ്യുന്നത്. സർഗ്ഗാത്മകമായ ജോലികൾക്ക് ഇത് മികച്ചതാണെങ്കിലും, വസ്തുതാപരമായ കാര്യങ്ങളിൽ ഇത് അപകടകരമാണ്. ഇവ എൻസൈക്ലോപീഡിയകളല്ല, മറിച്ച് മനുഷ്യരുടെ നിരന്തരമായ പരിശോധന ആവശ്യമുള്ള പ്രോബബിലിറ്റി എൻജിനുകളാണ്.

ഈ സാങ്കേതികവിദ്യയുടെ ആഗോള സ്വാധീനം വളരെ വേഗത്തിലാണ്. വിവരങ്ങൾ നിർമ്മിക്കുന്ന രീതിയിൽ വലിയ മാറ്റം വരുന്നു. വികസ്വര രാജ്യങ്ങളിൽ സാങ്കേതിക വൈദഗ്ധ്യത്തിന്റെ കുറവ് നികത്താൻ AI ഉപയോഗിക്കുന്നു. നെയ്റോബിയിലെ ഒരു ചെറിയ ബിസിനസ്സിന് സാൻ ഫ്രാൻസിസ്കോയിലെ സ്റ്റാർട്ടപ്പിനെപ്പോലെ തന്നെ കോഡിംഗ് അസിസ്റ്റന്റുകളെ ഉപയോഗിക്കാം. എന്നാൽ, ഈ മോഡലുകൾ പാശ്ചാത്യ ഡാറ്റയിൽ പരിശീലനം നേടിയവയായതിനാൽ, ഇത് ഒരുതരം സാംസ്കാരിക ഏകീകരണത്തിന് (cultural homogenization) കാരണമാകുന്നു. തെക്കുകിഴക്കൻ ഏഷ്യയിലെ ഒരു ഉപയോക്താവിന് ലഭിക്കുന്ന ബിസിനസ്സ് ഉപദേശം പലപ്പോഴും പാശ്ചാത്യ കോർപ്പറേറ്റ് കാഴ്ചപ്പാടിലൂടെയുള്ളതായിരിക്കും. ഇത് പ്രാദേശിക വിപണിക്ക് അനുയോജ്യമാകണമെന്നില്ല.

സാമ്പത്തിക അസമത്വവും മറ്റൊരു വിഷയമാണ്. ഈ മോഡലുകൾ പരിശീലിപ്പിക്കാൻ വൻതോതിൽ കമ്പ്യൂട്ടിംഗ് പവറും വൈദ്യുതിയും ആവശ്യമാണ്. ഇത് കുറച്ച് സമ്പന്ന കോർപ്പറേഷനുകളുടെ കൈകളിൽ അധികാരം കേന്ദ്രീകരിക്കുന്നു. ഇത് ഒരു പുതിയ വിഭവ യുദ്ധത്തിന് തുടക്കമിട്ടിരിക്കുന്നു. ഹൈ-എൻഡ് ചിപ്പുകളും ഡാറ്റാ സെന്ററുകളും ഇപ്പോൾ ദേശീയ സുരക്ഷയുടെ ഭാഗമായി മാറിക്കഴിഞ്ഞു. ഈ സാങ്കേതികവിദ്യയുടെ ഗുണഫലങ്ങൾ എല്ലാവർക്കും തുല്യമായി ലഭിക്കുന്നുണ്ടോ അതോ നിലവിലുള്ള അധികാര ഘടനകളെ ശക്തിപ്പെടുത്തുകയാണോ ചെയ്യുന്നത് എന്ന് നമ്മൾ ചിന്തിക്കേണ്ടതുണ്ട്.

യഥാർത്ഥ ലോകത്ത്, ഇതിന്റെ പ്രത്യാഘാതങ്ങൾ വളരെ പ്രായോഗികമാണ്. മാർക്ക് എന്ന ഡാറ്റാ അനലിസ്റ്റിന്റെ കാര്യം എടുക്കാം. സമയം ലാഭിക്കാൻ അവൻ ഒരു റിപ്പോർട്ട് തയ്യാറാക്കാൻ AI ഉപയോഗിച്ചു. AI മനോഹരമായ ചാർട്ടുകളും സംഗ്രഹവും നൽകി. മാർക്ക് അത് പരിശോധിക്കാതെ സമർപ്പിച്ചു. എന്നാൽ, സോഴ്സ് ഫയലുകളിലെ ചെറിയൊരു ഡാറ്റാ പിശക് AI ശ്രദ്ധിച്ചില്ല. ഒരാഴ്ചയ്ക്ക് ശേഷം, ആ തെറ്റായ റിപ്പോർട്ടിന്റെ അടിസ്ഥാനത്തിൽ കമ്പനി ലക്ഷങ്ങളുടെ നഷ്ടം വരുത്തുന്ന തീരുമാനമെടുത്തു. ഇത് വെറും സങ്കൽപ്പമല്ല, ഓഫീസുകളിൽ ദിവസവും നടക്കുന്ന കാര്യമാണ്.

ആരോഗ്യരംഗത്തും നിയമരംഗത്തും ഇത് വലിയ വെല്ലുവിളിയാണ്. അപൂർവ്വമായ ലക്ഷണങ്ങൾ AI-ക്ക് തിരിച്ചറിയാൻ കഴിഞ്ഞില്ലെങ്കിൽ അത് ജീവൻ തന്നെ അപകടത്തിലാക്കാം. അഭിഭാഷകർ ഇല്ലാത്ത കോടതി കേസുകൾ ഉദ്ധരിച്ച് AI നിർമ്മിച്ച രേഖകൾ സമർപ്പിച്ച സംഭവങ്ങൾ ഉണ്ടായിട്ടുണ്ട്. ഒരു AI സംഗ്രഹം പരിശോധിക്കാൻ അത് സ്വന്തമായി എഴുതുന്നതിനേക്കാൾ കൂടുതൽ സമയം ചിലപ്പോൾ ആവശ്യമായി വരും. ഈ വൈരുദ്ധ്യം പലരും അവഗണിക്കുകയാണ്.

AI നിർമ്മിക്കുന്ന ഉള്ളടക്കങ്ങൾ ഇന്റർനെറ്റിൽ നിറയുമ്പോൾ, തെറ്റായ വിവരങ്ങൾ പ്രചരിപ്പിക്കാനുള്ള ചെലവ് പൂജ്യത്തിലേക്ക് അടുക്കുന്നു. ഇത് ഡിജിറ്റൽ ആശയവിനിമയത്തിലുള്ള വിശ്വാസം തകർക്കുന്നു. എന്തിനെയും വ്യാജമായി നിർമ്മിക്കാം എന്ന അവസ്ഥ വന്നാൽ, പരിശോധനയില്ലാതെ ഒന്നിനെയും വിശ്വസിക്കാൻ കഴിയില്ല. AI മോഡലുകൾ മറ്റ് AI-കൾ നിർമ്മിച്ച ഡാറ്റയിൽ പരിശീലനം നേടുമ്പോൾ, വിവരങ്ങളുടെ ഗുണനിലവാരം കുറയുകയും പിശകുകൾ വർദ്ധിക്കുകയും ചെയ്യുന്ന ‘മോഡൽ കൊളാപ്സ്’ (model collapse) എന്ന പ്രതിഭാസത്തിലേക്ക് ഇത് നയിക്കുന്നു.

ഈ സിസ്റ്റങ്ങൾ നിർമ്മിക്കുന്ന കമ്പനികൾ ഉത്തരം നൽകാത്ത ചില ചോദ്യങ്ങളുണ്ട്. ഒരു AI ക്വറിയുടെ യഥാർത്ഥ പാരിസ്ഥിതിക ചെലവ് എത്രയാണ്? ഡാറ്റ ലേബൽ ചെയ്യുന്ന കുറഞ്ഞ വേതനമുള്ള തൊഴിലാളികളുടെ അവസ്ഥയെന്താണ്? നമ്മുടെ ചിന്താശേഷിയെ ഇത് എങ്ങനെ ബാധിക്കും? നാം കൂടുതൽ ഉൽപ്പാദനക്ഷമരാവുകയാണോ അതോ കൂടുതൽ ആശ്രിതരാവുകയാണോ?

സ്വകാര്യതയാണ് മറ്റൊരു പ്രധാന വിഷയം. നമ്മുടെ ഡാറ്റ ഉപയോഗിച്ചാണ് നമ്മളെത്തന്നെ മാറ്റിസ്ഥാപിക്കാൻ സാധ്യതയുള്ള ടൂളുകൾ നിർമ്മിക്കുന്നത്. സ്വകാര്യ സംഭാഷണങ്ങളിലേക്കും കോർപ്പറേറ്റ് ഡാറ്റയിലേക്കും പ്രവേശനം നേടാൻ കമ്പനികൾ ശ്രമിക്കുന്നത് വലിയ ആശങ്കയുണ്ടാക്കുന്നു. നിങ്ങളുടെ വർക്ക്ഫ്ലോയെക്കുറിച്ച് AI-ക്ക് അറിയാമെങ്കിൽ, നിങ്ങളുടെ ദൗർബല്യങ്ങളും അതിന് അറിയാം.

പവർ യൂസർമാർക്കും ഡെവലപ്പർമാർക്കും ഇപ്പോൾ പ്രാദേശിക നിയന്ത്രണത്തിലാണ് (local control) ശ്രദ്ധ. ക്ലൗഡ് അധിഷ്ഠിത API-കൾക്ക് പരിമിതികളുണ്ട്. Llama.cpp, Ollama തുടങ്ങിയ ടൂളുകൾ ഉപയോഗിച്ച് സ്വന്തം ഹാർഡ്‌വെയറിൽ മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്നത് സ്വകാര്യത ഉറപ്പാക്കുന്നു. RAG (Retrieval-Augmented Generation) എന്ന സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് പ്രാദേശിക രേഖകളിൽ നിന്ന് മാത്രം ഉത്തരം നൽകാൻ AI-യെ പരിശീലിപ്പിക്കുന്നത് വഴി ഹാലുസിനേഷനുകൾ കുറയ്ക്കാം. ഏജന്റിക് വർക്ക്ഫ്ലോകൾ (agentic workflows) വഴി AI-ക്ക് സ്വയം തീരുമാനങ്ങൾ എടുക്കാൻ കഴിയുമെങ്കിലും, അതിന് കർശനമായ സുരക്ഷാ പ്രോട്ടോക്കോളുകൾ ആവശ്യമാണ്.

എന്റർപ്രൈസ് ഉപയോക്താക്കൾക്ക് ഡാറ്റാ പരമാധികാരം (data sovereignty) പ്രധാനമാണ്. സ്വകാര്യ ഡാറ്റ പൊതു മോഡലുകളിൽ ഉപയോഗിക്കുന്നത് കമ്പനികൾ വിലക്കുന്നു. ചെറിയ ഭാഷാ മോഡലുകൾ (SLMs) ഇപ്പോൾ കൂടുതൽ പ്രചാരത്തിലുണ്ട്. ഇവ വേഗതയേറിയതും കൃത്യതയുള്ളതുമാണ്. ഒരു വലിയ മോഡലിനേക്കാൾ, പ്രത്യേക ആവശ്യങ്ങൾക്കായി നിർമ്മിച്ച ടൂളുകളുടെ ഒരു ലൈബ്രറിയാണ് ഭാവിയിൽ കൂടുതൽ പ്രയോജനകരം.

ایڈیٹر کا نوٹ: ہم نے یہ سائٹ ایک کثیر لسانی AI خبروں اور گائیڈز کے مرکز کے طور پر ان لوگوں کے لیے بنائی ہے جو کمپیوٹر گیکس نہیں ہیں، لیکن پھر بھی مصنوعی ذہانت کو سمجھنا چاہتے ہیں، اسے زیادہ اعتماد کے ساتھ استعمال کرنا چاہتے ہیں، اور اس مستقبل کی پیروی کرنا چاہتے ہیں جو پہلے ہی آ رہا ہے۔

ചുരുക്കത്തിൽ, AI എന്നത് വലിയ സാധ്യതകളും അപകടസാധ്യതകളും ഉള്ള ഒരു ഉപകരണമാണ്. ഇത് എല്ലാ പ്രശ്നങ്ങൾക്കും ഒറ്റമൂലിയല്ല. ഈ സിസ്റ്റങ്ങളിൽ നിന്ന് ലഭിക്കുന്ന വിവരങ്ങളെ വിമർശനാത്മകമായി സമീപിക്കുക എന്നതാണ് പ്രധാനം. മനുഷ്യന്റെ കഴിവിനെ മെച്ചപ്പെടുത്താനാണ് AI ഉപയോഗിക്കേണ്ടത്, പകരം വെക്കാനല്ല. ഏറ്റവും പുതിയ AI ഗവേഷണങ്ങൾ പിന്തുടരുക, വിവരങ്ങൾ എപ്പോഴും പരിശോധിക്കുക. ഒരു AI സിസ്റ്റത്തിലെ ഏറ്റവും പ്രധാനപ്പെട്ട ഭാഗം ഇപ്പോഴും കീബോർഡിന് മുന്നിലിരിക്കുന്ന മനുഷ്യനാണ്.

AI മോഡലുകൾ ഇന്റർനെറ്റിലെ ഭൂരിഭാഗം ഉള്ളടക്കങ്ങളും നിർമ്മിക്കാൻ തുടങ്ങിയാൽ, അടുത്ത തലമുറ മോഡലുകളെ എങ്ങനെ പരിശീലിപ്പിക്കും എന്നത് വലിയൊരു ചോദ്യമാണ്. നമ്മൾ ഒരുതരം ഡിജിറ്റൽ ഇൻബ്രീഡിംഗിലേക്ക് (digital inbreeding) നീങ്ങുകയാണ്. മനുഷ്യൻ നിർമ്മിച്ച ഡാറ്റയും മേൽനോട്ടവും കൂടുതൽ വിലപ്പെട്ടതായി മാറുന്നു. AI പരിണാമത്തെക്കുറിച്ച് കൂടുതൽ അറിയാൻ MIT Technology Review അല്ലെങ്കിൽ OpenAI-ന്റെ സുരക്ഷാ പ്രോട്ടോക്കോളുകൾ പരിശോധിക്കുക.

ഒരു പിശകോ തിരുത്തേണ്ട എന്തെങ്കിലും കണ്ടെത്തിയോ? ഞങ്ങളെ അറിയിക്കുക.