AI PC-കൾക്ക് ഇപ്പോൾ പ്രസക്തിയുണ്ടോ, അതോ വെറും മാർക്കറ്റിംഗ് തന്ത്രമാണോ?
ടെക് ലോകം ഇപ്പോൾ ഒരു പ്രത്യേക രണ്ട് അക്ഷര പ്രിഫിക്സിനു പിന്നാലെയാണ്. പുതിയ ലാപ്ടോപ്പുകളുടെ സ്റ്റിക്കറുകളിലും മാർക്കറ്റിംഗ് സ്ലൈഡുകളിലും ഇത് നിറഞ്ഞുനിൽക്കുന്നു. AI PC-യുടെ കാലം വന്നെത്തിയെന്ന് ഹാർഡ്വെയർ നിർമ്മാതാക്കൾ അവകാശപ്പെടുന്നു. അടിസ്ഥാനപരമായി, ഒരു AI PC എന്നത് മെഷീൻ ലേണിംഗ് മോഡലുകൾക്ക് ആവശ്യമായ സങ്കീർണ്ണമായ ഗണിത ജോലികൾ കൈകാര്യം ചെയ്യാൻ രൂപകൽപ്പന ചെയ്ത, NPU (Neural Processing Unit) ഉള്ള ഒരു കമ്പ്യൂട്ടറാണ്. നിലവിലെ ലാപ്ടോപ്പുകൾ CPU-നെയും GPU-നെയും ആശ്രയിക്കുമ്പോൾ, പുതിയ തലമുറ ഹാർഡ്വെയർ ഈ ജോലികൾ NPU-ലേക്ക് മാറ്റുന്നു. ഇത് കമ്പ്യൂട്ടറിനെ ചിന്തിപ്പിക്കാനല്ല, മറിച്ച് കൂടുതൽ കാര്യക്ഷമമാക്കാനാണ്. ബാക്ക്ഗ്രൗണ്ട് നോയിസ് ക്യാൻസലേഷൻ അല്ലെങ്കിൽ ഇമേജ് ജനറേഷൻ പോലുള്ള ജോലികൾ ക്ലൗഡിൽ നിന്ന് നിങ്ങളുടെ ഡെസ്കിലേക്ക് മാറ്റുന്നതിലൂടെ, ലേറ്റൻസി, പ്രൈവസി എന്നീ പ്രശ്നങ്ങൾ പരിഹരിക്കാൻ ഈ യന്ത്രങ്ങൾ ശ്രമിക്കുന്നു. ചുരുക്കത്തിൽ, ഹാർഡ്വെയർ തയ്യാറാണെങ്കിലും സോഫ്റ്റ്വെയർ ഇനിയും വളരേണ്ടതുണ്ട്. വരും വർഷങ്ങളിൽ സാധാരണമാകാൻ പോകുന്ന ഒരു അടിത്തറയാണ് നിങ്ങൾ ഇപ്പോൾ വാങ്ങുന്നത്.
ഈ യന്ത്രങ്ങളെ വ്യത്യസ്തമാക്കുന്നത് എന്താണെന്ന് മനസ്സിലാക്കാൻ, ആധുനിക കമ്പ്യൂട്ടിംഗിന്റെ മൂന്ന് തൂണുകൾ നോക്കണം. ദശകങ്ങളായി CPU ലോജിക്കും GPU വിഷ്വൽസും കൈകാര്യം ചെയ്യുന്നു. NPU ആണ് മൂന്നാമത്തെ തൂൺ. ബില്യൺ കണക്കിന് ചെറിയ ഗണിതക്രിയകൾ ഒരേസമയം ചെയ്യാൻ ഇത് നിർമ്മിക്കപ്പെട്ടിരിക്കുന്നു. വീഡിയോ കോളുകളിൽ ബാക്ക്ഗ്രൗണ്ട് ബ്ലർ ചെയ്യാൻ സാധാരണ കമ്പ്യൂട്ടറിനോട് ആവശ്യപ്പെടുമ്പോൾ, CPU കഠിനമായി അധ്വാനിക്കുകയും ചൂടാവുകയും ബാറ്ററി തീരുകയും ചെയ്യുന്നു. NPU ഇത് വളരെ കുറഞ്ഞ ഊർജ്ജത്തിൽ ചെയ്യുന്നു. ഇതിനെ ‘ഓൺ-ഡിവൈസ് ഇൻഫറൻസ്’ എന്ന് വിളിക്കുന്നു. ഡാറ്റ സെർവർ ഫാമുകളിലേക്ക് അയക്കുന്നതിന് പകരം, നിങ്ങളുടെ മദർബോർഡിൽ തന്നെ കണക്കുകൂട്ടലുകൾ നടക്കുന്നു. ഇത് ഡാറ്റാ ട്രാൻസ്ഫർ സമയം കുറയ്ക്കുകയും നിങ്ങളുടെ സ്വകാര്യ വിവരങ്ങൾ സുരക്ഷിതമായിരിക്കുമെന്ന് ഉറപ്പാക്കുകയും ചെയ്യുന്നു.
മാർക്കറ്റിംഗ് ലേബലുകൾ പലപ്പോഴും യാഥാർത്ഥ്യത്തെ മറയ്ക്കാറുണ്ട്. Intel, AMD, Qualcomm എന്നിവർ AI PC-യുടെ മാനദണ്ഡങ്ങൾ നിശ്ചയിക്കാൻ മത്സരിക്കുകയാണ്. Microsoft തങ്ങളുടെ Copilot+ PC ബ്രാൻഡിനായി 40 TOPS (Tera Operations Per Second) എന്ന അടിസ്ഥാനം നിശ്ചയിച്ചിട്ടുണ്ട്. ഒരു സെക്കൻഡിൽ NPU-ന് എത്ര ട്രില്യൺ പ്രവർത്തനങ്ങൾ ചെയ്യാൻ കഴിയുമെന്നതിന്റെ അളവാണിത്. ഇതിൽ താഴെയാണെങ്കിൽ, AI ടൂളുകൾ പ്രവർത്തിച്ചേക്കാമെങ്കിലും ഓപ്പറേറ്റിംഗ് സിസ്റ്റത്തിലെ ഏറ്റവും പുതിയ ഫീച്ചറുകൾ ലഭിക്കില്ല. കാര്യക്ഷമതയ്ക്ക് മുൻഗണന നൽകുന്ന പ്രത്യേക സിലിക്കണിലേക്കുള്ള മാറ്റമാണിത്. വെബ് ബ്രൗസറുമായോ സ്പ്രെഡ്ഷീറ്റുമായോ മത്സരിക്കാതെ, സോഫ്റ്റ്വെയറിന് വിശ്വസിക്കാവുന്ന ഒരു ഹാർഡ്വെയർ ഉറവിടം നൽകുകയാണ് ലക്ഷ്യം.
ലോക്കൽ ഇന്റലിജൻസിലേക്കുള്ള സിലിക്കൺ മാറ്റം
ഈ ഹാർഡ്വെയർ മാറ്റം കോർപ്പറേറ്റ് സംഭരണം മുതൽ ഊർജ്ജ ഉപഭോഗം വരെ വലിയ സ്വാധീനം ചെലുത്തുന്നു. ക്ലൗഡ് കമ്പ്യൂട്ടിംഗ് ബില്ലുകൾ കുറയ്ക്കാൻ വലിയ സ്ഥാപനങ്ങൾ AI PC-കളെ നോക്കിക്കാണുന്നു. ആയിരക്കണക്കിന് ജീവനക്കാർ AI അസിസ്റ്റന്റുകളെ ഉപയോഗിക്കുമ്പോൾ API കോളുകളുടെ ചെലവ് വർദ്ധിക്കുന്നു. ഈ ജോലി NPU-ലേക്ക് മാറ്റുന്നതിലൂടെ കമ്പനികൾക്ക് പ്രവർത്തനച്ചെലവ് കുറയ്ക്കാം. സുരക്ഷാ ഘടകവും ഇതിലുണ്ട്. ഡാറ്റാ ചോർച്ച ഭയന്ന് ക്ലൗഡ് അധിഷ്ഠിത AI ഉപയോഗിക്കാൻ മടിക്കുന്ന സർക്കാരുകൾക്കും ധനകാര്യ സ്ഥാപനങ്ങൾക്കും ലോക്കൽ ഇൻഫറൻസ് ഒരു മികച്ച വഴിയാണ്. ഇത് എന്റർപ്രൈസ് വിപണിയിൽ വലിയൊരു മാറ്റത്തിന് വഴിയൊരുക്കുന്നു.
കോർപ്പറേറ്റ് ഓഫീസുകൾക്ക് അപ്പുറം, ലോക്കൽ AI-യിലേക്കുള്ള മാറ്റം ആഗോള കണക്റ്റിവിറ്റിയെയും ഡിജിറ്റൽ തുല്യതയെയും ബാധിക്കുന്നു. ഇന്റർനെറ്റ് കണക്ഷൻ മോശമായ സ്ഥലങ്ങളിൽ ക്ലൗഡ് അധിഷ്ഠിത AI പലപ്പോഴും ഉപയോഗശൂന്യമാണ്. ഹൈ-സ്പീഡ് ലിങ്ക് ഇല്ലാതെ തന്നെ ട്രാൻസ്ലേഷനോ ഇമേജ് റെക്കഗ്നിഷനോ ചെയ്യാൻ കഴിയുന്ന ലാപ്ടോപ്പ് വികസ്വര വിപണികളിൽ വലിയൊരു കരുത്താണ്. ഇന്റലിജൻസിന്റെ വികേന്ദ്രീകരണമാണ് നമ്മൾ കാണുന്നത്. ലോകത്തെ മുഴുവൻ സേവിക്കാൻ കുറച്ച് വലിയ ഡാറ്റാ സെന്ററുകൾക്ക് പകരം, ഓരോ ഉപകരണത്തിനും അടിസ്ഥാനപരമായ ബുദ്ധിശക്തി നൽകുന്ന ഒരു മാതൃകയിലേക്ക് നമ്മൾ മാറുന്നു.
ഉള്ളടക്കം ഗവേഷണം ചെയ്യാനും എഴുതാനും എഡിറ്റ് ചെയ്യാനും വിവർത്തനം ചെയ്യാനും BotNews.today AI ടൂളുകൾ ഉപയോഗിക്കുന്നു. വിവരങ്ങൾ ഉപയോഗപ്രദവും വ്യക്തവും വിശ്വസനീയവുമാക്കാൻ ഞങ്ങളുടെ ടീം ഈ പ്രക്രിയ അവലോകനം ചെയ്യുകയും മേൽനോട്ടം വഹിക്കുകയും ചെയ്യുന്നു.
ഇത് പ്രായോഗികമായി എങ്ങനെയിരിക്കും? മാർക്കറ്റിംഗ് മാനേജരായ സാറയുടെ ഒരു ദിവസം നോക്കാം. വീഡിയോ കോൺഫറൻസിൽ പങ്കെടുക്കുമ്പോൾ, പണ്ട് ലാപ്ടോപ്പ് ഫാനുകൾ ശബ്ദമുണ്ടാക്കുമായിരുന്നു. ഇന്ന്, അവളുടെ NPU വീഡിയോ ഇഫക്റ്റുകൾ നിശബ്ദമായി കൈകാര്യം ചെയ്യുന്നു, CPU-നെ മറ്റ് ജോലികൾക്കായി സ്വതന്ത്രമാക്കുന്നു. മീറ്റിംഗിൽ, ഒരു ലോക്കൽ മോഡൽ ഓഡിയോ കേട്ട് തത്സമയം ട്രാൻസ്ക്രിപ്റ്റ് തയ്യാറാക്കുന്നു. ഇത് ലോക്കലായി നടക്കുന്നതിനാൽ, രഹസ്യ സ്വഭാവമുള്ള കാര്യങ്ങൾ പുറത്തുപോകുമെന്ന് അവൾ ഭയപ്പെടുന്നില്ല. മീറ്റിംഗിന് ശേഷം, രണ്ട് വർഷം മുമ്പുള്ള ഒരു ഫോട്ടോ കണ്ടെത്താൻ അവൾക്ക് ഫയൽ എക്സ്പ്ലോററിൽ സ്വാഭാവിക ഭാഷയിൽ വിവരിച്ചാൽ മതി. ലോക്കൽ AI നിമിഷങ്ങൾക്കുള്ളിൽ ഫയൽ കണ്ടെത്തും. ഇത് അദൃശ്യമായ എന്നാൽ സമയം ലാഭിക്കുന്ന ഒരു സംയോജനമാണ്.
ഉച്ചയ്ക്ക് ശേഷം, ഒരു ഫോട്ടോയിൽ നിന്ന് അനാവശ്യമായ വസ്തുക്കൾ നീക്കം ചെയ്യാൻ അവൾക്ക് സാധിക്കുന്നു. ക്ലൗഡ് എഡിറ്ററിന് പകരം NPU ഉപയോഗിക്കുന്ന ലോക്കൽ ടൂൾ ഉപയോഗിച്ച് പിക്സലുകൾ തൽക്ഷണം മാറ്റാം. ഒരു ബ്രീഫ് തയ്യാറാക്കുമ്പോൾ, അവളുടെ ലോക്കൽ അസിസ്റ്റന്റ് മുൻകാല ശൈലി അടിസ്ഥാനമാക്കി മെച്ചപ്പെടുത്തലുകൾ നിർദ്ദേശിക്കുന്നു. ഇതാണ് AI PC-യുടെ വാഗ്ദാനം. ഇത് ഒരു വലിയ മാറ്റമല്ല, മറിച്ച് ചിന്തയും പ്രവൃത്തിയും തമ്മിലുള്ള തടസ്സങ്ങൾ നീക്കുന്ന നൂറുകണക്കിന് ചെറിയ മെച്ചപ്പെടുത്തലുകളാണ്. ദിവസം അവസാനിക്കുമ്പോൾ, ബാറ്ററി അമ്പത് ശതമാനത്തിൽ നിൽക്കുന്നു, കാരണം NPU വളരെ കാര്യക്ഷമമാണ്. ക്ലൗഡ് സേവനങ്ങൾക്കുള്ള ഒരു ഡംബ് ടെർമിനലിന് പകരം, അവളുടെ ജോലിയുടെ സന്ദർഭം മനസ്സിലാക്കുന്ന ഒരു പങ്കാളിയെപ്പോലെ മെഷീൻ പ്രവർത്തിക്കുന്നു.
എങ്കിലും, ഈ പുതിയ വാഗ്ദാനങ്ങളെ അല്പം സംശയത്തോടെ കാണണം. ഈ ഹാർഡ്വെയർ കൊണ്ട് ആർക്കാണ് യഥാർത്ഥത്തിൽ ഗുണം? NPU ഉപയോക്താവിനെ സേവിക്കാനാണോ, അതോ ലോക്കൽ പ്രോസസ്സിംഗിന്റെ പേരിൽ സോഫ്റ്റ്വെയർ കമ്പനികൾക്ക് കൂടുതൽ ഡാറ്റ ശേഖരിക്കാനാണോ? ലോക്കൽ ഇൻഫറൻസ് കൂടുതൽ സുരക്ഷിതമാണെങ്കിലും, ഓപ്പറേറ്റിംഗ് സിസ്റ്റം AI എന്ത് ചെയ്യുന്നുവെന്ന് രേഖപ്പെടുത്തുന്നുണ്ട്. ഈ യന്ത്രങ്ങളുടെ മറഞ്ഞിരിക്കുന്ന ചെലവും പരിഗണിക്കണം. AI PC-കൾക്ക് കൂടുതൽ RAM-ഉം വേഗതയേറിയ സ്റ്റോറേജും ആവശ്യമാണ്. ഇത് വില വർദ്ധിപ്പിക്കുന്നു. നിലവിലുള്ള ഹാർഡ്വെയറിനായി ഒപ്റ്റിമൈസ് ചെയ്യാമായിരുന്ന ഫീച്ചറുകൾക്കായി നമ്മൾ വിലകൂടിയ അപ്ഗ്രേഡ് സൈക്കിളിലേക്ക് നിർബന്ധിതരാവുകയാണോ? AI മോഡലുകൾ ഹാർഡ്വെയറിനേക്കാൾ വേഗത്തിൽ മാറുന്നു. ഇന്ന് വാങ്ങുന്ന 40 TOPS ലാപ്ടോപ്പ് രണ്ട് വർഷത്തിനുള്ളിൽ കാലഹരണപ്പെട്ടേക്കാം.
പരിസ്ഥിതി ആഘാതവും പരിശോധിക്കണം. ലോക്കൽ AI കാര്യക്ഷമമാണെങ്കിലും, ഈ പ്രത്യേക ചിപ്പുകൾ നിർമ്മിക്കാൻ അപൂർവ വസ്തുക്കളും വലിയ ഊർജ്ജവും ആവശ്യമാണ്. കോടിക്കണക്കിന് പിസികൾ മാറ്റിയാൽ ഇ-വേസ്റ്റും കാർബൺ ഫൂട്ട്പ്രിന്റും വലുതായിരിക്കും. ഈ മോഡലുകളുടെ ‘ബ്ലാക്ക് ബോക്സ്’ സ്വഭാവവും പ്രശ്നമാണ്. പ്രോസസ്സിംഗ് ലോക്കൽ ആണെങ്കിലും, പല മോഡലുകളും പ്രൊപ്രൈറ്ററിയാണ്. AI എങ്ങനെ തീരുമാനങ്ങൾ എടുക്കുന്നുവെന്ന് ഉപയോക്താക്കൾക്ക് അറിയില്ല. ലളിതമായ സോഫ്റ്റ്വെയറിന്റെ സുതാര്യതയ്ക്ക് പകരം ന്യൂറൽ നെറ്റ്വർക്കുകളുടെ സങ്കീർണ്ണതയാണ് നമ്മൾ സ്വീകരിക്കുന്നത്. വേഗതയേറിയ തിരയലിന്റെ സൗകര്യത്തിന് വേണ്ടി നമ്മുടെ ടൂളുകളിലെ പ്രവചനാതീതത നഷ്ടപ്പെടുത്തണോ? ഈ ചോദ്യങ്ങൾക്ക് Intel-ന്റെയും Microsoft-ന്റെയും മാർക്കറ്റിംഗ് വിഭാഗങ്ങൾക്ക് ഉത്തരമില്ല.
ഞങ്ങൾ ഉൾപ്പെടുത്തണമെന്ന് നിങ്ങൾ കരുതുന്ന ഒരു AI സ്റ്റോറിയോ, ടൂളോ, ട്രെൻഡോ, ചോദ്യമോ നിങ്ങളുടെ പക്കലുണ്ടോ? നിങ്ങളുടെ ലേഖന ആശയം ഞങ്ങൾക്ക് അയയ്ക്കുക — അത് കേൾക്കാൻ ഞങ്ങൾ ആഗ്രഹിക്കുന്നു.പവർ യൂസർമാർക്കും ഗീക്കുകൾക്കും AI PC-യുടെ യാഥാർത്ഥ്യം സാങ്കേതിക സവിശേഷതകളിലും ഡെവലപ്പർ ഇക്കോസിസ്റ്റത്തിലുമാണ്. നിലവിലെ സ്റ്റാൻഡേർഡ് ONNX Runtime, DirectML എന്നിവയിലാണ് നിർമ്മിച്ചിരിക്കുന്നത്. എന്നിരുന്നാലും, ഇപ്പോഴും പല വിഭജനങ്ങളുണ്ട്. Qualcomm Snapdragon X Elite-ൽ ഒപ്റ്റിമൈസ് ചെയ്ത ടൂൾ Intel Core Ultra-യിലോ AMD Ryzen AI ചിപ്പിലോ അതേപോലെ പ്രവർത്തിക്കണമെന്നില്ല. API പരിധികളും ഒരു ആശങ്കയാണ്. 40 TOPS ശേഷിയുണ്ടെങ്കിലും, ചൂടും ബാറ്ററിയും നിയന്ത്രിക്കാൻ ഓപ്പറേറ്റിംഗ് സിസ്റ്റം പലപ്പോഴും ഇതിനെ തടയുന്നു. Llama 3 അല്ലെങ്കിൽ Mistral പോലുള്ള സ്വന്തം മോഡലുകൾ പ്രവർത്തിപ്പിക്കാൻ ആഗ്രഹിക്കുന്നവർക്ക്, തടസ്സം പലപ്പോഴും യൂണിഫൈഡ് മെമ്മറിയാണ്. 7 ബില്യൺ പാരാമീറ്ററുകളുള്ള മോഡൽ സുഗമമായി പ്രവർത്തിക്കാൻ 32GB RAM എങ്കിലും വേണം.
ലോക്കൽ സ്റ്റോറേജും പ്രധാനമാണ്. ഉയർന്ന നിലവാരമുള്ള AI മോഡലുകൾക്ക് ജിഗാബൈറ്റ് കണക്കിന് സ്ഥലമെടുക്കും. ഇമേജ് ജനറേഷൻ, ടെക്സ്റ്റ് പ്രോസസ്സിംഗ് എന്നിവയ്ക്കായി ഒന്നിലധികം മോഡലുകൾ ഉപയോഗിച്ചാൽ SSD വേഗത്തിൽ നിറയും. പരിശീലനത്തിന്റെ കാര്യത്തിൽ നിലവിലെ NPU ആർക്കിടെക്ചറുകൾക്ക് പരിമിതികളുണ്ട്. ഇവ ഇൻഫറൻസിനായി രൂപകൽപ്പന ചെയ്തതാണ്, സ്വന്തം മോഡലുകൾ പരിശീലിപ്പിക്കാനല്ല. സ്വന്തമായി AI നിർമ്മിക്കാൻ ആഗ്രഹിക്കുന്ന ഡെവലപ്പർമാർക്ക് ഇപ്പോഴും CUDA പിന്തുണയുള്ള NVIDIA GPU ആവശ്യമാണ്. NPU ഒരു ഉപഭോക്തൃ ടൂളാണ്, വർക്ക്സ്റ്റേഷൻ പകരക്കാരനല്ല. ഡ്രൈവർ സ്റ്റെബിലിറ്റിയുടെ കാര്യത്തിലും നമ്മൾ തുടക്കത്തിലാണ്. കൂടുതൽ സാങ്കേതിക വിവരങ്ങൾക്ക് The Verge സന്ദർശിക്കുകയോ AnandTech-ലെ ബെഞ്ച്മാർക്കുകൾ പരിശോധിക്കുകയോ ചെയ്യാം. Windows 11 AI സംയോജനത്തെക്കുറിച്ചുള്ള ഏറ്റവും പുതിയ അപ്ഡേറ്റുകൾക്കായി Microsoft-ന്റെ ഔദ്യോഗിക ഡെവലപ്പർ ബ്ലോഗ് പിന്തുടരുക.
ചുരുക്കത്തിൽ, AI PC ഒരു യഥാർത്ഥ സാങ്കേതിക മാറ്റമാണ്, പക്ഷേ അത് ഇപ്പോഴും വളർച്ചയുടെ ഘട്ടത്തിലാണ്. ഹാർഡ്വെയർ ആകർഷകമാണ്, കാര്യക്ഷമതയും വ്യക്തമാണ്, എന്നാൽ
