AI ചിപ്പുകളിലെ അടുത്ത വലിയ മാറ്റം: വേഗതയോ അതോ കാര്യക്ഷമതയോ?

AI-യുടെ വേഗതയ്ക്കായുള്ള മത്സരം ഇപ്പോൾ കേവലം ക്ലോക്ക് സ്പീഡുകളിൽ നിന്ന് മാറി, സിസ്റ്റം ആർക്കിടെക്ചറിനെ ചൊല്ലിയുള്ള സങ്കീർണ്ണമായ പോരാട്ടമായി മാറിയിരിക്കുന്നു. സിലിക്കണിൽ കൂടുതൽ ട്രാൻസിസ്റ്ററുകൾ കുത്തിനിറയ്ക്കുന്നത് കൊണ്ട് മാത്രം ഇപ്പോൾ കാര്യമില്ല. പ്രോസസറും മെമ്മറിയും തമ്മിലുള്ള ഡാറ്റാ കൈമാറ്റത്തിന്റെ വേഗതയാണ് പ്രോസസറിനേക്കാൾ പ്രധാനം എന്ന അവസ്ഥയിൽ വ്യവസായം എത്തിനിൽക്കുന്നു. ഹാർഡ്‌വെയർ ലോകത്തെ ഈ മാറ്റം ഇന്നത്തെ കാലഘട്ടത്തെ നിർവചിക്കുന്നു. ചിപ്പ് ഡിസൈനിൽ മാത്രം ശ്രദ്ധ കേന്ദ്രീകരിച്ചിരുന്ന കമ്പനികൾ ഇപ്പോൾ ആഗോള സപ്ലൈ ചെയിനുകളും അത്യാധുനിക പാക്കേജിംഗ് സാങ്കേതികവിദ്യകളും കൈകാര്യം ചെയ്യേണ്ട അവസ്ഥയിലാണ്. നെറ്റ്‌വർക്കിംഗും മെമ്മറിയും ലോജിക് ഗേറ്റുകൾ പോലെ തന്നെ പ്രധാനമായ ഒരു സമഗ്ര സിസ്റ്റത്തിലേക്കുള്ള മാറ്റമാണിത്. ഈ പരിണാമം സോഫ്റ്റ്‌വെയർ നിർമ്മാണത്തെയും ദേശീയ സുരക്ഷയെക്കുറിച്ചുള്ള സർക്കാരുകളുടെ കാഴ്ചപ്പാടിനെയും മാറ്റിമറിക്കുന്നു. സാങ്കേതികവിദ്യ എങ്ങോട്ടാണ് പോകുന്നതെന്ന് മനസ്സിലാക്കാൻ, ചിപ്പുകളെ മാത്രം നോക്കാതെ അവ തമ്മിലുള്ള ബന്ധങ്ങളെ ശ്രദ്ധിക്കുക. ഒരു പ്ലാറ്റ്‌ഫോമിന്റെ ശക്തി ഇപ്പോൾ ഈ വ്യത്യസ്ത ഭാഗങ്ങളെ ഒരൊറ്റ യൂണിറ്റായി സംയോജിപ്പിക്കാനുള്ള കഴിവിനെ ആശ്രയിച്ചിരിക്കുന്നു. ഹാർഡ്‌വെയറിന്റെ ഭൗതിക പരിമിതികളെ അവഗണിക്കുന്നവർക്ക് ലേറ്റൻസിയും ചൂടും കാരണം തങ്ങളുടെ സോഫ്റ്റ്‌വെയർ സ്വപ്നങ്ങൾ പാതിവഴിയിൽ ഉപേക്ഷിക്കേണ്ടി വരും.

മെമ്മറി പരിമിതി മറികടക്കാൻ സിലിക്കൺ സ്റ്റാക്കിംഗ്

നിലവിലെ മാറ്റം മനസ്സിലാക്കാൻ ചിപ്പുകൾ എങ്ങനെയാണ് നിർമ്മിക്കപ്പെടുന്നതെന്ന് നോക്കണം. പതിറ്റാണ്ടുകളായി, വ്യവസായം പിന്തുടർന്നിരുന്നത് ഫ്ലാറ്റ് ഡിസൈൻ ആയിരുന്നു. പ്രോസസറും മെമ്മറിയും സർക്യൂട്ട് ബോർഡിൽ വെവ്വേറെയായിരുന്നു ഉണ്ടായിരുന്നത്. ഇന്ന്, ആ അകലമാണ് പ്രകടനത്തിന്റെ പ്രധാന ശത്രു. ഇത് പരിഹരിക്കാൻ നിർമ്മാതാക്കൾ അഡ്വാൻസ്ഡ് പാക്കേജിംഗിലേക്ക് തിരിയുന്നു. ഇതിൽ ഘടകങ്ങളെ ഒന്നിനു മുകളിൽ ഒന്നായോ അല്ലെങ്കിൽ ഇന്റർപോസർ എന്ന് വിളിക്കുന്ന ഒരു പ്രത്യേക അടിത്തറയിൽ വശങ്ങളിലോ അടുക്കി വെക്കുന്നു. ‘ചിപ്പ് ഓൺ വേഫർ ഓൺ സബ്‌സ്‌ട്രേറ്റ്’ എന്ന് വിളിക്കപ്പെടുന്ന ഈ സാങ്കേതികവിദ്യ, മുമ്പ് അസാധ്യമായിരുന്ന വേഗതയിൽ വലിയ അളവിലുള്ള ഡാറ്റ നീക്കാൻ സഹായിക്കുന്നു. ഇതൊരു ചെറിയ മാറ്റമല്ല, മറിച്ച് കമ്പ്യൂട്ടറുകൾ നിർമ്മിക്കുന്ന രീതിയിലെ അടിസ്ഥാനപരമായ മാറ്റമാണ്. **High Bandwidth Memory** പ്രോസസിംഗ് കോറുകൾക്ക് തൊട്ടടുത്ത് വെക്കുമ്പോൾ, വലിയ ലാംഗ്വേജ് മോഡലുകളെ മന്ദഗതിയിലാക്കുന്ന ട്രാഫിക് തടസ്സങ്ങൾ ഇല്ലാതാകുന്നു. NVIDIA പോലുള്ള കമ്പനികൾ ഇത്രയധികം ആധിപത്യം പുലർത്തുന്നതിന്റെ കാരണം ഇതാണ്. അവർ വെറുമൊരു ചിപ്പ് മാത്രമല്ല വിൽക്കുന്നത്, മെമ്മറിയും ഹൈ-സ്പീഡ് ഇന്റർകണക്റ്റുകളും ഉൾപ്പെടുന്ന കൃത്യമായി സംയോജിപ്പിച്ച ഒരു പാക്കേജാണ് അവർ നൽകുന്നത്.

മെമ്മറിയിലും മാറ്റങ്ങൾ വന്നിട്ടുണ്ട്. സാധാരണ RAM-ന് ആധുനിക AI-യുടെ ആവശ്യങ്ങൾ നിറവേറ്റാൻ കഴിയില്ല. കൂടുതൽ ശേഷിയുള്ള പ്രത്യേക മെമ്മറികളിലേക്കാണ് വ്യവസായം മാറിയിരിക്കുന്നത്. ഈ മെമ്മറി നിർമ്മിക്കാൻ പ്രയാസവും ചെലവേറിയതുമാണ്, ഇത് വിതരണത്തിൽ തടസ്സങ്ങൾ സൃഷ്ടിക്കുന്നു. ഒരു കമ്പനിക്ക് ഈ പ്രത്യേക മെമ്മറി ലഭിച്ചില്ലെങ്കിൽ, അവരുടെ അത്യാധുനിക പ്രോസസറുകൾ ഉപയോഗശൂന്യമാണ്. ഹാർഡ്‌വെയർ കഥ ഇപ്പോൾ ഒരു സിസ്റ്റം കഥയാണെന്ന് ഈ ആശ്രയത്വം കാണിക്കുന്നു. രക്തം കൊണ്ടുപോകുന്ന ഞരമ്പുകളെക്കുറിച്ച് പറയാതെ തലച്ചോറിനെക്കുറിച്ച് സംസാരിക്കാൻ കഴിയില്ല. 2D-യിൽ നിന്ന് 3D ഘടനകളിലേക്കുള്ള മാറ്റം ഇന്നത്തെ വിപണിയിലെ ഏറ്റവും പ്രധാനപ്പെട്ട സാങ്കേതിക സൂചനയാണ്. പഴയ ഡിസൈനുകളിൽ മാറ്റങ്ങൾ വരുത്തുന്നവരിൽ നിന്ന് ഗൗരവമുള്ള കമ്പനികളെ ഇത് വേർതിരിക്കുന്നു. ഈ മാറ്റത്തിന് വലിയ കൃത്യതയോടെ പ്രവർത്തിക്കാൻ കഴിയുന്ന നിർമ്മാണ കേന്ദ്രങ്ങളിൽ വൻ നിക്ഷേപം ആവശ്യമാണ്. TSMC പോലുള്ള ലോകത്തിലെ ചുരുക്കം ചില കമ്പനികൾക്ക് മാത്രമേ ഇത് വലിയ തോതിൽ ചെയ്യാൻ കഴിയൂ.

AI-യുടെ ഭൗമരാഷ്ട്രീയ യാഥാർത്ഥ്യം ഈ ചിപ്പുകൾ എവിടെ നിർമ്മിക്കുന്നു എന്നതിനെ ആശ്രയിച്ചിരിക്കുന്നു. അത്യാധുനിക നിർമ്മാണത്തിന്റെ ഭൂരിഭാഗവും തായ്‌വാനിലെ ഏതാനും ചതുരശ്ര മൈലുകളിൽ കേന്ദ്രീകരിച്ചിരിക്കുന്നു. ഈ കേന്ദ്രീകരണം ആഗോള സമ്പദ്‌വ്യവസ്ഥയ്ക്ക് ഒരു വലിയ ഭീഷണിയാണ്. അവിടെ ഉത്പാദനം നിലച്ചാൽ, മുഴുവൻ ടെക് മേഖലയും സ്തംഭിക്കും. സർക്കാരുകൾ ഇപ്പോൾ സ്വന്തമായി ഫാക്ടറികൾ നിർമ്മിക്കാൻ കോടിക്കണക്കിന് ഡോളർ ചെലവഴിക്കുന്നുണ്ടെങ്കിലും, ഈ പദ്ധതികൾ പൂർത്തിയാകാൻ വർഷങ്ങളെടുക്കും. കയറ്റുമതി നിയന്ത്രണങ്ങളും ഒരു പ്രധാന ഘടകമായി മാറിയിരിക്കുന്നു. സാങ്കേതിക മേധാവിത്വം നിലനിർത്താൻ ചില രാജ്യങ്ങളിലേക്ക് ഹൈ-എൻഡ് AI ചിപ്പുകൾ വിൽക്കുന്നത് യുഎസ് സർക്കാർ നിയന്ത്രിച്ചിട്ടുണ്ട്. ഇത് കമ്പനികളെ ഈ നിയമങ്ങൾ പാലിക്കുന്ന തരത്തിൽ തങ്ങളുടെ ഹാർഡ്‌വെയറിന്റെ പ്രത്യേക പതിപ്പുകൾ രൂപകൽപ്പന ചെയ്യാൻ നിർബന്ധിതരാക്കുന്നു. ആഗോള വിപണിയുടെ ഈ വിഭജനം അർത്ഥമാക്കുന്നത്, നിങ്ങൾ എവിടെയാണ് സ്ഥിതി ചെയ്യുന്നത് എന്നതിനനുസരിച്ച് നിങ്ങൾക്ക് എന്ത് തരം AI നിർമ്മിക്കാൻ കഴിയും എന്നതാണ്. ഭൗതിക അതിരുകൾ ഡിജിറ്റൽ സാധ്യതകളെ നിർവചിക്കുന്ന ഒരു ലോകത്തേക്കുള്ള തിരിച്ചുവരവാണിത്. ഹാർഡ്‌വെയറും പ്ലാറ്റ്‌ഫോം ശക്തിയും തമ്മിലുള്ള ബന്ധം ഇപ്പോൾ ദേശീയ നയത്തിന്റെ വിഷയമാണ്. ഏറ്റവും പുതിയ സിലിക്കണിലേക്ക് പ്രവേശനം ഇല്ലാത്ത ഒരു രാജ്യത്തിന് സോഫ്റ്റ്‌വെയർ യുഗത്തിൽ മത്സരിക്കാൻ കഴിയില്ല. അസംസ്കൃത വസ്തുക്കൾ മുതൽ പൂർത്തിയായ സിസ്റ്റങ്ങൾ വരെ സപ്ലൈ ചെയിൻ നിയന്ത്രിക്കാൻ ഇത്രയധികം ആക്രമണാത്മകമായ നീക്കങ്ങൾ കാണുന്നതിന്റെ കാരണം ഇതാണ്.

ഒരു ഡെവലപ്പർക്കോ ചെറുകിട ബിസിനസ്സിനോ, ഈ ഹാർഡ്‌വെയർ മാറ്റങ്ങൾ പെട്ടെന്നുള്ള പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കുന്നു. സാറ എന്ന ഒരു ക്രിയേറ്ററെ സങ്കൽപ്പിക്കുക. ഒരു വർഷം മുമ്പ്, അവൾ തന്റെ AI ടൂളുകൾ പ്രവർത്തിപ്പിക്കാൻ പൂർണ്ണമായും ക്ലൗഡ് പ്രൊവൈഡർമാരെയാണ് ആശ്രയിച്ചിരുന്നത്. അവൾ വലിയ പ്രതിമാസ ഫീസ് നൽകുകയും തന്റെ ഡാറ്റ പരിശീലനത്തിനായി ഉപയോഗിക്കപ്പെടുമോ എന്ന് ആശങ്കപ്പെടുകയും ചെയ്തിരുന്നു. ഇന്ന്, കൂടുതൽ കാര്യക്ഷമമായ ചിപ്പ് ഡിസൈനുകൾക്കും മികച്ച ലോക്കൽ മെമ്മറി സംയോജനത്തിനും നന്ദി, അവൾക്ക് ഒരു വർക്ക്സ്റ്റേഷനിൽ തന്നെ ശക്തമായ ഒരു മോഡൽ പ്രവർത്തിപ്പിക്കാൻ കഴിയും. കാപ്പി കുടിക്കുമ്പോൾ തന്നെ അവളുടെ ലോക്കൽ മെഷീൻ ഹൈ-റെസല്യൂഷൻ അസറ്റുകൾ നിർമ്മിക്കുന്നു. മറ്റൊരു സംസ്ഥാനത്തുള്ള സെർവർ പ്രതികരിക്കുന്നതിനായി അവൾക്ക് കാത്തിരിക്കേണ്ടതില്ല. ഹാർഡ്‌വെയർ കൂടുതൽ കാര്യക്ഷമമായതുകൊണ്ട്, അവളുടെ ഓഫീസ് അമിതമായി ചൂടാകുന്നില്ല, വൈദ്യുതി ബില്ലും നിയന്ത്രണവിധേയമാണ്. ലോക്കൽ കമ്പ്യൂട്ടിലേക്കുള്ള ഈ മാറ്റം മികച്ച ചിപ്പ് പാക്കേജിംഗിന്റെയും മെമ്മറി മാനേജ്‌മെന്റിന്റെയും നേരിട്ടുള്ള ഫലമാണ്. ഇത് ക്രിയേറ്റർമാർക്ക് കൂടുതൽ സ്വയംഭരണവും മികച്ച സ്വകാര്യതയും നൽകുന്നു. എന്നിരുന്നാലും, ഇത് ഒരു വിഭജനം സൃഷ്ടിക്കുന്നു. ഏറ്റവും പുതിയ ഹാർഡ്‌വെയർ വാങ്ങാൻ കഴിയുന്നവർക്ക് പഴയ സിസ്റ്റങ്ങളിൽ കുടുങ്ങിക്കിടക്കുന്നവരേക്കാൾ വലിയ ഉൽപ്പാദനക്ഷമതയുണ്ട്.

ഈ സ്വാധീനം കമ്പനികളുടെ ബജറ്റ് ആസൂത്രണത്തെയും ബാധിക്കുന്നു. ഒരു ഇടത്തരം സ്ഥാപനത്തിന് വലിയ ക്ലൗഡ് കരാറും സ്വന്തം ഹാർഡ്‌വെയർ ക്ലസ്റ്ററിൽ നിക്ഷേപിക്കുന്നതും തമ്മിൽ തിരഞ്ഞെടുക്കേണ്ടി വരാം. ഈ തീരുമാനം ഇപ്പോൾ ചെലവിനെക്കുറിച്ച് മാത്രമല്ല. അത് നിയന്ത്രണത്തെക്കുറിച്ചാണ്. നിങ്ങൾ ഹാർഡ്‌വെയർ സ്വന്തമാക്കുമ്പോൾ, നിങ്ങൾ സ്റ്റാക്ക് സ്വന്തമാക്കുന്നു. ഒരു വലിയ ടെക് പ്രൊവൈഡറുടെ API പരിധികൾക്കോ മാറിക്കൊണ്ടിരിക്കുന്ന സേവന നിബന്ധനകൾക്കോ നിങ്ങൾ വിധേയരല്ല. നിങ്ങളുടെ ഹാർഡ്‌വെയറിൽ പ്രവർത്തിക്കാൻ സോഫ്റ്റ്‌വെയറിനെ ഒപ്റ്റിമൈസ് ചെയ്യാനും മികച്ച പ്രകടനം പുറത്തെടുക്കാനും നിങ്ങൾക്ക് കഴിയും. ചിപ്പ് മാറ്റത്തിന്റെ പ്രായോഗിക വശമാണിത്. ഇത് AI-യെ ഒരു ദൂരെയുള്ള സേവനത്തിൽ നിന്ന് ലോക്കൽ യൂട്ടിലിറ്റിയാക്കി മാറ്റുന്നു. എന്നാൽ ഈ യൂട്ടിലിറ്റിക്ക് പ്രത്യേക അറിവ് ആവശ്യമാണ്. ഹൈ-പെർഫോമൻസ് ചിപ്പുകളുടെ ഒരു ക്ലസ്റ്റർ കൈകാര്യം ചെയ്യുന്നത് പരമ്പരാഗത സെർവർ റൂം കൈകാര്യം ചെയ്യുന്നതുപോലെയല്ല. സങ്കീർണ്ണമായ നെറ്റ്‌വർക്കിംഗ് പ്രോട്ടോക്കോളുകളും ലിക്വിഡ് കൂളിംഗ് സിസ്റ്റങ്ങളും നിങ്ങൾ കൈകാര്യം ചെയ്യേണ്ടതുണ്ട്. സോഫ്റ്റ്‌വെയർ ടീമുകൾക്കിടയിൽ ഹാർഡ്‌വെയർ സാക്ഷരതയ്ക്കുള്ള പുതിയ ആവശ്യകതയാണ് ഇതിന്റെ യഥാർത്ഥ ലോക ഫലം. കമ്പ്യൂട്ടിംഗിന്റെ ആദ്യകാലത്തിന് ശേഷം ഈ രണ്ട് മേഖലകളും ഇത്രയധികം ഒന്നിക്കുന്ന കാലം ഉണ്ടായിട്ടില്ല.

• വലിയ മോഡലുകളുടെ ലോക്കൽ എക്സിക്യൂഷൻ തത്സമയ ആപ്ലിക്കേഷനുകൾക്കായുള്ള ലേറ്റൻസി കുറയ്ക്കുന്നു.
• അഡ്വാൻസ്ഡ് കൂളിംഗ് ആവശ്യകതകൾ ആധുനിക ഡാറ്റാ സെന്ററുകളുടെ ഭൗതിക ലേഔട്ടിനെ മാറ്റുന്നു.
• ഹാർഡ്‌വെയർ തലത്തിലുള്ള എൻക്രിപ്ഷൻ സെൻസിറ്റീവ് ഡാറ്റയ്ക്ക് പുതിയ സുരക്ഷാ പാളി നൽകുന്നു.
• പ്രൊപ്രൈറ്ററി ഇന്റർകണക്റ്റുകൾ കമ്പനികളെ ഒരൊറ്റ ഹാർഡ്‌വെയർ ഇക്കോസിസ്റ്റത്തിൽ തുടരാൻ നിർബന്ധിതരാക്കുന്നു.
• മൊബൈൽ AI പ്രകടനത്തിന് ഊർജ്ജ കാര്യക്ഷമത പ്രധാന അളവുകോലായി മാറുന്നു.

ഈ ഹാർഡ്‌വെയർ ഭ്രമത്തിന്റെ മറഞ്ഞിരിക്കുന്ന ചെലവുകൾ എന്താണെന്ന് നമ്മൾ ചോദിക്കേണ്ടതുണ്ട്. കൂടുതൽ ശക്തിക്കായി നമ്മൾ പരിശ്രമിക്കുമ്പോൾ, ഈ സങ്കീർണ്ണമായ സിസ്റ്റങ്ങൾ നിർമ്മിക്കുന്നതിന്റെ പാരിസ്ഥിതിക ആഘാതം നമ്മൾ അവഗണിക്കുകയാണോ? ഒരു ആധുനിക ഫാബ് പ്രവർത്തിപ്പിക്കാൻ ആവശ്യമായ വെള്ളവും ഊർജ്ജവും അമ്പരപ്പിക്കുന്നതാണ്. ഹാർഡ്‌വെയർ തലത്തിലുള്ള സ്വകാര്യതയെക്കുറിച്ചുള്ള ചോദ്യവുമുണ്ട്. സിലിക്കണിൽ തന്നെ ടെലിമെട്രി ഉണ്ടെങ്കിൽ, നമ്മുടെ ഡാറ്റ സ്വകാര്യമാണെന്ന് നമുക്ക് ഉറപ്പിച്ചു പറയാൻ കഴിയുമോ? കൂടുതൽ കമ്പ്യൂട്ട് എപ്പോഴും മികച്ചതാണെന്ന് നമ്മൾ കരുതുന്നു, എന്നാൽ നമ്മൾ പരിഹരിക്കുന്ന പ്രശ്നങ്ങൾക്ക് ഇത്രയും പവർ ആവശ്യമുണ്ടോ എന്ന് നമ്മൾ അപൂർവ്വമായി മാത്രമേ ചോദിക്കാറുള്ളൂ. ഏറ്റവും സമ്പന്നരായ രാജ്യങ്ങൾക്കും കമ്പനികൾക്കും മാത്രം ജീവിക്കാൻ കഴിയുന്ന ഒരു ഡിജിറ്റൽ ലോകമാണോ നമ്മൾ നിർമ്മിക്കുന്നത്? നിർമ്മാണ ശക്തിയുടെ കേന്ദ്രീകരണം ഒരു അപകടസാധ്യതയാണ്, അത് വേഗത്തിലുള്ള ടോക്കണുകൾക്ക് വേണ്ടിയുള്ള തിരക്കിൽ നമ്മൾ അവഗണിക്കുന്നു. നമ്മൾ ഒരു ഹാർഡ്‌വെയർ മോണോകൾച്ചർ സൃഷ്ടിക്കുകയാണോ എന്ന് ചിന്തിക്കണം. ഹാർഡ്‌വെയർ ആണ് വിധി എന്നത് ഇന്നത്തെ ടെക് ലോകത്തെ യാഥാർത്ഥ്യമാണ്, എന്നാൽ ആ വിധി എഴുതുന്നത് വളരെ ചെറിയൊരു കൂട്ടം ആളുകളാണ്.

പ്രകടനവും സുതാര്യതയും തമ്മിലുള്ള വിട്ടുവീഴ്ച നമ്മൾ തയ്യാറാണോ എന്ന് നമ്മൾ സ്വയം ചോദിക്കേണ്ടതുണ്ട്. ക്ലോസ്ഡ് ഹാർഡ്‌വെയർ ഇക്കോസിസ്റ്റങ്ങളിലേക്കുള്ള നിലവിലെ പ്രവണത, ഈ സിസ്റ്റങ്ങൾ എങ്ങനെ പ്രവർത്തിക്കുന്നുവെന്ന് പരിശോധിക്കാൻ സ്വതന്ത്ര ഗവേഷകർക്ക് കൂടുതൽ ബുദ്ധിമുട്ടുണ്ടാക്കുന്നു.

പവർ യൂസർമാർക്ക്, സാങ്കേതിക വിശദാംശങ്ങളിലാണ് യഥാർത്ഥ കഥയുള്ളത്. CUDA അല്ലെങ്കിൽ ROCm പോലുള്ള പ്രത്യേക ലൈബ്രറികളിലൂടെയാണ് സോഫ്റ്റ്‌വെയറിന്റെയും ഹാർഡ്‌വെയറിന്റെയും സംയോജനം നടക്കുന്നത്. ഇവ വെറും ഡ്രൈവറുകളല്ല; ചിപ്പിലെ ആയിരക്കണക്കിന് ചെറിയ കോറുകളോട് സംസാരിക്കാൻ കോഡിനെ അനുവദിക്കുന്ന പാലമാണിത്. പല വർക്ക്ഫ്ലോകൾക്കും ക്ലൗഡ് പ്രൊവൈഡർമാർ ഏർപ്പെടുത്തിയ API പരിധിയാണ് നിലവിലെ തടസ്സം. ലോക്കൽ ഹാർഡ്‌വെയറിലേക്ക് മാറുന്നതിലൂടെ, ഉപയോക്താക്കൾക്ക് ഈ പരിധികൾ മറികടക്കാൻ കഴിയും, എന്നാൽ ലോക്കൽ സ്റ്റോറേജിന്റെയും മെമ്മറി ബാൻഡ്‌വിഡ്ത്തിന്റെയും പരിമിതികൾ അവർ നേരിടേണ്ടി വരും. NVLink പോലുള്ള ഇന്റർകണക്റ്റ് വേഗത, ഒന്നിലധികം ചിപ്പുകൾക്ക് ഒരൊറ്റ യൂണിറ്റായി എത്ര നന്നായി പ്രവർത്തിക്കാൻ കഴിയുമെന്ന് നിർണ്ണയിക്കുന്നു. ഇന്റർകണക്റ്റ് മന്ദഗതിയിലാണെങ്കിൽ, കൂടുതൽ ചിപ്പുകൾ ചേർക്കുന്നത് പ്രയോജനം കുറയ്ക്കും. അതുകൊണ്ടാണ് ഏറ്റവും പുതിയ AI ഹാർഡ്‌വെയർ ട്രെൻഡുകൾ പ്രോസസ്സിംഗിനൊപ്പം നെറ്റ്‌വർക്കിംഗിലും ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്. തെർമൽ ഡിസൈൻ പവറും നിങ്ങൾ പരിഗണിക്കണം. അമിതമായി ചൂടാകുന്ന ഒരു ചിപ്പ് അതിന്റെ പ്രകടനം കുറയ്ക്കും, ഇത് അതിന്റെ സൈദ്ധാന്തിക പീക്ക് വേഗതയെ അപ്രസക്തമാക്കുന്നു. ലോക്കൽ സ്റ്റോറേജ് വേഗതയും പ്രധാനമാണ്, കാരണം സ്റ്റാർട്ടപ്പ് കാലതാമസം ഒഴിവാക്കാൻ മോഡൽ വെയ്റ്റുകൾ വേഗത്തിൽ മെമ്മറിയിലേക്ക് ലോഡ് ചെയ്യണം. വിപണിയിലെ ഗീക്ക് വിഭാഗം ലളിതമായ ബെഞ്ച്മാർക്കുകളിൽ നിന്ന് മാറി സിസ്റ്റം-വൈഡ് ത്രൂപുട്ട് മെട്രിക്സുകളിലേക്ക് നീങ്ങുകയാണ്.

• ഹൈ-എൻഡ് ക്ലസ്റ്ററുകളിൽ ഇന്റർകണക്റ്റ് ബാൻഡ്‌വിഡ്ത്ത് ഇപ്പോൾ സെക്കൻഡിൽ പല ടെറാബൈറ്റുകളിൽ കവിയുന്നു.
• ക്വാണ്ടൈസേഷൻ സാങ്കേതികവിദ്യകൾ വലിയ മോഡലുകളെ ചെറിയ മെമ്മറിയിൽ ഉൾക്കൊള്ളാൻ അനുവദിക്കുന്നു.
• യൂണിഫൈഡ് മെമ്മറി ആർക്കിടെക്ചറുകൾ CPU-വിനെയും GPU-വിനെയും ഒരേ ഡാറ്റാ പൂൾ പങ്കിടാൻ അനുവദിക്കുന്നു.
• പ്രത്യേക ഗണിത പ്രവർത്തനങ്ങൾക്കായുള്ള ഹാർഡ്‌വെയർ ആക്സിലറേറ്ററുകൾ കൺസ്യൂമർ CPU-കളിൽ സാധാരണമായി മാറുന്നു.
• ലോക്കൽ API എൻഡ്‌പോയിന്റുകൾ വ്യത്യസ്ത സോഫ്റ്റ്‌വെയർ ടൂളുകൾക്കിടയിൽ തടസ്സമില്ലാത്ത സംയോജനം അനുവദിക്കുന്നു.

അടുത്ത വർഷം അർത്ഥവത്തായ പുരോഗതി ഉയർന്ന ക്ലോക്ക് സ്പീഡുകൾ കൊണ്ട് അളക്കപ്പെടില്ല. പകരം, ഊർജ്ജ കാര്യക്ഷമതയിലെ മെച്ചപ്പെടുത്തലുകളും അഡ്വാൻസ്ഡ് പാക്കേജിംഗിന്റെ ജനാധിപത്യവൽക്കരണവുമാണ് നമ്മൾ നോക്കേണ്ടത്. കൂടുതൽ ഓപ്പൺ ഇന്റർകണക്റ്റ് സ്റ്റാൻഡേർഡുകളിലേക്കുള്ള മാറ്റം കണ്ടാൽ, അതൊരു വലിയ സൂചനയായിരിക്കും. ഉപയോക്താക്കൾ ഇനി ഒരൊറ്റ വെണ്ടർ സ്റ്റാക്കിൽ കുടുങ്ങിക്കിടക്കില്ല എന്നാണ് അതിനർത്ഥം. ഡാറ്റ നീക്കാൻ ആവശ്യമായ ഊർജ്ജം കുറയ്ക്കുന്ന ഓൺ-ചിപ്പ് നെറ്റ്‌വർക്കിംഗിലെ സംഭവവികാസങ്ങളും നമ്മൾ ശ്രദ്ധിക്കണം. ഹൈ-പെർഫോമൻസ് AI വെറും ഒരു ശതമാനം കമ്പനികൾക്ക് മാത്രമല്ല, കൂടുതൽ ആളുകൾക്ക് ലഭ്യമായാൽ മാത്രമേ അത് യഥാർത്ഥ വിജയമാകൂ. പ്രായോഗികമായ കാര്യങ്ങൾ വളരെ വലുതാണ്. ഡിജിറ്റൽ ഇടത്തിൽ നമ്മൾ നിർമ്മിക്കുന്ന എല്ലാത്തിന്റെയും അടിത്തറ ഹാർഡ്‌വെയറാണ്. ആ അടിത്തറ കേന്ദ്രീകൃതവും ചെലവേറിയതും സുതാര്യമല്ലാത്തതുമാണെങ്കിൽ, സാങ്കേതികവിദ്യയുടെ ഭാവിയും അങ്ങനെ തന്നെയായിരിക്കും. സിലിക്കണിന്റെ ശക്തി വിപണിയിൽ കൂടുതൽ ശബ്ദമുണ്ടാക്കാൻ മാത്രമല്ല, എല്ലാവർക്കും വേണ്ടി യഥാർത്ഥ പ്രശ്നങ്ങൾ പരിഹരിക്കാൻ ഉപയോഗിക്കുന്ന ഒരു ലോകത്തേക്ക് നമ്മൾ നീങ്ങേണ്ടതുണ്ട്. മാറ്റം ഇപ്പോൾ സംഭവിക്കുന്നു, അതിന്റെ പ്രത്യാഘാതങ്ങൾ പതിറ്റാണ്ടുകളോളം അനുഭവപ്പെടും.

Бележка на редактора: Създадохме този сайт като многоезичен център за новини и ръководства за изкуствен интелект за хора, които не са компютърни маниаци, но все пак искат да разберат изкуствения интелект, да го използват с повече увереност и да следят бъдещето, което вече настъпва.

ഒരു പിശകോ തിരുത്തേണ്ട എന്തെങ്കിലും കണ്ടെത്തിയോ? ഞങ്ങളെ അറിയിക്കുക.