AI चिप्समधील पुढची मोठी क्रांती: वेग, आकार की कार्यक्षमता?

AI चा वेग वाढवण्याची शर्यत आता साध्या क्लॉक स्पीडवरून सिस्टम आर्किटेक्चरच्या गुंतागुंतीच्या लढाईकडे वळली आहे. सिलिकॉनच्या तुकड्यावर फक्त जास्त ट्रान्झिस्टर्स बसवणे आता पुरेसे नाही. उद्योग अशा टप्प्यावर पोहोचला आहे जिथे प्रोसेसर आणि मेमरीमधील डेटा ट्रान्सफरचा वेग प्रोसेसरच्या स्वतःच्या वेगापेक्षा जास्त महत्त्वाचा ठरत आहे. हा बदल हार्डवेअरच्या सध्याच्या युगाची व्याख्या करतो. एकेकाळी फक्त चिप डिझाइनवर लक्ष केंद्रित करणाऱ्या कंपन्या आता स्वतःला जागतिक पुरवठा साखळी आणि प्रगत पॅकेजिंग तंत्रज्ञानाचे व्यवस्थापन करताना पाहत आहेत. हा बदल आता अशा सर्वसमावेशक सिस्टम्सकडे आहे जिथे नेटवर्किंग आणि मेमरी हे लॉजिक गेट्सइतकेच महत्त्वाचे आहेत. या उत्क्रांतीमुळे सॉफ्टवेअर कसे लिहिले जाते आणि सरकारे राष्ट्रीय सुरेकडे कसे पाहतात, हे बदलले आहे. जर तुम्हाला तंत्रज्ञानाचे भविष्य समजून घ्यायचे असेल, तर चिप्सपेक्षा त्यांमधील कनेक्शनकडे लक्ष द्या. प्लॅटफॉर्मची ताकद आता या विखुरलेल्या भागांना एकात्मिक युनिटमध्ये जोडण्याच्या क्षमतेवर अवलंबून आहे. जे लोक हार्डवेअरच्या भौतिक मर्यादांकडे दुर्लक्ष करतील, त्यांचे सॉफ्टवेअर स्वप्न लॅटन्सी आणि उष्णतेमुळे रखडलेले दिसेल.

मेमरीची भिंत तोडण्यासाठी सिलिकॉन स्टॅकिंग

सध्याचा बदल समजून घेण्यासाठी, चिप्स प्रत्यक्षात कशा बनवल्या जातात हे पाहणे आवश्यक आहे. अनेक दशकांपासून, उद्योग फ्लॅट डिझाइनचे पालन करत होता. तुमच्याकडे एक प्रोसेसर आणि मेमरी होती, जी सर्किट बोर्डवर एकमेकांपासून लांब असायची. आज, हे अंतर कामगिरीचा मुख्य शत्रू आहे. हे सोडवण्यासाठी, उत्पादक प्रगत पॅकेजिंगकडे वळत आहेत. यामध्ये घटक एकमेकांच्या वर किंवा ‘इंटरपोझर’ नावाच्या विशेष बेसवर बाजूला ठेवले जातात. या तंत्राला, ज्याला अनेकदा ‘चिप ऑन वेफर ऑन सबस्ट्रेट’ म्हटले जाते, यामुळे प्रचंड डेटा अशा वेगाने हलवता येतो जो पूर्वी अशक्य होता. हा केवळ एक छोटा सुधार नाही, तर संगणक बनवण्याच्या पद्धतीत झालेला हा एक मूलभूत बदल आहे. जेव्हा तुम्ही **High Bandwidth Memory** थेट प्रोसेसिंग कोअर्सच्या शेजारी ठेवता, तेव्हा तुम्ही मोठ्या लँग्वेज मॉडेल्सचा वेग कमी करणारे ट्रॅफिक जॅम दूर करता. म्हणूनच NVIDIA सारख्या कंपन्या इतक्या प्रभावी आहेत. ते फक्त चिप विकत नाहीत, तर ते मेमरी आणि हाय-स्पीड इंटरकनेक्ट्ससह एक घट्ट जोडलेले पॅकेज विकतात.

मेमरी स्वतः देखील बदलली आहे. स्टँडर्ड RAM आधुनिक AI च्या मागण्या पूर्ण करू शकत नाही. उद्योग आता अशा विशेष मेमरीकडे वळला आहे जी खूप जास्त थ्रूपुट देते. ही मेमरी महाग आणि बनवायला कठीण आहे, ज्यामुळे पुरवठ्यात अडथळा निर्माण होतो. जर एखादी कंपनी ही विशेष मेमरी मिळवू शकली नाही, तर त्यांचे प्रगत प्रोसेसर निरुपयोगी ठरतात. हे अवलंबित्व दर्शवते की हार्डवेअरची गोष्ट आता सिस्टमची गोष्ट आहे. रक्ताभिसरण करणाऱ्या नसांशिवाय तुम्ही मेंदूबद्दल बोलू शकत नाही. 2D कडून 3D स्ट्रक्चर्सकडे होणारा हा बदल बाजारातील आजचा सर्वात महत्त्वाचा तांत्रिक संकेत आहे. हे गंभीर खेळाडूंना जुन्या डिझाइन्सवर काम करणाऱ्यांपासून वेगळे करते. या संक्रमणासाठी अशा उत्पादन सुविधांमध्ये प्रचंड गुंतवणुकीची आवश्यकता आहे ज्या इतकी अचूकता हाताळू शकतात. जगातील फक्त काही कंपन्या, जसे की TSMC, हे मोठ्या प्रमाणावर करू शकतात.

AI ची भू-राजकीय वास्तविकता या चिप्स कुठे बनवल्या जातात यावर अवलंबून आहे. बहुतेक प्रगत उत्पादन तैवानमधील काही चौरस मैलांमध्ये केंद्रित आहे. हे केंद्रीकरण जागतिक अर्थव्यवस्थेसाठी अपयशाचा एकच बिंदू निर्माण करते. जर तिथे उत्पादन थांबले, तर संपूर्ण टेक क्षेत्र ठप्प होईल. सरकारे आता देशांतर्गत कारखाने उभारण्यासाठी अब्जावधी डॉलर्स खर्च करत आहेत, परंतु हे प्रकल्प पूर्ण होण्यासाठी वर्षे लागतात. निर्यात नियंत्रणे देखील एक मोठा घटक बनली आहेत. अमेरिकन सरकारने तांत्रिक आघाडी राखण्यासाठी काही देशांना हाय-एंड AI चिप्सच्या विक्रीवर निर्बंध घातले आहेत. यामुळे कंपन्यांना त्यांच्या हार्डवेअरच्या विशिष्ट आवृत्त्या डिझाइन करण्यास भाग पाडले आहे ज्या या नियमांचे पालन करतात. जागतिक बाजाराचे हे तुकडे होणे म्हणजे तुम्ही कुठे आहात हे ठरवते की तुम्ही कोणत्या प्रकारचे AI बनवू शकता. हे अशा जगाकडे परतणे आहे जिथे भौतिक सीमा डिजिटल शक्यता ठरवतात. हार्डवेअर आणि प्लॅटफॉर्म पॉवरमधील दुवा आता राष्ट्रीय धोरणाचा विषय आहे. ज्या देशाकडे नवीनतम सिलिकॉनचा प्रवेश नाही, तो सॉफ्टवेअर युगात स्पर्धा करू शकत नाही. म्हणूनच आपण कच्च्या मालापासून तयार सिस्टमपर्यंत पुरवठा साखळीवर नियंत्रण मिळवण्यासाठी इतकी आक्रमक पावले उचलताना पाहत आहोत.

डेव्हलपर किंवा छोट्या व्यवसायासाठी, या हार्डवेअर बदलांचे त्वरित परिणाम होतात. सारा नावाच्या एका निर्मात्याचा विचार करा जिचे एक छोटे स्टुडिओ आहे. एका वर्षापूर्वी, ती तिची AI टूल्स चालवण्यासाठी पूर्णपणे क्लाउड प्रोव्हायडर्सवर अवलंबून होती. ती दरमहा मोठी फी भरायची आणि तिचा डेटा ट्रेनिंगसाठी वापरला जाण्याची तिला काळजी वाटायची. आज, अधिक कार्यक्षम चिप डिझाइन्स आणि चांगल्या लोकल मेमरी इंटिग्रेशनमुळे, ती एकाच वर्कस्टेशनवर एक शक्तिशाली मॉडेल चालवू शकते. तिचा दिवस तिच्या लोकल मशीनवर हाय-रिझोल्यूशन ॲसेट्स तयार करून सुरू होतो, तर ती कॉफी पिते. तिला दुसऱ्या राज्यातील सर्व्हरच्या प्रतिसादाची वाट पाहावी लागत नाही. हार्डवेअर अधिक कार्यक्षम असल्याने, तिचे ऑफिस गरम होत नाही आणि तिचे विजेचे बिलही नियंत्रणात राहते. लोकल कॉम्प्युटकडे होणारा हा बदल चांगल्या चिप पॅकेजिंग आणि मेमरी मॅनेजमेंटचा थेट परिणाम आहे. हे निर्मात्यांना अधिक स्वायत्तता आणि चांगली प्रायव्हसी देते. तथापि, यामुळे एक दरी देखील निर्माण होते. ज्यांच्याकडे नवीनतम हार्डवेअर घेण्याची क्षमता आहे, त्यांना जुन्या सिस्टमवर अडकलेल्या लोकांच्या तुलनेत उत्पादकतेचा मोठा फायदा मिळतो.

याचा परिणाम कंपन्यांच्या बजेट नियोजनावरही होतो. एका मध्यम आकाराच्या फर्मला मोठ्या क्लाउड कॉन्ट्रॅक्ट किंवा स्वतःच्या हार्डवेअर क्लस्टरमध्ये गुंतवणूक करणे यापैकी एक निवडावे लागू शकते. हा निर्णय आता फक्त खर्चाबद्दल नाही, तर तो नियंत्रणाबद्दल आहे. जेव्हा तुम्ही हार्डवेअरचे मालक असता, तेव्हा तुम्ही संपूर्ण स्टॅकचे मालक असता. तुम्ही मोठ्या टेक प्रोव्हायडरच्या API मर्यादा किंवा बदलत्या अटींच्या अधीन नसता. तुम्ही तुमचे सॉफ्टवेअर विशेषतः तुमच्या हार्डवेअरवर चालण्यासाठी ऑप्टिमाइझ करू शकता, ज्यामुळे कामगिरीचा प्रत्येक अंश बाहेर काढता येतो. ही चिप शिफ्टची व्यावहारिक बाजू आहे. हे AI ला एका दूरच्या सेवेवरून लोकल युटिलिटीमध्ये बदलते. पण या युटिलिटीसाठी विशेष ज्ञानाची आवश्यकता असते. हाय-परफॉर्मन्स चिप्सच्या क्लस्टरचे व्यवस्थापन करणे हे पारंपारिक सर्व्हर रूम व्यवस्थापित करण्यासारखे नाही. तुम्हाला गुंतागुंतीच्या नेटवर्किंग प्रोटोकॉल आणि लिक्विड कूलिंग सिस्टमशी व्यवहार करावा लागतो. वास्तविक जगातील परिणाम म्हणजे सॉफ्टवेअर टीम्समध्ये हार्डवेअर साक्षरतेची नवीन मागणी. हे दोन क्षेत्र संगणकाच्या सुरुवातीच्या दिवसांनंतर कधीही न पाहिलेल्या पद्धतीने एकत्र येत आहेत.

• मोठ्या मॉडेल्सचे लोकल एक्झिक्युशन रिअल-टाइम ॲप्लिकेशन्ससाठी लॅटन्सी कमी करते.
• प्रगत कूलिंग गरजा आधुनिक डेटा सेंटर्सचे भौतिक लेआउट बदलतात.
• हार्डवेअर-लेव्हल एन्क्रिप्शन संवेदनशील डेटासाठी सुरक्षेचा एक नवीन स्तर प्रदान करते.
• मालकीचे इंटरकनेक्ट्स कंपन्यांना एकाच हार्डवेअर इकोसिस्टममध्ये राहण्यास भाग पाडतात.
• मोबाईल AI कामगिरीसाठी ऊर्जा कार्यक्षमता हे प्राथमिक मेट्रिक बनते.

आपल्याला स्वतःला विचारले पाहिजे की या हार्डवेअर वेडाची छुपी किंमत काय आहे. जसे आपण अधिक शक्तीसाठी प्रयत्न करत आहोत, तसे आपण या जटिल सिस्टम्स बनवण्याच्या पर्यावरणीय परिणामांकडे दुर्लक्ष करत आहोत का? आधुनिक फॅब चालवण्यासाठी लागणारे पाणी आणि ऊर्जा थक्क करणारी आहे. हार्डवेअर स्तरावर प्रायव्हसीचाही प्रश्न आहे. जर सिलिकॉनमध्येच टेलिमेट्री असेल, तर आपला डेटा खाजगी आहे याची आपण खात्री बाळगू शकतो का? आपण अनेकदा गृहीत धरतो की अधिक कॉम्प्युट नेहमीच चांगले असते, परंतु आपण क्वचितच विचारतो की आपण सोडवत असलेल्या समस्यांना खरोखर इतक्या शक्तीची गरज आहे का. आपण असे डिजिटल जग बनवत आहोत का जिथे फक्त सर्वात श्रीमंत देश आणि कंपन्या राहू शकतात? उत्पादक शक्तीचे काही हातांमध्ये केंद्रीकरण होणे हा एक धोका आहे ज्याकडे आपण वेगाने टोकन्स प्रति सेकंद मिळवण्याच्या घाईत दुर्लक्ष करत आहोत. आपण विचार केला पाहिजे की आपण हार्डवेअर मोनोकल्चर तयार करत आहोत का जे सिस्टिमॅटिक अपयशासाठी असुरक्षित आहे. हार्डवेअर हेच नशीब आहे सध्याच्या टेक वातावरणात, परंतु ते नशीब लोकांच्या एका खूप लहान गटाद्वारे लिहिले जात आहे.

आपल्याला प्रश्न विचारण्याची गरज आहे की कामगिरी आणि पारदर्शकता यांच्यातील तडजोड आपण करण्यास तयार आहोत का. बंद हार्डवेअर इकोसिस्टमकडे जाणारा सध्याचा कल स्वतंत्र संशोधकांसाठी या सिस्टम्स खरोखर कशा काम करतात हे पडताळणे कठीण बनवत आहे.

पॉवर युजर्ससाठी, तांत्रिक तपशील हीच खरी गोष्ट आहे. सॉफ्टवेअर आणि हार्डवेअरचे एकत्रीकरण CUDA किंवा ROCm सारख्या विशेष लायब्ररीद्वारे होत आहे. हे फक्त ड्रायव्हर्स नाहीत; ते एक पूल आहेत जो कोडला चिपवरील हजारो लहान कोअर्सशी बोलण्याची परवानगी देतो. अनेक वर्कफ्लोसाठी सध्याचा अडथळा क्लाउड प्रोव्हायडर्सनी लादलेली API मर्यादा आहे. लोकल हार्डवेअरवर हलवून, वापरकर्ते या मर्यादा ओलांडू शकतात, परंतु त्यांना लोकल स्टोरेज आणि मेमरी बँडविड्थच्या मर्यादांशी व्यवहार करावा लागेल. इंटरकनेक्ट वेग, जसे की NVLink, हे ठरवतो की अनेक चिप्स एका युनिट म्हणून किती चांगल्या प्रकारे काम करू शकतात. जर इंटरकनेक्ट मंद असेल, तर अधिक चिप्स जोडल्याने तुम्हाला कमी फायदा मिळतो. म्हणूनच नवीनतम AI हार्डवेअर ट्रेंड्स नेटवर्किंगवर तितकेच लक्ष केंद्रित करत आहेत जितके प्रोसेसिंगवर. तुम्हाला थर्मल डिझाइन पॉवरचाही विचार करावा लागेल. जी चिप खूप गरम चालते ती स्वतःची कामगिरी मर्यादित करेल, ज्यामुळे तिचा सैद्धांतिक पीक वेग निरर्थक होईल. लोकल स्टोरेजचा वेग देखील महत्त्वाचा आहे, कारण स्टार्टअप विलंब टाळण्यासाठी मॉडेल वेट्स मेमरीमध्ये वेगाने लोड करणे आवश्यक आहे. बाजाराचा ‘गीक’ विभाग साध्या बेंचमार्कपासून दूर जाऊन सिस्टम-व्यापी थ्रूपुट मेट्रिक्सकडे वळत आहे.

• हाय-एंड क्लस्टर्समध्ये इंटरकनेक्ट बँडविड्थ आता प्रति सेकंद अनेक टेराबाइट्सपेक्षा जास्त आहे.
• क्वांटायझेशन तंत्र मोठ्या मॉडेल्सना लहान मेमरी फूटप्रिंटमध्ये बसवण्यास परवानगी देतात.
• युनिफाइड मेमरी आर्किटेक्चर CPU आणि GPU ला डेटाचा समान पूल शेअर करण्यास परवानगी देतात.
• विशिष्ट गणिती ऑपरेशन्ससाठी हार्डवेअर ॲक्सिलरेटर्स ग्राहक CPU मध्ये मानक बनत आहेत.
• लोकल API एंडपॉइंट्स विविध सॉफ्टवेअर टूल्समध्ये अखंड एकत्रीकरणास परवानगी देतात.

पुढील वर्षात अर्थपूर्ण प्रगती उच्च क्लॉक स्पीडने मोजली जाणार नाही. त्याऐवजी, आपण ऊर्जा कार्यक्षमता आणि प्रगत पॅकेजिंगच्या लोकशाहीकरणात सुधारणा शोधल्या पाहिजेत. जर आपण अधिक खुल्या इंटरकनेक्ट मानकांकडे वाटचाल पाहिली, तर तो एक महत्त्वाचा संकेत असेल. याचा अर्थ असा होईल की वापरकर्ते आता एकाच व्हेंडर स्टॅकवर अडकलेले नाहीत. आपण ऑन-चिप नेटवर्किंगमधील घडामोडींकडेही लक्ष दिले पाहिजे जे डेटा हलवण्यासाठी लागणारी ऊर्जा कमी करतात. खरी यश तेव्हाच मिळेल जेव्हा हाय-परफॉर्मन्स AI केवळ पहिल्या एक टक्के कंपन्यांच्या पलीकडे सर्वांसाठी उपलब्ध होईल. व्यावहारिक वाटा खूप जास्त आहेत. आपण डिजिटल स्पेसमध्ये जे काही बनवतो त्याचा पाया हार्डवेअर आहे. जर तो पाया केंद्रित, महाग आणि अपारदर्शक असेल, तर तंत्रज्ञानाचे भविष्यही तसेच असेल. आपल्याला अशा जगाकडे वळण्याची गरज आहे जिथे सिलिकॉनची शक्ती केवळ बाजारात अधिक गोंधळ निर्माण करण्यासाठी नाही, तर सर्वांसाठी वास्तविक समस्या सोडवण्यासाठी वापरली जाईल. हा बदल आता घडत आहे आणि त्याचे परिणाम दशकांपासून जाणवतील.

संपादकाची नोंद: आम्ही ही साइट बहुभाषिक AI बातम्या आणि मार्गदर्शिका केंद्र म्हणून अशा लोकांसाठी तयार केली आहे जे संगणक तज्ञ नाहीत, परंतु तरीही कृत्रिम बुद्धिमत्ता समजून घेऊ इच्छितात, अधिक आत्मविश्वासाने तिचा वापर करू इच्छितात आणि आधीच येत असलेल्या भविष्याचा मागोवा घेऊ इच्छितात.

काही चूक आढळली किंवा काही दुरुस्त करायचे आहे का? आम्हाला कळवा.