Nvidia, AMD आणि नवीन कॉम्प्युट शर्यत
जागतिक तंत्रज्ञान उद्योग सध्या शक्ती कशी परिभाषित केली जाते आणि तिचे वितरण कसे होते, यातील बदलाच्या उंबरठ्यावर आहे. अनेक दशकांपासून, सेंट्रल प्रोसेसिंग युनिट (CPU) हे प्रत्येक मशीनचे हृदय होते, पण तो काळ आता संपला आहे. आज, आधुनिक सिंथेटिक इंटेलिजन्ससाठी आवश्यक असलेल्या प्रचंड गणितीय वर्कलोड्स हाताळण्यासाठी डिझाइन केलेल्या विशेष सिलिकॉनवर लक्ष केंद्रित केले जात आहे. ही केवळ कोण जलद घटक बनवू शकते, याची स्पर्धा नाही. ही कॉम्प्युट लेव्हरेजसाठीची लढाई आहे. Nvidia आणि AMD या कथेतील मुख्य पात्रे आहेत, ज्यामध्ये केवळ हार्डवेअरपेक्षा बरेच काही गुंतलेले आहे. यात अशा पायाभूत सुविधांचे नियंत्रण आहे जे सॉफ्टवेअर डेव्हलपमेंटच्या पुढील दशकाला परिभाषित करेल. यामध्ये खूप काही पणाला लागले आहे कारण विजेता केवळ उत्पादन विकत नाही, तर ते एक प्लॅटफॉर्म स्थापित करतात जे संबंधित राहण्यासाठी इतरांना वापरावे लागते. जनरल कॉम्प्युटिंगकडून ॲक्सिलरेटेड कॉम्प्युटिंगकडे होणारे हे संक्रमण तंत्रज्ञान जगाच्या पदानुक्रमात मूलभूत बदल दर्शवते.
क्लाउडला बांधून ठेवणारा अदृश्य कोड
एक कंपनी सध्या या क्षेत्रात का वर्चस्व गाजवत आहे हे समजून घेण्यासाठी, आपल्याला फिजिकल चिपच्या पलीकडे पाहावे लागेल. बहुतेक निरीक्षक ट्रान्झिस्टरची संख्या किंवा ग्राफिक्स प्रोसेसिंग युनिटचा (GPU) क्लॉक स्पीड यावर लक्ष केंद्रित करतात. तथापि, खरी ताकद हार्डवेअर आणि डेव्हलपरच्या दरम्यान असलेल्या सॉफ्टवेअर लेयरमध्ये आहे. Nvidia ने जवळजवळ दोन दशके CUDA नावाचे एक प्रोप्रायटरी वातावरण तयार करण्यात घालवली आहेत. हे वातावरण प्रोग्रामर्सना GPU च्या पॅरलल प्रोसेसिंग पॉवरचा वापर अशा कामांसाठी करण्याची परवानगी देते ज्यांचा ग्राफिक्सशी काहीही संबंध नाही. इतका जास्त कोड विशेषतः या वातावरणासाठी लिहिला गेल्यामुळे, स्पर्धकाकडे जाणे म्हणजे फक्त कार्ड बदलण्याइतके सोपे नाही. यासाठी हजारो ओळींच्या जटिल सूचना पुन्हा लिहिणे आवश्यक आहे. हा तो सॉफ्टवेअर moat आहे जो सर्वात जास्त निधी असलेल्या स्पर्धकांनाही त्वरित प्रभाव पाडण्यापासून रोखतो. हे अशी परिस्थिती निर्माण करते जिथे हार्डवेअर प्रभावीपणे विशिष्ट सॉफ्टवेअर इकोसिस्टममध्ये प्रवेश करण्याचे तिकीट बनते.
AMD हे ROCm नावाच्या ओपन सोर्स दृष्टिकोनासह याला तोंड देण्याचा प्रयत्न करत आहे. त्यांची रणनीती एक व्यवहार्य पर्याय प्रदान करणे आहे जो डेव्हलपर्सना एकाच विक्रेत्याकडे अडकवून ठेवत नाही. त्यांचे नवीनतम हार्डवेअर, जसे की MI300 मालिका, कच्च्या कामगिरीमध्ये लक्षणीय आश्वासन दर्शवते, तरीही सॉफ्टवेअरमधील तफावत एक मोठे अडथळा आहे. अनेक डेव्हलपर्सना असे आढळते की नवीनतम टूल्स आणि लायब्ररी प्रथम Nvidia साठी ऑप्टिमाइझ केल्या जातात, ज्यामुळे इतर प्लॅटफॉर्मना मागे पडावे लागते. ही गतिशीलता विद्यमान कंपनीचे वर्चस्व अधिक मजबूत करते. जर तुम्ही आज एखादे मॉडेल चालवण्याचा प्रयत्न करणारे इंजिनिअर असाल, तर तुम्ही तिथेच जाता जिथे डॉक्युमेंटेशन सर्वात पूर्ण आहे आणि बग्स आधीच शोधले गेले आहेत. तुम्ही GPU आर्किटेक्चरमधील प्रगती बद्दल अधिक तपशील अधिकृत तांत्रिक डॉक्युमेंटेशनद्वारे शोधू शकता. कृत्रिम बुद्धिमत्तेसाठी पायाभूत सुविधा समजून घेणे हे नाविन्यपूर्णतेची पुढची लाट कोठून येईल याचा अंदाज लावू इच्छिणाऱ्या प्रत्येकासाठी आवश्यक आहे. ही स्पर्धा आता सिलिकॉनइतकीच डेव्हलपर अनुभवाबद्दलही आहे.
बुद्धिमत्तेवर भू-राजकीय मक्तेदारी
या कॉम्प्युट शर्यतीचे परिणाम सिलिकॉन व्हॅलीच्या ताळेबंदाच्या पलीकडे जातात. आपण सत्तेचे असे केंद्रीकरण पाहत आहोत जे विसाव्या शतकातील तेल मक्तेदारीशी स्पर्धा करते. मायक्रोसॉफ्ट, ॲमेझॉन आणि गुगलसह काही हायपरस्केलर्स या हाय-एंड चिप्सचे मुख्य खरेदीदार आहेत. हे एक फीडबॅक लूप तयार करते जिथे सर्वात मोठ्या कंपन्यांना प्रथम सर्वोत्तम हार्डवेअर मिळते, ज्यामुळे त्यांना अधिक शक्तिशाली मॉडेल्स तयार करता येतात, जे पुन्हा अधिक महसूल निर्माण करते जेणेकरून अधिक हार्डवेअर खरेदी करता येईल. संसाधनांच्या या केंद्रीकरणाचा अर्थ असा आहे की लहान खेळाडू आणि संपूर्ण राष्ट्रे स्वतःला वाढत्या दरीच्या चुकीच्या बाजूला पाहत आहेत. ज्यांच्याकडे प्रचंड कॉम्प्युट क्लस्टर्सचा प्रवेश आहे ते अशा वेगाने नवनवीन प्रयोग करू शकतात जे इतरांसाठी अशक्य आहे. यामुळे तंत्रज्ञान उद्योगात टू-टियर सिस्टमचा उदय झाला आहे: कॉम्प्युट-रिच आणि कॉम्प्युट-पुअर.
सरकारने या असंतुलनाची दखल घेतली आहे. सिलिकॉन आता राष्ट्रीय महत्त्वाच्या धोरणात्मक मालमत्तेच्या रूपात पाहिले जाते. प्रगत चिप्स विशिष्ट प्रदेशांपर्यंत पोहोचण्यापासून रोखण्यासाठी निर्यात निर्बंध लागू करण्यात आले आहेत, ज्यामुळे हार्डवेअरचा वापर परराष्ट्र धोरणाचे साधन म्हणून केला जात आहे. हे निर्बंध केवळ लष्करी वापर रोखण्याबद्दल नाहीत. ते हे सुनिश्चित करण्याबद्दल आहेत की सॉफ्टवेअरच्या पुढच्या पिढीचे आर्थिक फायदे विशिष्ट सीमांच्या आत राहतील. या चिप्सची पुरवठा साखळी देखील अत्यंत नाजूक आहे. बहुतेक प्रगत उत्पादन तैवानमधील एकाच ठिकाणी होते, ज्यामुळे संपूर्ण जागतिक अर्थव्यवस्थेसाठी अपयशाचा एकच बिंदू तयार होतो. मध्ये, आपण पाहिले की पुरवठ्यातील मर्यादांमुळे अनेक उद्योगांमधील उत्पादन कसे थांबले. जर हाय-एंड GPU चा प्रवाह थांबला, तर आधुनिक सॉफ्टवेअरचा विकास प्रभावीपणे गोठून जाईल. काही कंपन्यांवर आणि एकाच उत्पादन भागीदारावर असलेले हे अवलंबित्व हा एक असा धोका आहे जो अनेक विश्लेषकांच्या मते अद्याप बाजारात पूर्णपणे किंमत ठरवलेला नाही. रॉयटर्सच्या अहवालानुसार, या पुरवठा साखळीतील असुरक्षितता जागतिक व्यापार नियामकांसाठी सर्वोच्च प्राधान्य आहे.
कॉम्प्युट भुकेची मोठी किंमत
सध्याच्या वातावरणात स्टार्टअप संस्थापकासाठी दैनंदिन वास्तव विचारात घ्या. त्यांची मुख्य चिंता आता केवळ सर्वोत्तम टॅलेंट भाड्याने घेणे किंवा प्रॉडक्ट-मार्केट फिट शोधणे ही नाही. त्याऐवजी, ते त्यांच्या वेळेचा मोठा भाग सर्व्हर वेळेसाठी वाटाघाटी करण्यात घालवतात. एका सामान्य दिवसात, हा संस्थापक त्यांच्या बर्न रेटचे पुनरावलोकन करून सुरुवात करू शकतो, फक्त हे शोधण्यासाठी की त्यांच्या भांडवलाचा मोठा भाग H100 क्लस्टर्समध्ये प्रवेश मिळवण्यासाठी क्लाउड प्रदाताला भाड्याने देण्यासाठी जात आहे. ते चिप्स थेट खरेदी करू शकत नाहीत कारण लीड टाइम्स अनेक महिन्यांचे आहेत आणि त्यांना स्थानिक पातळीवर चालवण्यासाठी कूलिंग इन्फ्रास्ट्रक्चरची कमतरता आहे. त्यांना डिजिटल रांगेत वाट पाहावी लागते, या आशेने की एखादा मोठा ग्राहक त्यांना प्राधान्य प्रवेशासाठी मागे टाकणार नाही. हे इंटरनेटच्या सुरुवातीच्या दिवसांपासून खूप दूर आहे जिथे काही स्वस्त सर्व्हर जागतिक प्लॅटफॉर्मला सपोर्ट करू शकत होते. गंभीर विकासासाठी प्रवेश किंमत हजारो डॉलर्सवरून लाखो डॉलर्सवर गेली आहे.
दिवस तांत्रिक कर्जाविरुद्धच्या संघर्षाने सुरू राहतो. ते भाड्याने घेतलेले हार्डवेअर वापरत असल्यामुळे, त्यांना प्रशिक्षणाच्या प्रत्येक सेकंदाचे ऑप्टिमायझेशन करावे लागते. जर एखादे काम किरकोळ कोड त्रुटीमुळे अयशस्वी झाले, तर त्यासाठी हजारो डॉलर्सचा कॉम्प्युट वाया जाऊ शकतो. हा दबाव प्रयोगांना रोखतो. जेव्हा अपयशाची किंमत इतकी जास्त असते तेव्हा डेव्हलपर्स नवीन कल्पना वापरण्याची शक्यता कमी असते.
BotNews.today सामग्री संशोधन, लेखन, संपादन आणि भाषांतरित करण्यासाठी AI साधनांचा वापर करते. माहिती उपयुक्त, स्पष्ट आणि विश्वसनीय ठेवण्यासाठी आमची टीम प्रक्रियेचे पुनरावलोकन आणि पर्यवेक्षण करते.
प्रोप्रायटरी सिलिकॉनचा छुपा कर
जसजसे आपण ॲक्सिलरेटेड कॉम्प्युटिंगच्या या युगात खोलवर जात आहोत, तसतसे आपल्याला दीर्घकालीन परिणामांबद्दल कठीण प्रश्न विचारले पाहिजेत. आधुनिक तंत्रज्ञानाचा पाया इतक्या कमी संस्थांच्या नियंत्रणाखाली असणे आरोग्यदायी आहे का? जेव्हा एक कंपनी हार्डवेअर, सॉफ्टवेअर वातावरण आणि नेटवर्किंग इंटरकनेक्ट प्रदान करते, तेव्हा ते प्रभावीपणे संपूर्ण स्टॅकचे मालक असतात. हे नाविन्यपूर्णतेवर छुपा कर निर्माण करते. जो डेव्हलपर प्रोप्रायटरी सिस्टमसाठी कोड लिहितो तो अशा मक्तेदारीमध्ये योगदान देत आहे जी दररोज तोडणे कठीण होत आहे. जेव्हा डेटा शेअर केलेल्या क्लाउड वातावरणात या विशेष चिप्समधून जातो तेव्हा डेटाच्या गोपनीयतेचे काय होते? जरी प्रदाता दावा करतात की डेटा आयसोलेटेड आहे, तरीही शेअर केलेल्या सिलिकॉनचे भौतिक वास्तव असे सुचवते की नवीन प्रकारचे साइड-चॅनल हल्ले शक्य असू शकतात. आपण कामगिरीसाठी पारदर्शकता गमावत आहोत आणि त्या व्यापाराची पूर्ण किंमत अद्याप माहित नाही.
पर्यावरणीय शाश्वततेचाही प्रश्न आहे. या नवीन डेटा सेंटर्ससाठी विजेची आवश्यकता थक्क करणारी आहे. आपण अशी प्रचंड सुविधा बांधत आहोत ज्यांना केवळ मॅट्रिक्स गुणाकार करण्यासाठी लहान शहरांइतकी वीज लागते. हा ग्रहासाठी शाश्वत मार्ग आहे का? जर या मॉडेल्सची मागणी सध्याच्या दराने वाढत राहिली, तर आपण शेवटी किती ऊर्जा देऊ शकतो याच्या भौतिक मर्यादेपर्यंत पोहोचू. शिवाय, जर या तंत्रज्ञानाभोवतीचा सध्याचा उत्साह पठारावर पोहोचला तर काय होईल? आपण सध्या एका मोठ्या बिल्ड-आउट टप्प्यात आहोत, परंतु जर या चिप्स खरेदी करणाऱ्या कंपन्यांना आर्थिक परतावा मिळाला नाही, तर आपण अचानक आणि हिंसक सुधारणा पाहू शकतो. हे इन्फ्रास्ट्रक्चर तयार करण्यासाठी घेतलेले कर्ज फेडावे लागेल, मग ते चालवणारे सॉफ्टवेअर फायदेशीर असो वा नसो. आपण वाळूचा पाया बांधत आहोत की जग कसे कार्य करते यात कायमस्वरूपी बदल करत आहोत, याचा विचार आपण केला पाहिजे.
AI इंजिनच्या आत
ज्यांना तांत्रिक मर्यादा समजून घेणे आवश्यक आहे, त्यांच्यासाठी ही कथा केवळ GPU बद्दल नाही. आधुनिक कॉम्प्युटिंगमधील अडथळा प्रोसेसरकडून मेमरी आणि इंटरकनेक्टकडे सरकला आहे. हाय बँडविड्थ मेमरी, विशेषतः HBM3e, सध्या जगातील सर्वात जास्त मागणी असलेला घटक आहे. हे प्रोसेसरला अशा वेगाने डेटा ॲक्सेस करण्याची परवानगी देते जे पूर्वी अशक्य होते. या मेमरीशिवाय, सर्वात वेगवान GPU रिकामे बसेल, डेटा येण्याची वाट पाहत. म्हणूनच पुरवठ्यातील मर्यादा इतक्या टिकून आहेत. हे केवळ अधिक चिप्स बनवण्याबद्दल नाही: हे वेगवेगळ्या पुरवठादारांकडून अनेक जटिल घटकांच्या उत्पादनाचे समन्वय साधण्याबद्दल आहे. मध्ये, या मेमरीची उपलब्धता कदाचित संपूर्ण उद्योगाचे एकूण उत्पादन ठरवेल. ही एक भौतिक मर्यादा आहे जी सॉफ्टवेअर सहजपणे ओलांडू शकत नाही.
नेटवर्किंग हा कोड्याचा दुसरा महत्त्वाचा तुकडा आहे. जेव्हा तुम्ही हजारो GPU वर मॉडेल प्रशिक्षित करत असता, तेव्हा ते चिप्स एकमेकांशी ज्या वेगाने बोलू शकतात तो कामगिरीचा निर्णायक घटक बनतो. Nvidia NVLink नावाचे एक प्रोप्रायटरी इंटरकनेक्ट वापरते, जे मानक इथरनेटपेक्षा खूप जास्त थ्रूपुट प्रदान करते. हा moat चा आणखी एक थर आहे. जरी एखादा स्पर्धक अशी चिप बनवतो जी वेगळी असताना वेगवान असेल, तरीही त्यांचे नेटवर्किंग धीमे असेल तर ते क्लस्टरच्या कामगिरीशी जुळू शकत नाहीत. पॉवर युजर्सना कठोर API मर्यादा आणि स्थानिक स्टोरेज अडथळ्यांच्या वास्तवाचाही सामना करावा लागतो. सर्वात वेगवान कॉम्प्युटसह, टेराबाइट्स डेटा क्लस्टरमध्ये हलवणे ही एक संथ आणि महागडी प्रक्रिया आहे. खालील घटक सध्या हाय-एंड युजर्ससाठी प्राथमिक तांत्रिक मर्यादा आहेत:
- मोठ्या प्रमाणावरील इन्फरन्स टास्क दरम्यान मेमरी बँडविड्थ सॅच्युरेशन.
- हाय-डेन्सिटी रॅक कॉन्फिगरेशनमध्ये थर्मल थ्रॉटलिंग.
- एका पॉडच्या पलीकडे स्केल करताना इंटरकनेक्ट लेटन्सी.
- कॉम्प्युट नोड्सच्या जवळ पर्सिस्टंट स्टोरेजची उच्च किंमत.
बहुतेक संस्थांना असे आढळत आहे की ते हे वर्कलोड स्थानिक पातळीवर चालवू शकत नाहीत. विशेष वीज आणि कूलिंग आवश्यकता मानक डेटा सेंटरच्या क्षमतेच्या पलीकडे आहेत. हे अशा काही विशिष्ट प्रदात्यांवर अवलंबून राहण्यास भाग पाडते ज्यांच्याकडे हे बेस्पोक वातावरण तयार करण्यासाठी भांडवल आहे. बाजाराचा ‘गीक’ विभाग आता स्वतःचे रिग तयार करण्याबद्दल नाही: हे रिमोट सुविधेतील व्हर्च्युअल मशीनचे कॉन्फिगरेशन पर्याय समजून घेण्याबद्दल आहे. स्थानिक हार्डवेअरकडून ॲबस्ट्रॅक्टेड क्लाउड कॉम्प्युटकडे होणारे संक्रमण हाय-एंड वर्कलोड्ससाठी जवळजवळ पूर्ण झाले आहे.
सिलिकॉन युद्धाचा निकाल
Nvidia आणि AMD मधील शर्यत ही केवळ वेगाची साधी स्पर्धा नाही. ही कॉम्प्युटिंग प्लॅटफॉर्मच्या भविष्यासाठीची लढाई आहे. Nvidia कडे मोठी आघाडी आहे, केवळ त्यांच्या हार्डवेअरमुळेच नाही, तर त्यांनी डेव्हलपर समुदायाला त्यांच्या सॉफ्टवेअर इकोसिस्टममध्ये यशस्वीरित्या लॉक केले आहे. AMD ओपन मानकांना प्रोत्साहन देऊन कठीण लढाई लढत आहे, परंतु त्यांना विद्यमान कोडबेसच्या जडत्वावर मात करण्याचे मोठे आव्हान आहे. आतापर्यंतचे खरे विजेते हायपरस्केलर्स आहेत ज्यांच्याकडे हे सिलिकॉन मोठ्या प्रमाणात खरेदी करण्यासाठी भांडवल आहे, ज्यामुळे तंत्रज्ञान उद्योगात सत्ता अधिक केंद्रित होत आहे. सरासरी वापरकर्ता किंवा डेव्हलपरसाठी, पणाला लागलेल्या गोष्टी व्यावहारिक आहेत. आपण नाविन्यपूर्णतेचा खर्च वाढताना आणि नवीन प्रकारच्या गेटकीपरचा उदय पाहत आहोत. सिलिकॉन युद्ध जागतिक अर्थव्यवस्थेचे नियम पुन्हा लिहित आहे आणि आपण त्याच्या खऱ्या प्रभावाच्या सुरुवातीच्या टप्प्यात आहोत. सत्तेचे हे केंद्रीकरण समाजाच्या व्यापक हिताची सेवा करते की केवळ चिप्सच्या मालकांच्या हिताची, यावर लक्ष केंद्रित करणे आवश्यक आहे.
संपादकाची नोंद: आम्ही ही साइट बहुभाषिक AI बातम्या आणि मार्गदर्शिका केंद्र म्हणून अशा लोकांसाठी तयार केली आहे जे संगणक तज्ञ नाहीत, परंतु तरीही कृत्रिम बुद्धिमत्ता समजून घेऊ इच्छितात, अधिक आत्मविश्वासाने तिचा वापर करू इच्छितात आणि आधीच येत असलेल्या भविष्याचा मागोवा घेऊ इच्छितात.
काही चूक आढळली किंवा काही दुरुस्त करायचे आहे का? आम्हाला कळवा.
