AI शर्यतीत डेटा सेंटरच्या वाढीचा अर्थ काय आहे?
व्हर्च्युअल इंटेलिजन्सच्या भौतिक मर्यादा
आर्टिफिशियल इंटेलिजन्सची शर्यत आता रिसर्च लॅबमधून बाहेर पडून थेट कन्स्ट्रक्शन साइटवर पोहोचली आहे. अनेक वर्षांपासून, इंडस्ट्रीने कोडची गुणवत्ता आणि न्यूरल नेटवर्क्सच्या आकारावर लक्ष केंद्रित केले होते. पण आज, मुख्य मर्यादा अधिक मूलभूत आहेत: जमीन, वीज, पाणी आणि तांबे. जर तुम्हाला पुढच्या पिढीचे लार्ज लँग्वेज मॉडेल्स बनवायचे असतील, तर तुम्हाला फक्त एक चांगला अल्गोरिदम असून चालणार नाही. तुम्हाला अशा एका अवाढव्य इमारतीची गरज आहे, जिथे हजारो स्पेशलाइज्ड चिप्स असतील, ज्या एका छोट्या शहराइतकी वीज वापरतात. सॉफ्टवेअरकडून हेवी इन्फ्रास्ट्रक्चरकडे झालेला हा बदल टेक स्पर्धेचे स्वरूप पूर्णपणे बदलून टाकत आहे. आता ही स्पर्धा फक्त कोणाकडे सर्वोत्तम इंजिनिअर्स आहेत, याची राहिलेली नाही. तर, कोणाला इलेक्ट्रिकल ग्रीडचे कनेक्शन मिळते आणि कोण स्थानिक सरकारला अशा सुविधेसाठी तयार करू शकते, जी कूलिंगसाठी लाखो गॅलन पाणी वापरते, याची आहे.
जेव्हा एखादा युजर चॅटबॉटमध्ये प्रॉम्प्ट टाईप करतो, तेव्हा भौतिक घटनांची एक साखळी सुरू होते. ती विनंती क्लाउडमध्ये नसते, ती सर्व्हरच्या रॅकमध्ये असते. हे सर्व्हर्स अधिक दाट आणि गरम होत आहेत. या फॅसिलिटीजची वाढ ही टेक इंडस्ट्रीच्या इतिहासातील सर्वात मोठी भौतिक विस्तार प्रक्रिया आहे. हा भविष्यातील कॉम्प्युटवर लावलेला एक मोठा जुगार आहे. पण ही वाढ आता भौतिक वास्तवाच्या भिंतीला धडकत आहे. आपण इंटरनेटच्या अमूर्त कल्पनेकडून अशा जगाकडे जात आहोत, जिथे डेटा सेंटर्स हे ऑइल रिफायनरी किंवा पॉवर प्लांटइतकेच महत्त्वाचे आणि वादग्रस्त ठरत आहेत. हेच AI शर्यतीचे नवीन वास्तव आहे. ही भौतिक जगाच्या मूलभूत संसाधनांसाठीची स्पर्धा आहे.
कोडपासून काँक्रीट आणि तांब्यापर्यंत
आधुनिक डेटा सेंटर बांधणे हे इंडस्ट्रियल इंजिनिअरिंगचे एक मोठे काम आहे. पूर्वी, डेटा सेंटर म्हणजे काही एअर कंडिशनिंग असलेले जुने गोदाम असायचे. आता, या फॅसिलिटीज AI चिप्सची प्रचंड उष्णता हाताळण्यासाठी खास बनवलेल्या मशीन आहेत. सर्वात महत्त्वाचा घटक म्हणजे वीज. एक आधुनिक AI चिप ७०० वॅट्सपेक्षा जास्त वीज खेचू शकते. जेव्हा तुम्ही एका इमारतीत अशा हजारो चिप्स लावता, तेव्हा विजेची गरज शेकडो मेगावॅट्सपर्यंत पोहोचते. हा फक्त विजेच्या खर्चाचा प्रश्न नाही, तर ती उपलब्ध असण्याचा प्रश्न आहे. जगाच्या अनेक भागांत इलेक्ट्रिकल ग्रीड आधीच पूर्ण क्षमतेवर आहे. टेक कंपन्या आता त्याच मर्यादित वीज पुरवठ्यासाठी स्थानिक रहिवासी आणि कारखान्यांशी स्पर्धा करत आहेत.
जमीन हा पुढचा अडथळा आहे. तुम्ही या फॅसिलिटीज कुठेही बांधू शकत नाही. लॅटन्सी कमी करण्यासाठी त्यांना फायबर ऑप्टिक लाईन्सच्या जवळ असणे आवश्यक आहे. तसेच, जमीन स्थिर आणि हवामान योग्य असलेल्या भागात असणे गरजेचे आहे. यामुळे नॉर्दर्न व्हर्जिनियासारख्या ठिकाणी डेटा सेंटर्सची मोठी गर्दी झाली आहे. हा भाग जागतिक इंटरनेट ट्रॅफिकचा मोठा हिस्सा हाताळतो. पण तिथेही जमीन संपत चालली आहे. कंपन्या आता दुर्गम ठिकाणांकडे पाहत आहेत, पण तिथे ग्रीड कनेक्शनचा अभाव असतो. हे ‘आधी अंडे की कोंबडी’ सारखे संकट आहे. तुम्हाला जमीन मिळेल, पण वीज मिळणार नाही. किंवा वीज मिळेल, पण परवानग्या मिळायला वर्षे लागतील. परवानग्या मिळवणे ही मोठी समस्या बनली आहे. स्थानिक सरकारे अशा प्रकल्पांबद्दल साशंक आहेत, कारण ते जागा व्यापतात आणि संसाधने वापरतात, पण त्या बदल्यात दीर्घकालीन नोकऱ्या खूप कमी देतात.
कूलिंग हा या इन्फ्रास्ट्रक्चरचा तिसरा खांब आहे. AI चिप्स प्रचंड उष्णता निर्माण करतात. हाय-डेन्सिटी रॅक्ससाठी पारंपारिक एअर कूलिंग आता पुरेसे नाही. अनेक नवीन फॅसिलिटीज लिक्विड कूलिंगकडे वळत आहेत. यामध्ये पाणी किंवा स्पेशलाइज्ड कूलंटचे पाईप्स थेट चिप्सपर्यंत नेले जातात. यासाठी खूप मोठ्या प्रमाणात पाण्याची गरज असते. काही प्रकरणांमध्ये, एक डेटा सेंटर वर्षाला शेकडो दशलक्ष गॅलन पाणी वापरू शकते. यामुळे टेक कंपन्या थेट स्थानिक शेती आणि पिण्याच्या पाण्याच्या गरजांशी स्पर्धा करत आहेत. दुष्काळग्रस्त भागात हा एक राजकीय मुद्दा बनला आहे. इंडस्ट्री आता पाणी रिसायकल करणाऱ्या क्लोज्ड-लूप सिस्टमकडे वळण्याचा प्रयत्न करत आहे, पण सुरुवातीची गरज अजूनही धक्कादायक आहे. या व्यावहारिक मर्यादाच आजच्या टेक वाढीचे स्वरूप ठरवत आहेत.
हाय परफॉर्मन्स कॉम्प्युटचे भू-राजकारण
डेटा सेंटर्स आता फक्त कॉर्पोरेट मालमत्ता राहिलेली नाहीत. ती राष्ट्रीय प्राधान्याची बाब बनली आहेत. जगभरातील सरकारांना आता समजले आहे की कॉम्प्युट पॉवर ही राष्ट्रीय शक्तीचे एक रूप आहे. यामुळे ‘सॉव्हरिन AI’ (Sovereign AI) ची संकल्पना उदयाला आली आहे. देशांना स्वतःचे डेटा सेंटर्स त्यांच्या सीमांच्या आत हवे आहेत, जेणेकरून डेटा प्रायव्हसी आणि राष्ट्रीय सुरक्षा सुनिश्चित करता येईल. त्यांना इतर देशांतील फॅसिलिटीजवर अवलंबून राहायचे नाही. यामुळे जागतिक इन्फ्रास्ट्रक्चर विखुरले जात आहे. काही मोठ्या हब्सऐवजी, आपण प्रत्येक मोठ्या अर्थव्यवस्थेत स्थानिक डेटा सेंटर्सची मागणी पाहत आहोत. गेल्या दशकात वर्चस्व गाजवणाऱ्या सेंट्रलाइज्ड मॉडेलपेक्षा हा मोठा बदल आहे. यामुळे इन्फ्रास्ट्रक्चरची शर्यत अधिक गुंतागुंतीची झाली आहे कारण कंपन्यांना प्रत्येक देशातील वेगवेगळ्या नियामक वातावरणाशी जुळवून घ्यावे लागते.
या भू-राजकीय परिमाणामुळे डेटा सेंटर्स आता इंडस्ट्रियल पॉलिसीचे लक्ष्य बनले आहेत. काही सरकारे डेटा सेंटर डेव्हलपर्सना आकर्षित करण्यासाठी मोठ्या सबसिडी देत आहेत. त्यांना या इमारती आधुनिक अर्थव्यवस्थेचा पाया वाटतात. काही देश याच्या उलट दिशेने जात आहेत. त्यांना त्यांच्या नॅशनल ग्रीडवरील ताण आणि इतक्या मोठ्या प्रमाणावर ऊर्जेच्या वापरामुळे होणाऱ्या पर्यावरणीय परिणामांची चिंता आहे. उदाहरणार्थ, काही शहरांनी इलेक्ट्रिकल इन्फ्रास्ट्रक्चर अपग्रेड होईपर्यंत नवीन डेटा सेंटर बांधकामावर बंदी (moratorium) घातली आहे. यामुळे उपलब्धतेचा एक विस्कळीत पॅटर्न तयार झाला आहे. एखादी कंपनी एका देशात बांधकाम करू शकते, पण दुसऱ्या देशात तिला रोखले जाऊ शकते. हे भौगोलिक वितरण महत्त्वाचे आहे कारण त्याचा परिणाम त्या भागातील युजर्ससाठी AI मॉडेल्सच्या लॅटन्सी आणि परफॉर्मन्सवर होतो. जर एखाद्या देशाकडे स्थानिक कॉम्प्युट नसेल, तर त्याचे नागरिक नेहमीच AI शर्यतीत मागे राहतील.
या मालमत्तांसाठीचा संघर्ष हा सप्लाय चेनसाठीचाही संघर्ष आहे. डेटा सेंटर बांधण्यासाठी लागणारे घटक कमी पडत आहेत. यामध्ये चिप्सपासून ते ग्रीडशी जोडण्यासाठी लागणाऱ्या मोठ्या ट्रान्सफॉर्मर्सपर्यंत सर्व काही समाविष्ट आहे. यापैकी काही उपकरणांसाठी दोन ते तीन वर्षांचा वेटिंग पिरियड आहे. याचा अर्थ असा की 2026 मधील AI शर्यतीचे विजेते हे अनेक वर्षांपूर्वी घेतलेल्या निर्णयांनी ठरले आहेत. ज्या कंपन्यांनी त्यांची वीज आणि उपकरणे आधीच सुरक्षित केली आहेत, त्यांना मोठा फायदा झाला आहे. जे आता मार्केटमध्ये प्रवेश करण्याचा प्रयत्न करत आहेत, त्यांना दरवाजे बंद असल्याचे जाणवत आहे. भौतिक जग सॉफ्टवेअरच्या जगापेक्षा खूप हळू चालते. तुम्ही एका दिवसात नवीन कोड लिहू शकता, पण एका दिवसात सबस्टेशन बांधू शकत नाही. हे वास्तव टेक कंपन्यांना इंडस्ट्रियल जायंट्ससारखा विचार करण्यास भाग पाडत आहे.
जेव्हा लार्ज लँग्वेज मॉडेल्स स्थानिक पॉवर ग्रीड्सना भेटतात
या वाढीचा परिणाम समजून घेण्यासाठी, एका आधुनिक डेटा सेंटरच्या दैनंदिन जीवनाचा विचार करा. शहराच्या बाहेरील भागात असलेल्या एका फॅसिलिटीची कल्पना करा. आत, रॅक्सच्या रांगा आहेत, ज्या प्रत्येकी रेफ्रिजरेटरच्या आकाराच्या आहेत. हे रॅक्स GPU ने भरलेले आहेत. जसा सूर्योदय होतो आणि लोक कामाला सुरुवात करतात, तशी AI सेवांची मागणी वाढते. कोड पूर्ण करणे, इमेज जनरेशन आणि मजकूर सारांशित करण्याच्या हजारो विनंत्या इमारतीत येतात. प्रत्येक विनंतीमुळे वीज वापरात वाढ होते. कूलिंग फॅन्स वेगाने फिरू लागतात. लिक्विड कूलिंग पंप्सचा वेग वाढतो. या चिप्समुळे निर्माण होणारी उष्णता इतकी तीव्र असते की सर्व्हर रूमच्या इन्सुलेटेड भिंतींमधूनही ती जाणवते. हा आधुनिक अर्थव्यवस्थेचा आवाज आहे. हा एक सततचा, कमी-फ्रिक्वेन्सीचा गुणगुणणारा आवाज आहे जो कधीही थांबत नाही.
भिंतींच्या बाहेर, याचा परिणाम समुदायाला जाणवतो. स्थानिक युटिलिटी कंपनीला लोड मॅनेज करावा लागतो. जर डेटा सेंटरने खूप जास्त वीज घेतली, तर ग्रीडमध्ये अस्थिरता येऊ शकते. म्हणूनच अनेक डेटा सेंटर्समध्ये बॅटरी आणि डिझेल जनरेटर्सचे मोठे बँक असतात. ते मुळात स्वतःचे छोटे युटिलिटी युनिट्स असतात. पण हे जनरेटर्स आवाज आणि उत्सर्जन निर्माण करतात, ज्यामुळे स्थानिक विरोध होतो. जवळच्या परिसरातील रहिवासी सततच्या आवाजाबद्दल किंवा त्यांच्या घरामागून जाणाऱ्या मोठ्या पॉवर लाईन्सबद्दल तक्रार करू शकतात. त्यांना अशी इमारत दिसते जी ५,००,००० m2 जागा व्यापते पण फक्त काही डझन लोकांना रोजगार देते. त्यांना प्रश्न पडतो की स्थानिक संसाधनांवरील ताणाच्या बदल्यात त्यांना काय मिळत आहे? इथेच तंत्रज्ञान आणि राजकारण एकत्र येतात. डेटा सेंटर हे इंजिनिअरिंगचे एक आश्चर्य आहे, पण तो एक असा शेजारीही आहे जो खूप वीज आणि पाणी वापरतो.
याचे प्रमाण कल्पनेच्या पलीकडे आहे. एक मोठे डेटा सेंटर कॅम्पस १,००,००० घरांइतकी वीज वापरू शकते. जेव्हा एखादी टेक कंपनी १० अब्ज डॉलर्सच्या नवीन प्रकल्पाची घोषणा करते, तेव्हा ते फक्त सर्व्हर्स विकत घेत नसतात. ते एक मोठे इंडस्ट्रियल कॉम्प्लेक्स बांधत असतात. यामध्ये डेडिकेटेड वॉटर ट्रीटमेंट प्लांट्स आणि खाजगी इलेक्ट्रिकल सबस्टेशन्सचा समावेश असतो. काही प्रकरणांमध्ये, ते कार्बन-मुक्त ऊर्जेचा स्थिर पुरवठा सुनिश्चित करण्यासाठी अणुऊर्जेमध्येही गुंतवणूक करत आहेत. टेक कंपन्या पूर्वी ज्या प्रकारे काम करायच्या, त्यापेक्षा हा एक मोठा बदल आहे. ते आता फक्त दुसऱ्याच्या इमारतीत भाडेकरू नाहीत. ते अनेक भागांत इन्फ्रास्ट्रक्चर विकासाचे मुख्य चालक आहेत. ही वाढ आपल्या शहरांचे भौतिक स्वरूप आणि आपल्या युटिलिटीज व्यवस्थापित करण्याच्या पद्धती बदलत आहे. हे डिजिटल युगाचे एक मोठे, दृश्यमान रूप आहे.
हा संघर्ष फक्त संसाधनांबद्दल नाही. तो बदलाच्या वेगाबद्दल आहे. स्थानिक पॉवर ग्रीड दशकांपासून एका ठराविक वेगाने वाढण्यासाठी डिझाइन केलेले असते. AI बूमने ती वाढ काही वर्षांतच संकुचित केली आहे. युटिलिटीज या वेगाशी जुळवून घेण्यास संघर्ष करत आहेत. काही भागांत, नवीन ग्रीड कनेक्शनसाठी आता पाच वर्षांहून अधिक प्रतीक्षा करावी लागत आहे. यामुळे ग्रीड ॲक्सेस ही एक मौल्यवान वस्तू बनली आहे. काही कंपन्या जुन्या इंडस्ट्रियल साइट्स विकत घेत आहेत, फक्त कारण तिथे आधीच हाय-कॅपॅसिटी पॉवर कनेक्शन आहे. त्यांना इमारतींशी काही देणेघेणे नाही. त्यांना जमिनीखालील तांब्याची काळजी आहे. मार्केटमध्ये ही हतबलता आहे. AI शर्यत आता स्थानिक प्लॅनिंग कमिशन आणि युटिलिटी बोर्डरूमच्या खंदकात लढली जात आहे.
कॉम्प्युट युगासाठी कठीण प्रश्न
जसजसा आपण हा विस्तार करत आहोत, तसतसे आपल्याला लपलेल्या खर्चाबद्दल कठीण प्रश्न विचारले पाहिजेत. या मोठ्या बांधकामाचा फायदा नक्की कोणाला होतो? जरी AI सेवा जागतिक स्तरावर उपलब्ध असल्या, तरी पर्यावरणीय आणि इन्फ्रास्ट्रक्चरचा खर्च अनेकदा स्थानिक असतो. ग्रामीण भागातील समुदायाला त्यांच्या पाण्याचे स्तर खाली गेलेले दिसू शकते, जे पृथ्वीच्या दुसऱ्या टोकावरील युजर्सना सेवा देणाऱ्या डेटा सेंटरसाठी वापरले जात आहे. आपल्याला या मॉडेलच्या दीर्घकालीन टिकाऊपणाचाही विचार करावा लागेल. जर प्रत्येक मोठ्या कंपनीला आणि सरकारला स्वतःचे मोठे कॉम्प्युट क्लस्टर हवे असेल, तर एकूण जागतिक ऊर्जेची मागणी खगोलीय असेल. आपल्या मर्यादित ऊर्जा संसाधनांचा हा सर्वोत्तम वापर आहे का? आपण मुळात भौतिक ऊर्जेची देवाणघेवाण डिजिटल बुद्धिमत्तेसाठी करत आहोत. हा एक असा ट्रेड-ऑफ आहे ज्यावर अधिक सार्वजनिक चर्चेची गरज आहे.
प्रायव्हसी आणि नियंत्रणाचाही प्रश्न आहे. डेटा सेंटर्स काही टेक जायंट्सच्या हातात केंद्रित होत असल्याने, त्या कंपन्यांना प्रचंड शक्ती मिळत आहे. ते फक्त सॉफ्टवेअरचे पुरवठादार नाहीत. ते आधुनिक जीवन शक्य करणाऱ्या भौतिक इन्फ्रास्ट्रक्चरचे मालक आहेत. जर एकाच कंपनीकडे डेटा सेंटर्स, चिप्स आणि मॉडेल्स असतील, तर त्यांच्याकडे अभूतपूर्व अशी व्हर्टिकल इंटिग्रेशनची पातळी आहे. यामुळे लहान स्पर्धकांसाठी प्रवेशाचा मोठा अडथळा निर्माण होतो. एखादा स्टार्टअप जेव्हा वीज परवानाही मिळवू शकत नाही, तेव्हा तो स्पर्धा कशी करणार? AI इन्फ्रास्ट्रक्चरचे भौतिक वास्तव हे कदाचित सर्वात मोठे स्पर्धाविरोधी बल असू शकते. हे कल्पनांच्या मार्केटला भांडवल आणि काँक्रीटच्या मार्केटमध्ये बदलते.
शेवटी, आपल्याला या सिस्टमच्या लवचिकतेकडे पाहावे लागेल. इतकी कॉम्प्युट पॉवर काही भौगोलिक हब्समध्ये केंद्रित करून, आपण अपयशाचे एकच बिंदू (single points of failure) तयार करत आहोत. नैसर्गिक आपत्ती किंवा एखाद्या मोठ्या डेटा सेंटर हबवर झालेला हल्ला जागतिक परिणाम घडवू शकतो. साथीच्या आजारादरम्यान आपण याची झलक पाहिली होती, जेव्हा सप्लाय चेनच्या व्यत्ययामुळे डेटा सेंटरचा विस्तार मंदावला होता. पण आता जोखीम अधिक आहे. आपली संपूर्ण अर्थव्यवस्था या फॅसिलिटीजवर उभी केली जात आहे. जर ग्रीड निकामी झाली किंवा कूलिंगचे पाणी संपले, तर AI थांबेल. हे डिजिटल युगाचे विरोधाभास आहे. आपले सर्वात प्रगत तंत्रज्ञान पूर्णपणे सर्वात मूलभूत भौतिक सिस्टमवर अवलंबून आहे. आपण एका अत्यंत नाजूक पायावर भविष्यवादी जग उभारत आहोत.
BotNews.today सामग्री संशोधन, लेखन, संपादन आणि भाषांतरित करण्यासाठी AI साधनांचा वापर करते. माहिती उपयुक्त, स्पष्ट आणि विश्वसनीय ठेवण्यासाठी आमची टीम प्रक्रियेचे पुनरावलोकन आणि पर्यवेक्षण करते.
AI बॅकबोनचे आर्किटेक्चर
जे लोक तांत्रिक बाजू पाहत आहेत, त्यांच्यासाठी डेटा सेंटर डिझाइनमधील बदल खोलवर आहेत. आपण जनरल-पर्पज क्लाउड कॉम्प्युटिंगकडून स्पेशलाइज्ड AI फॅक्टरीजकडे जात आहोत. पारंपारिक डेटा सेंटरमध्ये, हजारो वेगवेगळ्या ग्राहकांसाठी हजारो वेगवेगळे ॲप्लिकेशन्स होस्ट करणे हे ध्येय होते. वर्कलोड अनपेक्षित होता पण सामान्यतः कमी तीव्रतेचा होता. AI फॅक्टरीमध्ये, संपूर्ण इमारत अनेकदा एकाच कामासाठी समर्पित असते, जसे की एखादे मोठे मॉडेल ट्रेन करणे. यामुळे ऑप्टिमायझेशनच्या उच्च पातळी गाठता येतात. नेटवर्किंग ही एक मोठी आव्हानात्मक गोष्ट आहे. हजारो GPU वर मॉडेल ट्रेन करण्यासाठी, तुम्हाला अशा नेटवर्कची गरज आहे जे जवळजवळ शून्य लॅटन्सीसह प्रचंड डेटा हाताळू शकेल. यामुळे InfiniBand आणि 800Gbps वर चालणाऱ्या हाय-स्पीड इथरनेट स्विचेससारख्या तंत्रज्ञानाचा अवलंब वाढला आहे.
तुम्ही आम्हाला कव्हर करावे असे तुम्हाला वाटणारी AI कथा, साधन, ट्रेंड किंवा प्रश्न आहे का? तुमची लेखाची कल्पना आम्हाला पाठवा — आम्हाला ती ऐकायला आवडेल.स्टोरेज हा आणखी एक महत्त्वाचा घटक आहे. AI मॉडेल ट्रेन करण्यासाठी त्याला GPU प्रोसेस करू शकतील तितक्या वेगाने पेटाबाइट्स डेटा देणे आवश्यक असते. यामुळे या वर्कलोडसाठी पारंपारिक हार्ड ड्राइव्ह्स कालबाह्य झाल्या आहेत. सर्व काही हाय-स्पीड NVMe फ्लॅश स्टोरेजकडे जात आहे. पण जर डेटा पाइपलाइन योग्यरित्या डिझाइन केलेली नसेल, तर सर्वात वेगवान स्टोरेजही अडथळा बनू शकते. म्हणूनच आपण स्थानिक स्टोरेज आणि एज कॉम्प्युटिंगवर अधिक लक्ष केंद्रित करत आहोत. डेटाला कॉम्प्युटच्या जवळ नेऊन, कंपन्या नेटवर्कवरील ताण कमी करू शकतात. तथापि, मॉडेल्सचा प्रचंड आकार हे कठीण बनवतो. अत्याधुनिक मॉडेल शेकडो गिगाबाइट्सचे असू शकते, ज्यामुळे ते मोठ्या सर्व्हर क्लस्टरशिवाय इतर कशावरही चालवणे कठीण होते. यामुळे ज्यांच्याकडे मोठ्या फॅसिलिटीज आहेत, त्यांच्याकडेच ताकद राहते.
आपण APIs आणि स्थानिक स्टोरेज कशा प्रकारे संवाद साधतात, यातही बदल पाहत आहोत. अनेक डेव्हलपर्स क्लाउडचा उच्च खर्च आणि लॅटन्सी टाळण्यासाठी स्थानिक हार्डवेअरवर या मॉडेल्सच्या लहान आवृत्त्या चालवण्याचे मार्ग शोधत आहेत. याला ‘लोकल इन्फरन्स’ (local inference) म्हणतात. साध्या कामांसाठी हे काम करत असले, तरी सर्वात सक्षम मॉडेल्सना अजूनही डेटा सेंटरच्या प्रचंड संसाधनांची गरज असते. यामुळे एक टायर्ड सिस्टम तयार होते. सर्वात