AI রেসের জন্য ডেটা সেন্টারের ক্রমবর্ধমান গুরুত্ব কী?
ভার্চুয়াল ইন্টেলিজেন্সের শারীরিক সীমাবদ্ধতা
কৃত্রিম বুদ্ধিমত্তা বা AI-এর দৌড় এখন গবেষণাগার থেকে বেরিয়ে সরাসরি নির্মাণাধীন সাইটে পৌঁছে গেছে। বছরের পর বছর ধরে, ইন্ডাস্ট্রি কোডের সূক্ষ্মতা এবং নিউরাল নেটওয়ার্কের আকারের ওপর মনোযোগ দিয়েছে। কিন্তু বর্তমানে, সবচেয়ে বড় চ্যালেঞ্জগুলো অনেক বেশি মৌলিক—যেমন জমি, বিদ্যুৎ, পানি এবং কপার। আপনি যদি পরবর্তী প্রজন্মের লার্জ ল্যাঙ্গুয়েজ মডেল তৈরি করতে চান, তবে শুধু একটি ভালো অ্যালগরিদম থাকলেই চলবে না। আপনার প্রয়োজন এমন একটি বিশাল ভবন, যেখানে হাজার হাজার বিশেষায়িত চিপ থাকবে যা একটি ছোট শহরের সমান বিদ্যুৎ খরচ করে। সফটওয়্যার থেকে ভারী অবকাঠামোর দিকে এই পরিবর্তনটি প্রযুক্তির প্রতিযোগিতার ধরন বদলে দিয়েছে। এটি এখন আর কেবল সেরা ইঞ্জিনিয়ার থাকার লড়াই নয়; এটি লড়াই বিদ্যুৎ গ্রিডের সাথে সংযোগ স্থাপন এবং স্থানীয় সরকারকে রাজি করানোর, যাতে তারা এমন একটি স্থাপনা তৈরির অনুমতি দেয় যা কুলিংয়ের জন্য লক্ষ লক্ষ গ্যালন পানি ব্যবহার করবে।
প্রতিবার যখন কোনো ব্যবহারকারী চ্যাটবটে কিছু টাইপ করেন, তখন একটি শারীরিক ঘটনার চেইন শুরু হয়। সেই অনুরোধটি কোনো ক্লাউডে থাকে না; সেটি থাকে সার্ভারের র্যাকে। এই সার্ভারগুলো দিন দিন আরও ঘন এবং গরম হয়ে উঠছে। এই স্থাপনাগুলোর বৃদ্ধি প্রযুক্তি শিল্পের ইতিহাসে সবচেয়ে গুরুত্বপূর্ণ শারীরিক সম্প্রসারণ। এটি কম্পিউটিংয়ের ভবিষ্যতের ওপর একটি বিশাল বাজি। কিন্তু এই বৃদ্ধি এখন বাস্তবতার দেয়ালের সাথে ধাক্কা খাচ্ছে। আমরা ইন্টারনেটের বিমূর্ত ধারণা থেকে এমন এক জগতে সরে আসছি, যেখানে ডেটা সেন্টারগুলো তেল শোধনাগার বা বিদ্যুৎ কেন্দ্রের মতোই গুরুত্বপূর্ণ এবং বিতর্কিত। এটিই AI রেসের নতুন বাস্তবতা। এটি এখন ভৌত জগতের মৌলিক সম্পদগুলোর জন্য এক তীব্র প্রতিযোগিতা।
কোড থেকে কংক্রিট এবং কপার
একটি আধুনিক ডেটা সেন্টার তৈরি করা মানেই হলো ইন্ডাস্ট্রিয়াল ইঞ্জিনিয়ারিংয়ের এক বড় পরীক্ষা। আগে হয়তো কোনো পরিত্যক্ত গুদামঘরকে কিছুটা এয়ার কন্ডিশনিং দিয়ে ডেটা সেন্টার বানানো হতো, কিন্তু এখন এগুলো বিশেষভাবে তৈরি মেশিন, যা AI চিপের প্রচণ্ড তাপ সামলাতে সক্ষম। সবচেয়ে গুরুত্বপূর্ণ বিষয় হলো বিদ্যুৎ। একটি আধুনিক AI চিপ ৭০০ ওয়াটের বেশি বিদ্যুৎ টানতে পারে। যখন আপনি এমন হাজার হাজার চিপ একটি ভবনে রাখেন, তখন বিদ্যুতের চাহিদা কয়েকশ মেগাওয়াটে পৌঁছে যায়। এটি শুধু বিদ্যুতের খরচের বিষয় নয়, এটি হলো এর প্রাপ্যতার বিষয়। বিশ্বের অনেক জায়গায় বিদ্যুৎ গ্রিড ইতিমধ্যে পূর্ণ ক্ষমতায় চলছে। টেক কোম্পানিগুলো এখন একই সীমিত বিদ্যুতের জন্য সাধারণ আবাসিক এলাকা এবং কারখানার সাথে প্রতিযোগিতা করছে।
জমি হলো পরবর্তী বড় বাধা। আপনি চাইলেই যেকোনো জায়গায় এই স্থাপনা তৈরি করতে পারবেন না। ল্যাটেন্সি কমাতে এগুলোকে ফাইবার অপটিক লাইনের কাছাকাছি থাকতে হয়। এছাড়া মাটি স্থিতিশীল এবং জলবায়ু সহনশীল হওয়া জরুরি। এ কারণেই নর্দার্ন ভার্জিনিয়ার মতো জায়গায় ডেটা সেন্টারের বিশাল ঘনত্ব দেখা যায়। এই অঞ্চলটি বিশ্বব্যাপী ইন্টারনেট ট্র্যাফিকের একটি বড় অংশ নিয়ন্ত্রণ করে। কিন্তু সেখানেও এখন জমির সংকট। কোম্পানিগুলো এখন আরও প্রত্যন্ত অঞ্চলের দিকে তাকাচ্ছে, কিন্তু সেসব জায়গায় প্রায়ই প্রয়োজনীয় গ্রিড সংযোগ থাকে না। এটি একটি মুরগি ও ডিমের সমস্যার মতো। আপনি জমি খুঁজে পাবেন, কিন্তু বিদ্যুৎ পাবেন না; অথবা বিদ্যুৎ পাবেন, কিন্তু স্থানীয় পারমিট পেতে কয়েক বছর লেগে যাবে। পারমিটিং এখন একটি বড় বাধা হয়ে দাঁড়িয়েছে। স্থানীয় সরকারগুলো এই প্রকল্পগুলো নিয়ে ক্রমশ সন্দিহান হয়ে উঠছে, কারণ এগুলো অনেক জায়গা দখল করে এবং সম্পদ ব্যবহার করে, কিন্তু দীর্ঘমেয়াদে খুব কম কর্মসংস্থান তৈরি করে।
কুলিং বা শীতলীকরণ হলো এই অবকাঠামোর তৃতীয় স্তম্ভ। AI চিপ প্রচুর তাপ উৎপন্ন করে। প্রথাগত এয়ার কুলিং এখন আর উচ্চ ঘনত্বের র্যাকগুলোর জন্য যথেষ্ট নয়। অনেক নতুন স্থাপনা এখন লিকুইড কুলিংয়ের দিকে ঝুঁকছে। এতে পানি বা বিশেষ কুল্যান্টের পাইপ সরাসরি চিপের কাছে নিয়ে যাওয়া হয়। এর জন্য প্রচুর পানির প্রয়োজন। কিছু ক্ষেত্রে, একটি ডেটা সেন্টার বছরে কোটি কোটি গ্যালন পানি ব্যবহার করতে পারে। এটি টেক কোম্পানিগুলোকে স্থানীয় কৃষি এবং আবাসিক পানির চাহিদার সাথে সরাসরি প্রতিযোগিতায় ফেলে দেয়। খরাপ্রবণ এলাকায় এটি একটি রাজনৈতিক ইস্যু হয়ে দাঁড়িয়েছে। ইন্ডাস্ট্রি এখন ক্লোজড-লুপ সিস্টেমের দিকে যাওয়ার চেষ্টা করছে যা পানি রিসাইকেল করে, কিন্তু প্রাথমিক চাহিদাগুলো এখনো বিশাল। এগুলোই সেই ব্যবহারিক সীমাবদ্ধতা যা বর্তমান প্রযুক্তি বিকাশের ধারাকে সংজ্ঞায়িত করছে।
হাই পারফরম্যান্স কম্পিউটের ভূ-রাজনীতি
ডেটা সেন্টারগুলো এখন আর কেবল কর্পোরেট সম্পদ নয়; এগুলো জাতীয় অগ্রাধিকার। সারা বিশ্বের সরকারগুলো বুঝতে পারছে যে কম্পিউট পাওয়ার হলো জাতীয় শক্তির একটি রূপ। এর ফলে ‘সোভেরেইন AI’-এর ধারণার জন্ম হয়েছে। দেশগুলো চায় তাদের নিজস্ব ডেটা সেন্টার তাদের সীমানার ভেতরে থাকুক, যাতে ডেটা প্রাইভেসি এবং জাতীয় নিরাপত্তা নিশ্চিত করা যায়। তারা অন্য দেশের স্থাপনার ওপর নির্ভর করতে চায় না। এটি একটি খণ্ডিত বৈশ্বিক অবকাঠামোর দিকে নিয়ে যাচ্ছে। কয়েকটি বিশাল হাবের পরিবর্তে, আমরা প্রতিটি বড় অর্থনীতিতে স্থানীয় ডেটা সেন্টারের চাহিদা দেখছি। এটি গত দশকের কেন্দ্রীভূত মডেল থেকে একটি বড় পরিবর্তন। এটি অবকাঠামোর দৌড়কে আরও জটিল করে তুলেছে কারণ কোম্পানিগুলোকে প্রতিটি দেশে ভিন্ন ভিন্ন রেগুলেটরি পরিবেশের সাথে মানিয়ে চলতে হয়।
এই ভূ-রাজনৈতিক মাত্রা ডেটা সেন্টারগুলোকে ইন্ডাস্ট্রিয়াল পলিসির লক্ষ্যবস্তুতে পরিণত করেছে। কিছু সরকার ডেটা সেন্টার ডেভেলপারদের আকৃষ্ট করতে বিশাল ভর্তুকি দিচ্ছে। তারা এই ভবনগুলোকে আধুনিক অর্থনীতির ভিত্তি হিসেবে দেখছে। আবার কেউ কেউ বিপরীত পথে হাঁটছে। তারা তাদের জাতীয় গ্রিডের ওপর চাপ এবং এই উচ্চ শক্তি ব্যবহারের পরিবেশগত প্রভাব নিয়ে উদ্বিগ্ন। উদাহরণস্বরূপ, কিছু শহর নতুন ডেটা সেন্টার নির্মাণে স্থগিতাদেশ দিয়েছে যতক্ষণ না তারা তাদের বৈদ্যুতিক অবকাঠামো উন্নত করতে পারে। এটি প্রাপ্যতার ক্ষেত্রে একটি অসামঞ্জস্য তৈরি করে। একটি কোম্পানি হয়তো এক দেশে নির্মাণ করতে পারছে কিন্তু অন্য দেশে বাধা পাচ্ছে। এই ভৌগোলিক বণ্টন গুরুত্বপূর্ণ কারণ এটি ওই অঞ্চলের ব্যবহারকারীদের জন্য AI মডেলের ল্যাটেন্সি এবং পারফরম্যান্সকে প্রভাবিত করে। যদি কোনো দেশে স্থানীয় কম্পিউট সুবিধা না থাকে, তবে তার নাগরিকরা সবসময় AI রেসে পিছিয়ে থাকবে।
এই সম্পদগুলোর জন্য লড়াই আসলে সাপ্লাই চেইনের লড়াই। ডেটা সেন্টার তৈরির জন্য প্রয়োজনীয় যন্ত্রাংশের অভাব রয়েছে। এর মধ্যে চিপ থেকে শুরু করে গ্রিডের সাথে সংযোগ স্থাপনের জন্য প্রয়োজনীয় বিশাল ট্রান্সফরমার পর্যন্ত সবকিছুই অন্তর্ভুক্ত। এই যন্ত্রাংশগুলোর কিছু পাওয়ার জন্য দুই থেকে তিন বছর পর্যন্ত অপেক্ষা করতে হতে পারে। এর মানে হলো, 2026 সালে যারা AI রেসে জিতেছে, তারা কয়েক বছর আগের সিদ্ধান্তের কারণে জিতেছে। যেসব কোম্পানি আগেভাগে বিদ্যুৎ এবং সরঞ্জাম নিশ্চিত করেছে, তারা অনেক এগিয়ে আছে। যারা এখন বাজারে প্রবেশের চেষ্টা করছে, তারা দেখছে দরজা প্রায় বন্ধ। ভৌত জগত সফটওয়্যারের জগতের চেয়ে অনেক ধীরগতিতে চলে। আপনি একদিনে নতুন কোড লিখতে পারেন, কিন্তু একদিনে সাবস্টেশন তৈরি করতে পারবেন না। এই বাস্তবতা টেক কোম্পানিগুলোকে ইন্ডাস্ট্রিয়াল জায়ান্টদের মতো চিন্তা করতে বাধ্য করছে।
লার্জ ল্যাঙ্গুয়েজ মডেল এবং স্থানীয় পাওয়ার গ্রিড
এই প্রবৃদ্ধির প্রভাব বোঝার জন্য একটি আধুনিক ডেটা সেন্টারের সাধারণ দিনের কথা চিন্তা করুন। কল্পনা করুন একটি মাঝারি শহরের উপকণ্ঠে অবস্থিত একটি স্থাপনা। ভেতরে সারিবদ্ধ র্যাক, যার প্রতিটি প্রায় একটি ফ্রিজের সমান। এই র্যাকগুলো GPU-তে ঠাসা। সূর্য ওঠার সাথে সাথে যখন মানুষ তাদের কাজ শুরু করে, তখন AI পরিষেবার চাহিদা তুঙ্গে ওঠে। কোড কমপ্লিশন, ইমেজ জেনারেশন এবং টেক্সট সামারাইজেশনের হাজার হাজার অনুরোধ ভবনে আছড়ে পড়ে। প্রতিটি অনুরোধ বিদ্যুতের চাহিদা বাড়িয়ে দেয়। কুলিং ফ্যানগুলো দ্রুত ঘুরতে থাকে। লিকুইড কুলিং পাম্পগুলো গতি বাড়ায়। এই চিপগুলো থেকে উৎপন্ন তাপ এতটাই তীব্র যে সার্ভার রুমের ইনসুলেটেড দেয়াল দিয়েও তা অনুভব করা যায়। এটিই আধুনিক অর্থনীতির শব্দ। এটি একটি অবিরাম, নিম্ন-ফ্রিকোয়েন্সির গুঞ্জন যা কখনোই থামে না।
দেয়ালের বাইরে, এর প্রভাব অনুভব করে স্থানীয় সম্প্রদায়। স্থানীয় ইউটিলিটি কোম্পানিকে এই লোড সামলাতে হয়। যদি ডেটা সেন্টার খুব বেশি বিদ্যুৎ টানে, তবে গ্রিডে অস্থিরতা তৈরি হতে পারে। এই কারণেই অনেক ডেটা সেন্টারের নিজস্ব বিশাল ব্যাটারি ব্যাংক এবং ডিজেল জেনারেটর থাকে। তারা মূলত তাদের নিজস্ব মিনি-ইউটিলিটি। কিন্তু এই জেনারেটরগুলো শব্দ এবং দূষণ তৈরি করে, যা স্থানীয় প্রতিরোধের জন্ম দেয়। কাছের এলাকার বাসিন্দারা হয়তো অবিরাম গুঞ্জন বা তাদের বাড়ির পাশ দিয়ে বিশাল পাওয়ার লাইন যাওয়ার দৃশ্য নিয়ে অভিযোগ করেন। তারা এমন একটি ভবন দেখেন যা ৫০০,০০০ m2 জায়গা জুড়ে রয়েছে কিন্তু মাত্র কয়েক ডজন লোককে চাকরি দেয়। তারা ভাবে, স্থানীয় সম্পদের ওপর এই চাপের বিনিময়ে তারা কী পাচ্ছে? এখানেই প্রযুক্তির সাথে রাজনীতির মিলন ঘটে। ডেটা সেন্টার ইঞ্জিনিয়ারিংয়ের এক বিস্ময়, কিন্তু এটি এমন এক প্রতিবেশী যে প্রচুর বিদ্যুৎ এবং পানি খরচ করে।
এর স্কেল কল্পনা করা কঠিন। একটি বড় ডেটা সেন্টার ক্যাম্পাস ১০০,০০০ বাড়ির সমান বিদ্যুৎ খরচ করতে পারে। যখন কোনো টেক জায়ান্ট ১০ বিলিয়ন ডলারের নতুন প্রকল্পের ঘোষণা দেয়, তারা শুধু সার্ভার কিনছে না; তারা একটি বিশাল ইন্ডাস্ট্রিয়াল কমপ্লেক্স তৈরি করছে। এর মধ্যে ডেডিকেটেড ওয়াটার ট্রিটমেন্ট প্ল্যান্ট এবং ব্যক্তিগত বৈদ্যুতিক সাবস্টেশন অন্তর্ভুক্ত। কিছু ক্ষেত্রে, তারা কার্বন-মুক্ত শক্তির নিরবচ্ছিন্ন সরবরাহ নিশ্চিত করতে পারমাণবিক শক্তিতেও বিনিয়োগ করছে। এটি টেক কোম্পানিগুলোর আগের কাজের পদ্ধতির চেয়ে সম্পূর্ণ আলাদা। তারা এখন আর অন্যের ভবনের ভাড়াটিয়া নয়; তারা অনেক অঞ্চলে অবকাঠামো উন্নয়নের প্রধান চালিকাশক্তি। এই প্রবৃদ্ধি আমাদের শহরের চেহারা এবং ইউটিলিটি পরিচালনার পদ্ধতি বদলে দিচ্ছে। এটি ডিজিটাল যুগের এক বিশাল, দৃশ্যমান বহিঃপ্রকাশ।
এই ঘর্ষণ শুধু সম্পদের বিষয় নয়; এটি পরিবর্তনের গতির বিষয়। একটি স্থানীয় পাওয়ার গ্রিড কয়েক দশক ধরে একটি নির্দিষ্ট হারে বাড়ার জন্য ডিজাইন করা হয়েছে। AI বুম সেই প্রবৃদ্ধিকে মাত্র কয়েক বছরে সংকুচিত করে ফেলেছে। ইউটিলিটিগুলো তাল মিলিয়ে চলতে হিমশিম খাচ্ছে। কিছু অঞ্চলে নতুন গ্রিড সংযোগের জন্য অপেক্ষার সময় এখন পাঁচ বছরের বেশি। এটি গ্রিড অ্যাক্সেসকে একটি মূল্যবান পণ্যে পরিণত করেছে। কিছু কোম্পানি এমনকি পুরনো ইন্ডাস্ট্রিয়াল সাইটগুলো কিনে নিচ্ছে শুধু এই কারণে যে সেখানে আগে থেকেই উচ্চ-ক্ষমতার পাওয়ার সংযোগ রয়েছে। তাদের ভবনের প্রতি কোনো আগ্রহ নেই; তারা মাটির নিচের কপারের দিকে তাকিয়ে আছে। বাজারে এখন এই পর্যায়ের মরিয়া অবস্থা। AI রেস এখন স্থানীয় প্ল্যানিং কমিশন এবং ইউটিলিটি বোর্ডরুমের অলিগলিতে লড়াই করা হচ্ছে।
কম্পিউট যুগের কঠিন প্রশ্ন
আমরা যখন এই সম্প্রসারণ চালিয়ে যাচ্ছি, তখন আমাদের লুকানো খরচগুলো নিয়ে কঠিন প্রশ্ন করতে হবে। এই বিশাল নির্মাণের সুবিধা আসলে কে পাচ্ছে? যদিও AI পরিষেবা বিশ্বব্যাপী পাওয়া যায়, পরিবেশগত এবং অবকাঠামোগত খরচগুলো প্রায়ই স্থানীয় পর্যায়ে সীমাবদ্ধ। একটি গ্রামীণ এলাকার সম্প্রদায় হয়তো দেখবে তাদের পানির স্তর নিচে নেমে যাচ্ছে, কারণ তারা এমন একটি ডেটা সেন্টারকে সহায়তা করছে যা পৃথিবীর অন্য প্রান্তের ব্যবহারকারীদের সেবা দেয়। আমাদের এই মডেলের দীর্ঘমেয়াদী স্থায়িত্ব নিয়েও ভাবতে হবে। যদি প্রতিটি বড় কোম্পানি এবং সরকার তাদের নিজস্ব বিশাল কম্পিউট ক্লাস্টার চায়, তবে মোট বৈশ্বিক শক্তির চাহিদা হবে আকাশচুম্বী। এটি কি আমাদের সীমিত শক্তির সম্পদের সর্বোত্তম ব্যবহার? আমরা মূলত শারীরিক শক্তিকে ডিজিটাল বুদ্ধিমত্তার বিনিময়ে বিক্রি করছি। এটি এমন একটি ট্রেড-অফ যার জন্য আরও বেশি জনবিতর্ক প্রয়োজন।
প্রাইভেসি এবং নিয়ন্ত্রণের প্রশ্নও রয়েছে। যেহেতু ডেটা সেন্টারগুলো অল্প কিছু টেক জায়ান্টের হাতে কেন্দ্রীভূত হচ্ছে, তাই সেই কোম্পানিগুলো অবিশ্বাস্য পরিমাণ ক্ষমতা অর্জন করছে। তারা কেবল সফটওয়্যারের সরবরাহকারী নয়; তারা সেই ভৌত অবকাঠামোর মালিক যা আধুনিক জীবনকে সম্ভব করে তোলে। যদি একটি কোম্পানি ডেটা সেন্টার, চিপ এবং মডেলগুলোর মালিক হয়, তবে তাদের উল্লম্ব একীকরণ (vertical integration) অভূতপূর্ব পর্যায়ে পৌঁছায়। এটি ছোট প্রতিযোগীদের জন্য প্রবেশের পথে বিশাল বাধা তৈরি করে। একটি স্টার্টআপ কীভাবে প্রতিযোগিতা করবে যখন তারা পাওয়ার পারমিটই পাচ্ছে না? AI অবকাঠামোর ভৌত বাস্তবতা হয়তো চূড়ান্ত প্রতিযোগিতাবিরোধী শক্তি। এটি ধারণার বাজারকে পুঁজি এবং কংক্রিটের বাজারে পরিণত করছে।
অবশেষে, আমাদের এই সিস্টেমের স্থিতিস্থাপকতা বা রেজিলিয়েন্সের দিকে তাকাতে হবে। এত বেশি কম্পিউট পাওয়ারকে কয়েকটি ভৌগোলিক হাবে কেন্দ্রীভূত করার মাধ্যমে, আমরা ব্যর্থতার একক বিন্দু (single points of failure) তৈরি করছি। কোনো প্রাকৃতিক দুর্যোগ বা বড় ডেটা সেন্টার হাবে লক্ষ্যবস্তু আক্রমণ বিশ্বব্যাপী পরিণতি বয়ে আনতে পারে। মহামারীর সময় আমরা এর কিছুটা আভাস পেয়েছিলাম, যখন সাপ্লাই চেইন বিঘ্নিত হওয়ায় ডেটা সেন্টার সম্প্রসারণ ধীর হয়ে গিয়েছিল। কিন্তু এখন ঝুঁকি আরও বেশি। আমাদের পুরো অর্থনীতি এই স্থাপনাগুলোর ওপর ভিত্তি করে গড়ে উঠছে। যদি গ্রিড ব্যর্থ হয় বা কুলিংয়ের পানি ফুরিয়ে যায়, তবে AI থেমে যাবে। এটি ডিজিটাল যুগের এক প্যারাডক্স। আমাদের সবচেয়ে উন্নত প্রযুক্তি সম্পূর্ণভাবে সবচেয়ে মৌলিক ভৌত সিস্টেমের ওপর নির্ভরশীল। আমরা একটি খুব ভঙ্গুর ভিত্তির ওপর একটি ভবিষ্যতবাদী জগত তৈরি করছি।
BotNews.today কন্টেন্ট গবেষণা, লেখা, সম্পাদনা এবং অনুবাদের জন্য এআই টুল ব্যবহার করে। আমাদের দল তথ্যকে দরকারী, স্পষ্ট এবং নির্ভরযোগ্য রাখতে প্রক্রিয়াটি পর্যালোচনা ও তত্ত্বাবধান করে।
AI ব্যাকবোনের আর্কিটেকচার
যারা প্রযুক্তিগত দিকটি দেখছেন, তাদের জন্য ডেটা সেন্টার ডিজাইনের পরিবর্তনটি গভীর। আমরা সাধারণ ক্লাউড কম্পিউটিং থেকে বিশেষায়িত AI ফ্যাক্টরির দিকে সরে আসছি। প্রথাগত ডেটা সেন্টারে লক্ষ্য ছিল হাজার হাজার গ্রাহকের জন্য হাজার হাজার ভিন্ন অ্যাপ্লিকেশন হোস্ট করা। কাজের চাপ ছিল অনির্দেশ্য কিন্তু সাধারণত কম তীব্র। একটি AI ফ্যাক্টরিতে, পুরো ভবনটি প্রায়ই একটি একক কাজের জন্য নিবেদিত থাকে, যেমন একটি বিশাল মডেল ট্রেনিং করা। এটি অনেক উচ্চ স্তরের অপ্টিমাইজেশনের সুযোগ দেয়। নেটওয়ার্কিং নিজেই একটি বিশাল চ্যালেঞ্জ। হাজার হাজার GPU জুড়ে একটি মডেল ট্রেনিং করতে, আপনার এমন একটি নেটওয়ার্ক প্রয়োজন যা প্রায় শূন্য ল্যাটেন্সিতে অবিশ্বাস্য পরিমাণ ডেটা হ্যান্ডেল করতে পারে। এর ফলে InfiniBand এবং ৮০০Gbps গতিতে কাজ করা হাই-স্পিড ইথারনেট সুইচের মতো প্রযুক্তির ব্যবহার বাড়ছে।
আপনার কি কোনো এআই গল্প, টুল, প্রবণতা, বা প্রশ্ন আছে যা আপনার মনে হয় আমাদের কভার করা উচিত? আপনার প্রবন্ধের ধারণা আমাদের পাঠান — আমরা তা শুনতে আগ্রহী।স্টোরেজ আরেকটি গুরুত্বপূর্ণ ফ্যাক্টর। একটি AI মডেল ট্রেনিং করার জন্য GPU যত দ্রুত প্রসেস করতে পারে, তত দ্রুত পেটাবাইট ডেটা ফিড করা প্রয়োজন। এটি এই কাজের জন্য প্রথাগত হার্ড ড্রাইভগুলোকে অকেজো করে দিয়েছে। সবকিছু এখন হাই-স্পিড NVMe ফ্ল্যাশ স্টোরেজের দিকে যাচ্ছে। কিন্তু ডেটা পাইপলাইন সঠিকভাবে ডিজাইন না করা হলে দ্রুততম স্টোরেজও বাধা হয়ে দাঁড়াতে পারে। এ কারণেই আমরা লোকাল স্টোরেজ এবং এজ কম্পিউটিংয়ের ওপর বেশি মনোযোগ দিচ্ছি। ডেটাকে কম্পিউটের কাছাকাছি নিয়ে আসার মাধ্যমে, কোম্পানিগুলো নেটওয়ার্কের ওপর চাপ কমাতে পারে। তবে, মডেলগুলোর বিশাল আকার এটিকে কঠিন করে তোলে। একটি অত্যাধুনিক মডেল শত শত গিগাবাইট আকারের হতে পারে, যা বিশাল সার্ভার ক্লাস্টার ছাড়া চালানো কঠিন। এটি ক্ষমতাকে তাদের হাতেই রাখে যারা বড় স্থাপনা সামর্থ্য রাখে।
আমরা API এবং লোকাল স্টোরেজের মিথস্ক্রিয়াতেও পরিবর্তন দেখছি। অনেক ডেভেলপার ক্লাউডের উচ্চ খরচ এবং ল্যাটেন্সি এড়াতে লোকাল হার্ডওয়্যারে এই মডেলগুলোর ছোট সংস্করণ চালানোর উপায় খুঁজছেন। একে বলা হয় লোকাল ইনফারেন্স। যদিও এটি সাধারণ কাজের জন্য কাজ করে, সবচেয়ে সক্ষম মডেলগুলোর জন্য এখনো ডেটা সেন্টারের বিশাল সম্পদের প্রয়োজন হয়। এটি একটি টায়ার্ড সিস্টেম তৈরি করে।
