מה אומרת הצמיחה של מרכזי הנתונים על מרוץ ה-AI

הגבול הפיזי של בינה וירטואלית

המרוץ אחר בינה מלאכותית יצא ממעבדות המחקר ועבר לאתרי הבנייה. במשך שנים, התעשייה התמקדה באלגנטיות של הקוד ובגודל של רשתות נוירונים. כיום, האילוצים העיקריים הם פרימיטיביים הרבה יותר: קרקע, חשמל, מים ונחושת. אם אתם רוצים לבנות את הדור הבא של מודלי שפה גדולים, אתם לא צריכים רק אלגוריתם טוב יותר. אתם צריכים מבנה עצום מלא באלפי שבבים מיוחדים שצורכים כמות חשמל של עיר קטנה. המעבר הזה מתוכנה לתשתית כבדה שינה את אופי התחרות הטכנולוגית. זה כבר לא רק עניין של למי יש את המהנדסים הטובים ביותר, אלא למי יש חיבור לרשת החשמל ולמי יש יכולת לשכנע רשויות מקומיות לאשר הקמת מתקן שצורך מיליוני גלונים של מים לקירור.

בכל פעם שמשתמש מקליד הנחיה ב-chatbot, מתחילה שרשרת אירועים פיזית. הבקשה הזו לא קיימת ב-cloud, היא קיימת בתוך ארון שרתים. השרתים האלה הופכים לצפופים וחמים יותר. הצמיחה של המתקנים הללו היא ההתרחבות הפיזית המשמעותית ביותר בתולדות תעשיית הטכנולוגיה. זהו הימור ענק על עתיד ה-compute, אך הצמיחה הזו נתקלת בקיר של מציאות פיזית. אנחנו רואים מעבר מהרעיון המופשט של האינטרנט לעולם שבו מרכזי נתונים הם חיוניים ושנויים במחלוקת בדיוק כמו בתי זיקוק או תחנות כוח. זוהי המציאות החדשה של מרוץ ה-AI: תחרות על המשאבים הבסיסיים של העולם הפיזי.

מקוד לבטון ונחושת

בניית מרכז נתונים מודרני היא תרגיל בהנדסת תעשייה. בעבר, מרכז נתונים היה עשוי להיות מחסן מוסב עם קצת מיזוג אוויר נוסף. כיום, אלו מכונות שנבנו במיוחד כדי להתמודד עם החום העז של שבבי AI. הגורם החשוב ביותר הוא חשמל. שבב AI מודרני בודד יכול לצרוך יותר מ-700 וואט. כשדוחסים עשרות אלפים כאלה למבנה אחד, דרישות החשמל מגיעות למאות מגה-וואט. זה לא רק עניין של עלות החשמל, אלא הזמינות שלו. בחלקים רבים בעולם, רשת החשמל כבר נמצאת בתפוסה מלאה. חברות טכנולוגיה מתחרות כעת עם שכונות מגורים ומפעלים על אותו היצע מוגבל של אלקטרונים.

קרקע היא המכשול הבא. אי אפשר פשוט לבנות את המתקנים האלה בכל מקום. הם צריכים להיות קרובים לקווי סיבים אופטיים כדי להפחית latency, וגם באזורים שבהם הקרקע יציבה והאקלים נוח. זה הוביל לריכוז עצום של מרכזי נתונים במקומות כמו צפון וירג'יניה. האזור הזה מטפל בחלק עצום מתעבורת האינטרנט העולמית, אך גם שם הקרקע אוזלת. חברות מחפשות כעת מיקומים מרוחקים יותר, אך שם לרוב חסרים חיבורי רשת נחוצים. זה יוצר בעיית