המכונה הנסתרת מאחורי ה-AI: שבבים, ענן וקנה מידה תעשייתי

בינה מלאכותית מתוארת לעיתים קרובות כסדרה של אלגוריתמים אתריים שחיים בענן. התיאור הזה הוא פיקציה נוחה שמתעלמת מהמכונות התעשייתיות העצומות הנדרשות כדי להשאיר את המערכות הללו פועלות. המציאות של ה-AI המודרני נמצאת בעולם הפיזי של קווי מתח גבוה, מערכות קירור מסיביות וייצור סיליקון מיוחד. בעוד שעדכוני תוכנה נעים במהירות האור, התשתית שתומכת בהם נעה במהירות של בטון ופלדה. ההתקדמות של מודלים רחבי היקף נתקלת כעת במגבלות הקשות של הפיזיקה והלוגיסטיקה. אנחנו רואים שינוי שבו היכולת להבטיח חיבור לרשת החשמל או היתר למרכז נתונים חשובה לא פחות מהיכולת לכתוב קוד יעיל. הבנת העתיד של הטכנולוגיה דורשת להסתכל מעבר למסך ולתוך התעשייה הכבדה שמניעה אותה. צוואר הבקבוק הוא כבר לא רק כושר המצאה אנושי, אלא הזמינות של קרקע, מים וחשמל בהיקף שמעט תעשיות נדרשו לו אי פעם.

המשקל התעשייתי של בינה וירטואלית

החומרה הנדרשת ל-AI מורכבת בהרבה מציוד שרתים סטנדרטי. זה מתחיל בתכנון שבבים מיוחדים, אבל הסיפור עובר מהר מאוד לאריזה ולזיכרון. High Bandwidth Memory הוא חיוני להזנת נתונים למעבדים במהירות מספקת כדי לשמור על ביצועים. הזיכרון הזה מוערם אנכית ומשולב עם המעבד באמצעות טכניקות מתקדמות כמו Chip on Wafer on Substrate. התהליך הזה מטופל על ידי מספר קטן מאוד של חברות, מה שיוצר משפך צר עבור כל האספקה העולמית. רשתות הן רכיב פיזי קריטי נוסף. המערכות הללו לא עובדות בבידוד. הן דורשות חיבורים במהירות גבוהה כמו InfiniBand כדי לאפשר לאלפי שבבים לפעול כיחידה אחת. זה יוצר מגבלות פיזיות על האופן שבו נבנים מרכזי נתונים, מכיוון שאורך כבלי הנחושת או הסיבים האופטיים יכול להשפיע על המהירות של המערכת כולה.

ייצור הרכיבים הללו מרוכז במספר מתקנים מיוחדים ביותר. חברה אחת, TSMC, מייצרת את הרוב המכריע של השבבים המתקדמים בעולם. הריכוזיות הזו אומרת שאירוע מקומי אחד או שינוי במדיניות סחר יכולים לעצור את ההתקדמות של התעשייה כולה. המורכבות של ציוד הייצור היא גם גורם משמעותי. מכונות שמשתמשות ב-extreme ultraviolet lithography הן הכלים המורכבים ביותר שנבנו אי פעם על ידי בני אדם. הן מיוצרות על ידי חברה אחת בלבד בעולם ודורשות שנים של זמן המתנה להזמנה והתקנה. זה לא עולם של איטרציות מהירות. זה עולם של תכנון לטווח ארוך והוצאות הון מסיביות. התשתית היא הבסיס שעליו נבנה כל צ'אטבוט ומחולל תמונות. ללא השכבה הפיזית הזו, התוכנה פשוט לא יכולה להתקיים.

• טכניקות אריזה מתקדמות כמו CoWoS הן כיום צוואר הבקבוק העיקרי באספקת השבבים.
• ייצור High Bandwidth Memory דורש מפעלים מיוחדים שנמצאים כיום בתפוסה מלאה.
• חומרת רשת חייבת להיות מתוכננת לטיפול בתעבורת נתונים מסיבית עם השהיה מינימלית.
• לציוד ייצור עבור הצמתים העדכניים ביותר יש צבר הזמנות של שנים.
• ריכוז הייצור באזורים גיאוגרפיים ספציפיים יוצר סיכון משמעותי לשרשרת האספקה.

המפה הגיאופוליטית של כוח מחשוב

ריכוז ייצור החומרה הפך את ה-AI לעניין של ביטחון לאומי. ממשלות משתמשות כעת בבקרות ייצוא כדי להגביל את זרימת השבבים המתקדמים וציוד הייצור לאזורים מסוימים. הבקרות הללו אינן נוגעות רק לשבבים עצמם, אלא גם לידע הנדרש לבנייה ותחזוקה של המכונות שמייצרות אותם. זה יצר סביבה מפוצלת שבה לחלקים שונים בעולם יש גישה לרמות שונות של כוח מחשוב. הפער הזה משפיע על הכל, החל מפריון עסקי ועד למחקר מדעי. חברות נאלצות כעת לשקול את המיקום הגיאוגרפי של מרכזי הנתונים שלהן לא רק בגלל השהיה, אלא בגלל יציבות פוליטית ועמידה ברגולציה. זהו שינוי משמעותי מהימים הראשונים של האינטרנט, כאשר המיקום הפיזי של שרת היה כמעט לא רלוונטי.

הכוח העסקי בעידן החדש הזה מוחזק על ידי מי ששולט בתשתית. ספקי ענן שהבטיחו הזמנות גדולות של שבבים לפני שנים נהנים כעת מיתרון מסיבי על פני מצטרפים חדשים. ריכוז כוח זה הוא תוצאה ישירה של הדרישות הפיזיות של הטכנולוגיה. להבנה עמוקה יותר של הדינמיקה הזו, אתם יכולים לקרוא את ה-סקירה המעמיקה הזו על תשתית בינה מלאכותית כדי לראות כיצד חומרה מעצבת תוכנה. עלות הכניסה לבניית מודל תחרותי רחב היקף נמדדת כעת במיליארדי דולרים של חומרה. זה יוצר חסם כניסה שמיטיב עם ענקיות מבוססות וגופים הנתמכים על ידי מדינות. ב-, המיקוד עבר ממי שיש לו את האלגוריתם הטוב ביותר למי שיש לו את שרשרת האספקה האמינה ביותר ומרכזי הנתונים הגדולים ביותר. המגמה הזו צפויה להימשך ככל שהמודלים יגדלו בגודלם ובמורכבותם.

בטון וקירור בעולם האמיתי

ההשפעה הסביבתית של ה-AI מוסתרת לעיתים קרובות ממשתמש הקצה. שאילתה בודדת למודל שפה גדול יכולה לדרוש משמעותית יותר כוח מאשר בקשת מנוע חיפוש סטנדרטית. צריכת החשמל הזו מתורגמת לחום, שיש לנהל אותו עם מערכות קירור מסיביות. מערכות אלו משתמשות לעיתים קרובות במיליוני גלונים של מים בכל יום. באזורים המתמודדים עם מחסור במים, זה יוצר תחרות ישירה בין חברות טכנולוגיה לקהילות מקומיות. ה-צפיפות האנרגטית של מרכז נתונים של AI גבוהה פי כמה ממתקן מסורתי. המשמעות היא שרשתות חשמל קיימות לרוב אינן מסוגלות להתמודד עם העומס ללא שדרוגים משמעותיים. שדרוגים אלו יכולים לקחת שנים להשלמה ודורשים תהליכי אישור מורכבים המערבים ממשלות מקומיות ומדינתיות.

חשבו על יום בחייו של מנהל שירותים עירוני באזור שבו נבנה מרכז נתונים חדש. עליהם לוודא שהרשת המקומית יכולה להתמודד עם צריכת החשמל המסיבית והקבועה מבלי לגרום להפסקות חשמל לתושבים. הם מנהלים את הפעילות היומיומית של מערכת שמעולם לא תוכננה לרמה כזו של ביקוש מרוכז.

כאשר חברת טכנולוגיה מבקשת חיבור חדש, זה יכול להפעיל תהליך של שנים של בניית תחנות משנה והנחת קילומטרים של קווי מתח גבוה. זה מוביל לעיתים קרובות להתנגדות מקומית מצד אזרחים המודאגים מעליית תעריפי החשמל או מההשפעה הסביבתית של המתקן. ה-סוכנות האנרגיה הבינלאומית ציינה כי צריכת החשמל של מרכזי נתונים עלולה להכפיל את עצמה בשנים הקרובות. זהו לא רק אתגר טכני אלא חברתי ופוליטי. טביעת הרגל הפיזית של מרכז נתונים יכולה לכסות מאות אלפי m² של קרקע, לעיתים קרובות באזורים שבהם הקרקע כבר יקרה מאוד.

אישורים הם מגבלה מעשית נוספת שלעיתים קרובות מתעלמים ממנה. בניית מרכז נתונים כרוכה בניווט ברשת מורכבת של תקנות סביבתיות, חוקי ייעוד וקודי בנייה. בחלק מתחומי השיפוט, התהליך יכול לקחת זמן רב יותר מהבנייה עצמה. זה יוצר נתק בין הקצב המהיר של פיתוח תוכנה לקצב האיטי של תשתית פיזית. חברות מחפשות כעת מיקומים עם אישורים מהירים וגישה מוכנה לאנרגיה מתחדשת. עם זאת, גם עם אנרגיה מתחדשת, היקף הביקוש העצום הוא אתגר. מרכז נתונים שפועל 24 שעות ביממה דורש אספקה קבועה של כוח, מה שאומר שרוח ושמש חייבים להיות מגובים על ידי אחסון סוללות מסיבי או צורות אחרות של כוח בסיסי. זה מוסיף שכבה נוספת של מורכבות פיזית ועלות לפעילות.

שאלות קשות לעידן הגידול

ככל שאנו ממשיכים להגדיל את המערכות הללו, עלינו לשאול שאלות קשות על העלויות הנסתרות. מי באמת משלם על התשתית המסיבית הנדרשת ל-AI? בעוד שהכלים הם לעיתים קרובות בחינם או בעלות נמוכה עבור משתמש הקצה, העלויות הסביבתיות והחברתיות מופצות ברחבי החברה. האם התועלת של צ'אטבוט מדויק מעט יותר שווה את העומס על רשתות החשמל ואספקת המים שלנו? ישנה גם שאלת הפרטיות וריבונות הנתונים. ככל שיותר נתונים מעובדים במתקנים מסיביים ומרכזיים, הסיכון לפריצות נתונים רחבות היקף גדל. הריכוזיות הפיזית של הנתונים הופכת אותם גם למטרה עבור גורמים מדינתיים ופושעי סייבר. עלינו לשקול אם המעבר לעבר מחשוב מסיבי ומרכזי הוא הדרך היחידה קדימה או אם עלינו להשקיע יותר בחלופות מבוזרות ויעילות.

עלות החומרה היא גם דאגה. אם רק חברות מעטות יכולות להרשות לעצמן לבנות את התשתית הנדרשת למודלים המתקדמים ביותר, מה זה אומר על העתיד של מחקר פתוח ותחרות? אנחנו רואים מגמה שבה המערכות היכולות ביותר נעולות מאחורי APIs קנייניים, כאשר החומרה והנתונים הבסיסיים נשארים חסויים. חוסר השקיפות הזה מקשה על חוקרים עצמאיים לאמת טענות לגבי בטיחות והטיה. זה גם יוצר תלות במספר ספקים עבור תשתית קריטית. אם אחד מהספקים הללו יחווה כשל חומרה משמעותי או שיבוש גיאופוליטי, ההשפעה תורגש בכל הכלכלה העולמית. אלו אינן רק בעיות טכניות אלא שאלות יסוד לגבי האופן שבו אנחנו רוצים לבנות את העתיד הטכנולוגי שלנו.

יש לכם סיפור, כלי, טרנד או שאלה הקשורים ל-AI שלדעתכם כדאי לנו לסקר? שלחו לנו את רעיון המאמר שלכם — נשמח לשמוע.

ארכיטקטורת החומרה של מודלים מודרניים

עבור משתמשי כוח ומפתחים, המגבלות הפיזיות של ה-AI באות לידי ביטוי באינטגרציות זרימת עבודה ומגבלות API. רוב המשתמשים מקיימים אינטראקציה עם המודלים הללו דרך API, שהוא בעצם חלון למרכז נתונים מסיבי. ל-APIs הללו יש מגבלות קצב שקשורות ישירות לכוח המחשוב הזמין בקצה השני. כאשר מודל איטי להגיב, זה לרוב בגלל שהחומרה הפיזית משותפת לאלפי משתמשים אחרים. מפתחים מסוימים עוברים לאחסון מקומי והסקה מקומית כדי לעקוף את המגבלות הללו. עם זאת, הרצת מודל גדול באופן מקומי דורשת חומרה משמעותית, כולל GPUs מתקדמים עם כמויות גדולות של VRAM. זה הוביל לעלייה בביקוש לחומרה ברמת צרכן שיכולה להתמודד עם עומסי עבודה של AI, אבל אפילו השבבים הצרכניים הטובים ביותר הם רק שבריר מהכוח של ארון שרתים ייעודי במרכז נתונים.

השילוב של AI בתהליכי עבודה מקצועיים תלוי גם במיקום הפיזי של הנתונים. עבור חברות עם דרישות קפדניות לתושבות נתונים, שימוש במודל מבוסס ענן עשוי שלא להיות אופציה. זה מניע שוק לחומרת AI מקומית (on-premises), המאפשרת לחברות להריץ מודלים על שרתים משלהן. מערכות אלו יקרות ודורשות צוות מיוחד לתחזוקה. רשתות נותרות צוואר בקבוק מרכזי גם כאן. העברת מערכי נתונים גדולים לתוך ומחוץ למודל דורשת חיבורים ברוחב פס גבוה שאין למשרדים רבים. זו הסיבה שאנחנו רואים מיקוד ב-edge computing, שבו העיבוד נעשה קרוב יותר למקום שבו הנתונים נוצרים. זה מפחית את הצורך בהעברות נתונים מסיביות ויכול לשפר את חווית המשתמש על ידי הפחתת השהיה. חומרת ה-NVIDIA הפכה לסטנדרט דה-פקטו עבור הפעולות הללו, אך התעשייה מחפשת חלופות כדי להפחית עלויות ותלות.

• מגבלות קצב API הן השתקפות ישירה של קיבולת המחשוב הפיזית של הספק.
• הסקה מקומית דורשת קיבולת VRAM גבוהה, שהיא כיום תכונת פרימיום ב-GPUs צרכניים.
• חוקי תושבות נתונים מאלצים חזרה לחומרה מקומית עבור ארגונים רבים.
• Edge computing שואף לפתור את צוואר הבקבוק של הרשת על ידי העברת המחשוב קרוב יותר למשתמש.
• העלות של תחזוקת חומרת AI מיוחדת היא תקורה משמעותית עבור עסקים קטנים.

המציאות הפיזית של העתיד

הנרטיב של AI כתופעה דיגיטלית טהורה כבר אינו בר-קיימא. המגבלות של כוח, מים, קרקע וסיליקון הן כעת הגורמים העיקריים הקובעים את קצב ההתקדמות. אנחנו נכנסים לעידן שבו ההצלחה של חברת טכנולוגיה תלויה לא פחות ביכולתה לנהל שרשרת אספקה עולמית ולהבטיח חוזי אנרגיה מאשר במומחיות התוכנה שלה. הסתירות בין העולם הווירטואלי של ה-AI לעולם הפיזי של התשתית הופכות גלויות יותר בכל יום. ב-, עלינו להכיר בכך שלכל התקדמות דיגיטלית יש עלות פיזית. האתגר של העשור הבא יהיה מציאת דרכים להמשיך בהתקדמות הזו תוך ניהול המגבלות האמיתיות מאוד של משאבי כדור הארץ שלנו. העתיד של הטכנולוגיה אינו רק בקוד אלא בחומרה ובתשתית שהופכת אותו לאפשרי.

הערת העורך: יצרנו אתר זה כמרכז חדשות ומדריכים רב-לשוני בנושא בינה מלאכותית עבור אנשים שאינם "גיקים" של מחשבים, אך עדיין רוצים להבין בינה מלאכותית, להשתמש בה בביטחון רב יותר, ולעקוב אחר העתיד שכבר מגיע.

מצאת שגיאה או משהו שצריך לתקן? ספר לנו.