מה מדינות באמת רוצות מבינה מלאכותית צבאית?

המרוץ אחר מהירות אלגוריתמית

אסטרטגיית הגנה מודרנית היא כבר לא רק עניין של גודל צבא או טווח של טילים. כיום, העדיפות של כל מעצמה עולמית היא דחיסת זמן. מדינות רוצות לקצר את החלון שבין זיהוי איום לנטרולו. התהליך הזה, שלעיתים מכונה "לולאת חיישן-ליורה", הוא המקום שבו בינה מלאכותית מוצאת את ייעודה העיקרי בהקשרים צבאיים. ממשלות לא מחפשות רובוטים בעלי תודעה שיחליפו חיילים. הן מחפשות עיבוד נתונים במהירות גבוהה שיכול לזהות טנק מוסתר בתמונת לוויין או לחזות היכן להקת רחפנים עלולה לתקוף עוד לפני שמפעיל אנושי יספיק למצמץ. המטרה היא עליונות טקטית באמצעות שליטה במידע. אם צד אחד יכול לעבד נתונים ולקבל החלטות מהר פי עשרה מהיריב, הגודל הפיזי של הכוח היריב הופך למשני. זהו לב השינוי הנוכחי ברכש ביטחוני עולמי.

המיקוד נותר בשלושה תחומים ספציפיים: מעקב, לוגיסטיקה חזויה וניווט אוטונומי. בעוד שהציבור חושש לעיתים קרובות מרובוטים קטלניים, המציאות הצבאית היא הרבה יותר ארצית אך משמעותית באותה מידה. היא כוללת תוכנה שיכולה לסרוק אלפי שעות של וידאו כדי למצוא לוחית רישוי אחת. היא כוללת אלגוריתמים שאומרים למפקד מתי מנוע סילון צפוי להתקלקל כדי שניתן יהיה לתקן אותו לפני משימה. יישומים אלו כבר בשימוש ומשנים את הדרך שבה מוקצים תקציבים צבאיים. השינוי מתרחק מחומרה מסורתית לעבר מערכות הגנה מבוססות תוכנה שניתן לעדכן בזמן אמת. השינוי הזה הוא לא רק עניין של טכנולוגיה. הוא עוסק בדרך הבסיסית שבה אומה מגנה על האינטרסים שלה בעידן שבו מידע הוא המשאב היקר ביותר בשדה הקרב.

בינה מלאכותית צבאית היא קטגוריה רחבה המכסה הכל, מאוטומציה פשוטה ועד מערכות תמיכה בהחלטות מורכבות. ברמה הבסיסית ביותר, מדובר בזיהוי תבניות. מחשבים מצוינים במציאת מחטים בערימות שחת. בהקשר צבאי, אותה מחט עשויה להיות משגר טילים מוסווה או תדר ספציפי של הפרעות רדיו. אוטומציה מטפלת במשימות חוזרות שמעייפות בני אדם, כמו ניטור גדר גבול במשך עשרים וארבע שעות ברציפות. אוטונומיה היא שונה. אוטונומיה כוללת מערכת שיכולה לקבל החלטות משל עצמה בתוך מערכת פרמטרים מוגדרת מראש. רוב המדינות מתמקדות כיום במערכות חצי-אוטונומיות שבהן אדם נשאר בתוך הלולאה כדי לקבל את ההחלטה הסופית. הבחנה זו היא קריטית כי היא מגדירה את הגבולות המשפטיים והאתיים של לוחמה מודרנית. היגיון הרכש למערכות אלו מונע מהצורך ביעילות ומהרצון להרחיק חיילים אנושיים ממצבים בסיכון גבוה. תוכלו לקרוא עוד על המגמות הללו בדיווח ה-AI האחרון שלנו, המכסה את המפגש בין טכנולוגיה למדיניות.

הפער בין רטוריקה לפריסה בשטח הוא רחב. בעוד פוליטיקאים מדברים על machine learning מתקדם, המציאות בשטח כוללת לעיתים קרובות מאבק לגרום למערכות תוכנה שונות לתקשר זו עם זו. רכש הוא תהליך איטי שלעיתים מתנגש עם הקצב המהיר של פיתוח תוכנה. מטוס קרב מסורתי עשוי לקחת עשרים שנה לפיתוח, אך מודל AI יכול להתיישן בתוך שישה חודשים. זה יוצר נקודת חיכוך באופן שבו צבאות קונים טכנולוגיה. הם מנסים לעבור למערכות מודולריות שבהן החומרה נשארת זהה אך ה"מוח" של המכונה ניתן להחלפה או לשדרוג בתדירות גבוהה. זה דורש שיפוץ מוחלט של האופן שבו חוזי ביטחון נכתבים ואיך קניין רוחני מנוהל בין הממשלה לחברות טכנולוגיה פרטיות. המעבר למערכות אלו מונע גם מהזמינות הגוברת של טכנולוגיה מסחרית זולה שניתן להתאים לשימוש צבאי. הדמוקרטיזציה הזו של הטכנולוגיה אומרת שאפילו מדינות קטנות יותר יכולות כעת לגשת ליכולות שהיו שמורות בעבר למעצמות-על.

ההשפעה העולמית של טכנולוגיות אלו היא עמוקה כי הן משנות את חישובי ההרתעה. אם מדינה יודעת שליריב שלה יש מערכת AI שיכולה ליירט כל טיל נכנס בדיוק כמעט מושלם, האיום של מתקפת טילים מאבד מכוחו. זה מוביל למרוץ חימוש לא רק בנשק, אלא באלגוריתמים ששולטים בו. זה יוצר סוג חדש של חוסר יציבות. כאשר שתי מערכות אוטונומיות מקיימות אינטראקציה, התוצאה יכולה להיות בלתי צפויה. קיים סיכון להסלמה מקרית שבה מכונה תופסת איום ומגיבה לפני שאדם יכול להתערב. זהו דאגה מרכזית עבור מומחי ביטחון בינלאומיים שחוששים שמהירות ה-AI עלולה להוביל לסכסוכים שיוצאים משליטה בתוך דקות. הקהילה הבינלאומית דנה כעת בשאלה האם צריכים להיות איסורים בינלאומיים על סוגים מסוימים של נשק אוטונומי, אך המעצמות הגדולות מהססות לחתום על משהו שעלול להעמיד אותן בעמדת נחיתות. המיקוד הוא בשמירה על יתרון תחרותי תוך ניסיון לקבוע כמה חוקי יסוד למניעת טעות קטסטרופלית.

מעצמות אזוריות משתמשות גם הן בכלים אלו כדי להקרין השפעה. באזורים כמו ים סין הדרומי או מזרח אירופה, AI למעקב מאפשר ניטור מתמיד של תנועות ללא צורך בנוכחות פיזית מאסיבית. זה יוצר מצב של תצפית קבועה שבו כל תנועה מתועדת ומנותחת. עבור מדינות קטנות יותר, AI מציע דרך להילחם מעל למשקלן. צי קטן של כלי שיט אוטונומיים יכול לנטר ביעילות קו חוף בשבריר מהעלות של צי מסורתי. השינוי הזה מביא לביזור הכוח הצבאי והופך את סביבת הביטחון העולמית למורכבת יותר. זה כבר לא רק עניין של למי יש הכי הרבה טנקים. זה עניין של למי יש את הנתונים הטובים ביותר ואת האלגוריתמים היעילים ביותר לעיבודם. השינוי הזה מאלץ כל אומה לחשוב מחדש על אסטרטגיית ההגנה שלה מהיסוד. המיקוד עובר מכוח פיזי לזריזות קוגניטיבית.

כדי להבין את ההשפעה בעולם האמיתי, שקלו יום בחייו של אנליסט מודיעין מודרני. לפני עשר שנים, אדם זה היה מבלה שמונה שעות ביום בבחינה ידנית של תמונות לוויין וסימון מטרות פוטנציאליות. זה היה איטי, מעייף ומועד לטעויות אנוש. כיום, האנליסט מגיע לשולחנו ומתקבל על ידי רשימה של התראות בעדיפות גבוהה שנוצרו על ידי AI. התוכנה כבר סרקה אלפי תמונות וסימנה כל דבר שנראה חשוד. האנליסט מבלה אז את זמנו באימות ההתראות הללו ובהחלטה איזו פעולה לנקוט. זהו מעבר מאיסוף נתונים לאימות נתונים. בתרחיש קרבי, מטיס רחפנים עשוי לנהל תריסר כלי טיס אוטונומיים בו-זמנית. המטיס לא מטיס את המטוסים במובן המסורתי. במקום זאת, הוא נותן פקודות ברמה גבוהה כמו "סרוק את האזור הזה" או "נטר את השיירה ההיא". ה-AI מטפל בנתיב הטיסה, בניהול הסוללה ובמניעת התנגשויות. זה מאפשר לאדם בודד להשפיע הרבה יותר על שדה הקרב מאי פעם.

בסביבה ימית, ספינה אוטונומית עשויה לבלות חודשים בים, בהקשבה שקטה לחתימה האקוסטית של צוללת. היא לא צריכה אוכל, שינה או משכורת. היא פשוט עוקבת אחר התכנות שלה ומדווחת חזרה כשהיא מוצאת משהו מעניין. סוג כזה של מעקב מתמיד הוא משנה משחק עבור ביטחון גבולות וסיורים ימיים. הוא מאפשר למדינה לשמור על נוכחות באזורים מרוחקים מבלי לסכן חיי אדם. עם זאת, זה גם אומר שהסף לסכסוך יורד. אם מדינה מאבדת רחפן אוטונומי, זהו הפסד כספי, לא אנושי. זה עשוי לגרום למנהיגים להיות נכונים יותר לקחת סיכונים שהיו נמנעים מהם אם היו מעורבים טייסים אנושיים. היעדר הסיכון האנושי עלול להוביל להתכתשויות תכופות יותר ולרמת מתח כללית גבוהה יותר באזורים שנויים במחלוקת. זהו המחיר הנסתר של הפיכת הלוחמה ליעילה יותר ופחות מסוכנת עבור הצד עם הטכנולוגיה הטובה יותר.

היגיון הרכש מאחורי מערכות אלו משנה גם את היחסים בין הצבא למגזר הפרטי. חברות כמו Palantir ו-Anduril הן כיום שחקניות מרכזיות במרחב הביטחוני. הן מביאות גישת Silicon Valley לחומרה ותוכנה שהיא שונה מאוד מקבלני ביטחון מסורתיים. הן מתמקדות באיטרציה מהירה ובחוויית משתמש. זה מושך דור חדש של מהנדסים לתעשייה הביטחונית, אך זה גם מעלה שאלות לגבי השפעת חברות פרטיות על מדיניות ביטחון לאומי. כאשר חברה פרטית מחזיקה באלגוריתמים שמפעילים את מערכות ההגנה של מדינה, הגבול בין ממשלה לתעשייה הופך למטושטש. זה נכון במיוחד כשמדובר בנתונים. מערכות AI זקוקות לכמויות עצומות של נתונים כדי ללמוד. לעיתים קרובות, נתונים אלו מגיעים מהמגזר הפרטי או נאספים על ידי חברות פרטיות בשם הממשלה. זה יוצר תלות שקשה להתיר ויש לה השלכות ארוכות טווח על האופן שבו מלחמות מתנהלות ואיך שלום נשמר.

ספקנות סוקרטית מאלצת אותנו לשאול שאלות קשות על התפתחויות אלו. אם מערכת אוטונומית עושה טעות ופוגעת במטרה אזרחית, מי אחראי? האם זה המתכנת שכתב את הקוד, המפקד שפרס את המערכת, או היצרן שבנה את החומרה? מסגרות משפטיות נוכחיות אינן מצוידות להתמודד עם רמה כזו של מורכבות. ישנה גם סוגיית ההטיה. אם AI מאומן על נתונים מסכסוכי עבר, הוא עלול לרשת את ההטיות של אלו שנלחמו בהם. זה עלול להוביל למיקוד לא הוגן של קבוצות או אזורים מסוימים על בסיס נתונים היסטוריים פגומים. יתרה מכך, מהם העלויות הנסתרות של טכנולוגיה זו? בעוד שהיא עשויה לחסוך כסף על כוח אדם, העלות של תחזוקת התשתית הדיגיטלית והגנתה מפני מתקפות סייבר היא עצומה. פריצה אחת עלולה להשבית צי שלם של כלי רכב אוטונומיים, ולהשאיר אומה ללא הגנה.

עלינו לשקול גם את השלכות הפרטיות. את אותו AI למעקב המשמש למעקב אחר חיילי אויב ניתן בקלות להפנות פנימה כדי לנטר את אזרחי המדינה עצמם. הגבול בין הגנה צבאית למעקב פנים הופך דק יותר ויותר. האם אנחנו מקריבים את הפרטיות ארוכת הטווח שלנו למען ביטחון לטווח קצר? אלו השאלות שממשלות נמנעות מהן כרגע בחיפזון שלהן לנצח במרוץ החימוש של ה-AI. המיקוד הוא כל כך כבד על היכולות הטכניות שההשלכות החברתיות והאתיות מטופלות לעיתים קרובות כמחשבה מאוחרת. אנחנו צריכים לנהל שיחה רצינית על גבולות האוטונומיה לפני שמערכות אלו יהפכו למשולבות כל כך במבני ההגנה שלנו עד שלא ניתן יהיה להסירן.

יש לכם סיפור, כלי, טרנד או שאלה הקשורים ל-AI שלדעתכם כדאי לנו לסקר? שלחו לנו את רעיון המאמר שלכם — נשמח לשמוע.

מדור הגיקים: עבור אלו המתעניינים בארכיטקטורה הטכנית, AI צבאי מסתמך בכבדות על edge computing. באזור קרב, אי אפשר להסתמך על חיבור יציב לשרת cloud בווירג'יניה. העיבוד חייב לקרות על המכשיר עצמו. זה אומר שרחפנים וחיישני קרקע חייבים להחזיק שבבים חזקים וחסכוניים באנרגיה המסוגלים להריץ רשתות נוירונים מורכבות באופן מקומי. האתגר הוא לאזן בין הצורך בכוח עיבוד לבין המגבלות של חיי סוללה ופיזור חום. משוכה מרכזית נוספת היא בעיית ה-data silo. זרועות שונות של הצבא משתמשות לעיתים קרובות בפורמטים שונים של נתונים ובפרוטוקולי תקשורת שונים. כדי ש-AI יהיה יעיל, הוא צריך להיות מסוגל לקלוט ולסנתז נתונים מכל מקור זמין, ממצלמת גוף של חייל ועד מטוס ריגול בגובה רב. זה דורש יצירת שכבות נתונים מאוחדות ו-APIs סטנדרטיים שיכולים לעבוד על פני פלטפורמות שונות. רוב פרויקטי ה-AI הצבאיים הנוכחיים מתמקדים במשימה המשעממת אך החיונית הזו של אינטגרציית נתונים.

מגבלות API ורוחב פס הם גם אילוצים משמעותיים. בסביבה מאוימת, האויב ינסה לשבש תקשורת. AI שתלוי בעדכונים קבועים ייכשל. לכן, המטרה היא ליצור מערכות שיכולות לפעול באופן עצמאי לתקופות ארוכות ורק להסתנכרן כשחיבור מאובטח זמין. זה מוביל לפיתוח מודלים של federated learning שבהם ה-AI יכול ללמוד ולהשתפר תוך כדי תנועה מבלי להזדקק לשלוח את כל הנתונים שלו בחזרה לשרת מרכזי. אחסון מקומי הוא בעיה נוספת. חיישן HD בודד יכול לייצר טרה-בייטים של נתונים בכמה שעות. ההחלטה אילו נתונים לשמור ואילו להשליך היא משימה שמועברת יותר ויותר ל-AI. זה יוצר לולאת משוב שבה ה-AI מחליט איזה מידע בני האדם זוכים לראות. אם לוגיקת הסינון של ה-AI פגומה, המפקדים האנושיים יקבלו החלטות על בסיס תמונה לא שלמה או מוטה של המצב. המציאות הטכנית הזו מורכבת הרבה יותר מהנרטיבים הפשוטים המוצגים לעיתים קרובות בתקשורת. היא כרוכה במאבק מתמיד עם חוקי הפיזיקה, מגבלות החומרה והבלגן של נתונים מהעולם האמיתי.

השורה התחתונה היא ש-AI צבאי אינו מושג עתידי. זו מציאות נוכחית שמשולבת בכל רמה של הגנה. זה לא עניין של יצירת מכונה שיכולה לחשוב כמו אדם. זה עניין של יצירת מכונה שיכולה לעבד נתונים בדרכים שבני אדם לעולם לא יוכלו. השינוי הזה הופך את הלוחמה למהירה יותר, מדויקת יותר ותלויה יותר בתוכנה. בעוד שהיתרונות מבחינת יעילות ובטיחות לחיילים ברורים, הסיכונים להסלמה ואובדן השליטה האנושית הם משמעותיים. מדינות רוצות AI כי הן לא יכולות להרשות לעצמן להיות בלעדיו. בעולם שבו ליריב שלך יש יתרון אלגוריתמי, אתה נתון לחסדיו. האתגר של העשור הבא יהיה למצוא דרך לנהל את הטכנולוגיה הזו כך שתשפר את הביטחון מבלי להוביל לסכסוך מקרי ובלתי נשלט. המכונה כאן כדי להישאר. עכשיו אנחנו צריכים להבין איך לחיות איתה.

הערת העורך: יצרנו אתר זה כמרכז חדשות ומדריכים רב-לשוני בנושא בינה מלאכותית עבור אנשים שאינם "גיקים" של מחשבים, אך עדיין רוצים להבין בינה מלאכותית, להשתמש בה בביטחון רב יותר, ולעקוב אחר העתיד שכבר מגיע.

מצאת שגיאה או משהו שצריך לתקן? ספר לנו.