מלחמת האלגוריתמים

כשזה מגיע לשימוש בבינה מלאכותית בצבא, מתעורר מיד הסיוט של המדע הבדיוני, בינה מלאכותית מרדנית וקטלנית שמתקוממת נגד האנושות כדי להרוס אותה. למרבה הצער, החששות של הצבא והמנהיגים ש"האויב ידביק אותנו" חזקים באותה מידה בפיתוח אלגוריתמי לוחמה.

לוחמה אלגוריתמיתמה שלדעת רבים עשוי לשנות מהותית את פני שדה הקרב כפי שאנו מכירים אותו, בעיקר בגלל שהלוחמה תהיה מהירה יותר, הרבה יותר מיכולת האנשים לקבל החלטות. גנרל אמריקאי ג'ק שנהאן (1), ראש המרכז המשותף של ארה"ב לבינה מלאכותית, מדגיש, עם זאת, שלפני הכנסת בינה מלאכותית לארסנלים, עלינו לוודא שהמערכות הללו עדיין בשליטה אנושית ולא יתחילו מלחמות בעצמן.

"אם לאויב יהיו מכונות ואלגוריתמים, נפסיד את הסכסוך הזה"

יכולת נהיגה לוחמה אלגוריתמית מבוסס על שימוש בהתקדמות בטכנולוגיית המחשב בשלושה תחומים עיקריים. ראשון עשרות שנים של צמיחה אקספוננציאלית בכוח המחשובזה שיפר מאוד את הביצועים של למידת מכונה. שְׁנִיָה צמיחה מהירה של משאבים "ביג דאטה", כלומר מערכי נתונים ענקיים, בדרך כלל אוטומטיים, מנוהלים ויוצרים ברציפות המתאימים ללמידת מכונה. השלישי נוגע פיתוח מהיר של טכנולוגיות מחשוב ענן, שדרכו מחשבים יכולים לגשת בקלות למשאבי נתונים ולעבד אותם כדי לפתור בעיות.

אלגוריתם מלחמהכפי שהוגדרו על ידי המומחים, יש לבטא זאת תחילה עם קוד מחשב. שנית, היא חייבת להיות תוצאה של פלטפורמה המסוגלת גם לאסוף מידע וגם לקבל בחירות, לקבל החלטות שלפחות בתיאוריה אינן דורשות התערבות אנושית. שלישית, מה שנראה מובן מאליו, אבל לא בהכרח, שכן רק בפעולה מתברר אם טכניקה המיועדת למשהו אחר יכולה להועיל במלחמה ולהיפך, היא חייבת להיות מסוגלת לעבוד בתנאים. סכסוך מזוין.

ניתוח של הכיוונים לעיל והאינטראקציה ביניהם מראה זאת לוחמה אלגוריתמית זו לא טכנולוגיה נפרדת כמו למשל. נשק אנרגיה או טילים היפרסוניים. השפעותיו רחבות טווח והופכות בהדרגה לכל מקום בפעולות איבה. בפעם הראשונה כלי רכב צבאיים הם הופכים לאינטליגנטיים, מה שעשוי להפוך את כוחות ההגנה שמיישמים אותם ליעילים ואפקטיביים יותר. למכונות אינטליגנטיות כאלה יש מגבלות ברורות שצריך להבין היטב.

"" אמר שנהאן בסתיו שעבר בראיון עם מנכ"ל גוגל לשעבר אריק שמידט וסגן נשיא גוגל לעניינים בינלאומיים, קנט ווקר. "".

טיוטת הדו"ח של המועצה לביטחון לאומי של ארה"ב על בינה מלאכותית מתייחסת לסין יותר מ-50 פעמים, ומדגישה את המטרה הרשמית של סין להפוך למובילה העולמית בתחום הבינה המלאכותית עד 2030 (ראה גם: ).

הדברים נאמרו בוושינגטון בכנס מיוחד שהתקיים לאחר שמרכז שנחאן הנ"ל הציג בפני הקונגרס את הדו"ח המקדים שלו, שהוכן בשיתוף מומחים בעלי שם בתחום הבינה המלאכותית, ביניהם מנהל המחקר של מיקרוסופט אריק הורביץ, מנכ"ל AWS אנדי ג'אסה ו חוקר הענן הראשי של גוגל אנדרו מור. הדו"ח הסופי יפורסם באוקטובר 2020.

עובדי גוגל מוחים

לפני כמה שנים, הפנטגון הסתבך. לוחמה אלגוריתמית ומספר פרויקטים הקשורים לבינה מלאכותית במסגרת פרויקט Maven, המבוססים על שיתוף פעולה עם חברות טכנולוגיה, כולל גוגל וסטארטאפים כמו Clarifai. זה היה בעיקר על העבודה על בינה מלאכותיתכדי להקל על זיהוי החפצים על.

כאשר נודע על השתתפותה של גוגל בפרויקט באביב 2018, חתמו אלפי עובדים של ענקית Mountain View על מכתב פתוח במחאה על השתתפות החברה בפעולות איבה. אחרי חודשים של תסיסה בעבודה גוגל אימצה מערכת חוקים משלה עבור AIהכולל איסור השתתפות באירועים.

גוגל גם התחייבה להשלים את חוזה Project Maven עד סוף 2019. היציאה של גוגל לא סיימה את Project Maven. הוא נרכש על ידי Palantir של פיטר ת'יל. חיל האוויר וחיל הנחתים האמריקני מתכננים להשתמש בכלי טיס בלתי מאוישים מיוחדים, כמו ה-Global Hawk, כחלק מפרויקט Maven, שכל אחד מהם אמור לנטר חזותית עד 100 קמ"ר.

לרגל המתרחש סביב פרויקט מייבן, התברר שצבא ארה"ב זקוק בדחיפות לענן משלו. זה מה שנהאן אמרה במהלך הכנס. זה היה ברור כאשר קטעי וידאו ועדכוני מערכת היו צריכים להיות מועברים במשאיות למתקנים צבאיים הפזורים על פני השדה. בבניין מחשוב ענן מאוחד, שיסייע בפתרון בעיות מסוג זה, כחלק מפרויקט תשתית IT מאוחדת עבור צבא הג'דיי, מיקרוסופט, אמזון, אורקל ויבמ. גוגל לא בגלל הקודים האתיים שלהם.

ברור מההצהרה של שנהאן שמהפכת הבינה המלאכותית הגדולה בצבא רק מתחילה. ותפקיד המרכז שלה בכוחות המזוינים של ארה"ב הולך וגדל. זה נראה בבירור בתקציב ה-JAIC המשוער. ב-2019 הוא הסתכם בקצת פחות מ-90 מיליון דולר. בשנת 2020, זה כבר אמור להיות 414 מיליון דולר, או כ-10% מתקציב הבינה המלאכותית של הפנטגון של 4 מיליארד דולר.

המכונה מזהה חייל שנכנע

חיילי ארה"ב כבר מצוידים במערכות כמו ה-Phalanx (2), שהוא סוג של נשק אוטונומי המשמש על ספינות חיל הים האמריקאי לתקיפת טילים נכנסים. כשמזהים טיל, הוא נדלק אוטומטית ומשמיד את כל הנקרה בדרכו. לפי פורד, הוא יכול לתקוף עם ארבעה או חמישה טילים בחצי שניה מבלי לעבור ולהסתכל על כל מטרה.

דוגמה נוספת היא הרפי האוטונומית למחצה (3), מערכת בלתי מאוישת מסחרית. ההארפיה משמשת להשמדת מכ"מים של האויב. לדוגמה, בשנת 2003, כאשר ארה"ב פתחה במתקפה על עיראק שהיו לה מערכות יירוט מכ"ם מוטסות, מל"טים מתוצרת ישראל עזרו למצוא ולהשמיד אותם כדי שהאמריקאים יוכלו לטוס בבטחה למרחב האווירי העיראקי.

3. שיגור הרחפן של מערכת Harpy של התעשייה האווירית

דוגמה ידועה נוספת לנשק אוטונומי היא מערכת Samsung SGR-1 קוריאנית, הממוקם באזור המפורז בין צפון ודרום קוריאה, שנועד לזהות ולירות פולשים למרחק של עד ארבעה קילומטרים. על פי התיאור, המערכת "יכולה להבחין בין מי שנכנע לאדם שאינו נכנע" על פי מיקום ידיו או הכרה במיקום הנשק בידיהם.

4. הדגמת זיהוי חייל נכנע על ידי מערכת סמסונג SGR-1

האמריקאים מפחדים להישאר מאחור

נכון לעכשיו, לפחות 30 מדינות ברחבי העולם משתמשות בנשק אוטומטי עם רמות שונות של פיתוח ושימוש בבינה מלאכותית. סין, רוסיה וארצות הברית רואות בבינה מלאכותית מרכיב הכרחי בבניית מעמדן העתידי בעולם. "מי שינצח במירוץ הבינה המלאכותית ישלוט בעולם", אמר נשיא רוסיה ולדימיר פוטין לסטודנטים באוגוסט 2017. נשיא הרפובליקה העממית של סין, שי ג'ינפינג, לא השמיע הצהרות כה גבוהות בתקשורת, אך הוא המניע העיקרי של ההנחיה הקוראת לסין להפוך לכוח הדומיננטי בתחום הבינה המלאכותית עד 2030.

יש דאגה גוברת בארצות הברית לגבי "אפקט הלוויין", אשר הראה כי ארה"ב לא מצוידת ביותר להתמודד עם האתגרים החדשים שמציבה הבינה המלאכותית. וזה יכול להיות מסוכן לשלום, ולו רק בגלל שהמדינה המאוימת על ידי שליטה עשויה לרצות לחסל את היתרון האסטרטגי של האויב בדרך אחרת, כלומר במלחמה.

למרות שהמטרה המקורית של פרויקט מייבן הייתה לסייע במציאת לוחמי דאעש אסלאמיים, משמעותו להמשך הפיתוח של מערכות בינה מלאכותית צבאיות היא עצומה. לוחמה אלקטרונית המבוססת על מקליטים, צגים וחיישנים (כולל ניידים, טיסה) קשורה למספר עצום של זרימות נתונים הטרוגניות, שניתן להשתמש בהן ביעילות רק בעזרת אלגוריתמי AI.

שדה הקרב ההיברידי הפך להיות גרסה צבאית של IoT, עשיר במידע חשוב להערכת איומים והזדמנויות טקטיות ואסטרטגיות. ליכולת לנהל את הנתונים הללו בזמן אמת יש יתרונות גדולים, אבל אי למידה מהמידע הזה עלולה להיות הרת אסון. היכולת לעבד במהירות את זרימת המידע מפלטפורמות שונות הפועלות במספר תחומים מספקת שני יתרונות צבאיים עיקריים: מהירות i נגישות. בינה מלאכותית מאפשרת לך לנתח את התנאים הדינמיים של שדה הקרב בזמן אמת ולפגוע במהירות ובאופן מיטבי, תוך מזעור הסיכון לכוחות שלך.

שדה הקרב החדש הזה נמצא גם בכל מקום ו. בינה מלאכותית נמצאת בלב מה שנקרא נחילי מזל"טים, שזכו לתשומת לב רבה בשנים האחרונות. בעזרת חיישנים הנמצאים בכל מקום, לא רק מאפשר למל"טים לנווט בשטח עוין, אלא עשוי לאפשר בסופו של דבר היווצרותם של תצורות מורכבות של סוגים שונים של כלי טיס בלתי מאוישים הפועלים באזורים רבים, עם כלי נשק נוספים המאפשרים טקטיקות לחימה מתוחכמות, תוך התאמה מידית ל- אוֹיֵב. תמרונים כדי לנצל את שדה הקרב ולדווח על תנאים משתנים.

ההתקדמות בייעוד ובניווט של מטרות בסיוע בינה מלאכותית משפרת גם את סיכויי האפקטיביות במגוון רחב של מערכות הגנה טקטיות ואסטרטגיות, במיוחד הגנת טילים, על ידי שיפור שיטות זיהוי, מעקב וזיהוי מטרות.

מגביר כל הזמן את הכוח של סימולציות וכלי משחק המשמשים לחקר נשק גרעיני וקונוונציונלי. מודלים וסימולציה המונית יהיו חיוניים לפיתוח מערכת מרובת תחומים מקיפה של מערכות מטרה לבקרת לחימה ומשימות מורכבות. AI גם מעשיר אינטראקציות מרובות צד (5). בינה מלאכותית מאפשרת לשחקנים להוסיף ולשנות משתני משחק כדי לחקור כיצד תנאים דינמיים (נשק, מעורבות בעלות הברית, חיילים נוספים וכו') יכולים להשפיע על הביצועים וקבלת ההחלטות.

עבור הצבא, זיהוי אובייקטים הוא נקודת מוצא טבעית עבור AI. ראשית, יש צורך בניתוח מקיף ומהיר של המספר ההולך וגדל של תמונות ומידע שנאסף מלוויינים ומזל"טים על מנת למצוא אובייקטים בעלי משמעות צבאית, כמו טילים, תנועות כוחות ונתונים אחרים הקשורים למודיעין. כיום, שדה הקרב משתרע על פני כל הנופים - ים, יבשה, אוויר, חלל ומרחב סייבר - בקנה מידה עולמי.

מרחב סייברכתחום דיגיטלי מטבעו, הוא מתאים באופן טבעי ליישומי בינה מלאכותית. בפן הפוגעני, AI יכול לעזור למצוא ולמקד צמתי רשת בודדים או חשבונות בודדים כדי לאסוף, לשבש או למסור מידע שגוי. התקפות סייבר על תשתיות פנימיות ורשתות פיקוד יכולות להיות הרות אסון. בכל הנוגע להגנה, בינה מלאכותית יכולה לסייע באיתור פריצות כאלה ולמצוא חריגות הרסניות במערכות הפעלה אזרחיות וצבאיות.

מהירות צפויה ומסוכנת

עם זאת, קבלת החלטות מהירה וביצוע מהיר עשויים שלא לשרת אותך היטב. לניהול משברים יעיל. היתרונות של בינה מלאכותית ומערכות אוטונומיות בשדה הקרב עלולים שלא לתת זמן לדיפלומטיה, שכידוע לנו מההיסטוריה, הצליחה לא פעם כאמצעי למניעה או ניהול של משבר. בפועל, האטה, הפסקה וזמן למשא ומתן יכולים להיות המפתח לניצחון, או לפחות למנוע קטסטרופה, במיוחד כאשר נשק גרעיני מונח על כף המאזניים.

לא ניתן להשאיר החלטות על מלחמה ושלום לניתוח חזוי. ישנם הבדלים מהותיים באופן השימוש בנתונים למטרות מדעיות, כלכליות, לוגיסטיות וחיזוי. התנהגות אנושית.

חלקם עשויים לתפוס בינה מלאכותית ככוח שמחליש את הרגישות האסטרטגית ההדדית ובכך מגביר את הסיכון למלחמה. נתונים שנפגמו בטעות או בכוונה עלולים להוביל מערכות בינה מלאכותית לבצע פעולות לא מכוונות, כגון זיהוי שגוי והתמקדות במטרות הלא נכונות. מהירות הפעולה המונחת במקרה של פיתוח אלגוריתמי מלחמה עשויה להיות הסלמה מוקדמת או אפילו מיותרת הפוגעת בניהול הרציונלי של המשבר. מצד שני, אלגוריתמים גם לא ימתינו ויסבירו, כי גם הם צפויים להיות מהירים.

היבט מטריד תפקודם של אלגוריתמי בינה מלאכותית גם הוצג על ידינו לאחרונה ב-MT. אפילו מומחים לא יודעים בדיוק איך AI מוביל לתוצאות שאנו רואים בפלט.

במקרה של אלגוריתמי מלחמה, אנחנו לא יכולים להרשות לעצמנו בורות כזו לגבי הטבע ואיך הם "חושבים" אותם. אנחנו לא רוצים להתעורר באמצע הלילה להתלקחויות גרעיניות כי הבינה המלאכותית "שלנו" או "שלהם" החליטה שהגיע הזמן סוף סוף ליישב את המשחק.