רוח הרפאים של רוצח המכונות ממשיכה. במה הנשיא פוטין מאמין?

תומכי רובוטים צבאיים (1) טוענים שנשק אוטומטי מספק יותר אפשרויות להגנה על חיי אדם. מכונות מסוגלות להתקרב לאויב יותר מאשר חיילים, ולהעריך נכון את האיום. ורגשות לפעמים משתקים את היכולת לקבל החלטות נכונות.

תומכים רבים בשימוש ברובוטים רוצחים מאמינים מאוד שהם יהפכו את המלחמות לפחות עקובות מדם מכיוון שפחות חיילים ימותו. הם מציינים שהרובוטים, למרות שאינם חשים רחמים, חסינים בפני רגשות אנושיים שליליים כמו פאניקה, כעס ונקמה, שלעתים קרובות מובילים לפשעי מלחמה.

פעילי זכויות אדם משתמשים גם בטיעון שהצבא הוביל לצמצום עצום בקורבנות האזרחים בחצי המאה האחרונה, והרובוטיזציה של הצבא מאפשרת מנגנון לאכיפת חוקי המלחמה בצורה קפדנית יותר. הם טוענים שמכונות יהפכו אתיות כשהן מצוידות בתוכנה שתאלץ אותן לציית לחוקי המלחמה.

כמובן, מספר עצום של אנשים, כולל מפורסמים מאוד, אינם חולקים דעה זו במשך שנים. באפריל 2013 הושק קמפיין בינלאומי בסיסמה (2). במסגרתו, ארגונים לא ממשלתיים דורשים איסור מוחלט על שימוש בנשק אוטונומי. מומחים ממדינות רבות ישבו לראשונה לדון בנושא זה בוועידת האו"ם לפירוק נשק בז'נבה במאי 2014. דו"ח שפורסם כמה חודשים לאחר מכן על ידי ארגון Human Rights Watch ומדענים מאוניברסיטת הרווארד אמר כי האוטונומיים יהיו מסוכנים מדי - הם בחרו מטרות משלהם והרגו אנשים. יחד עם זאת, לא מאוד ברור מי צריך לתת דין וחשבון.

2. הדגמה כחלק מהפעולה "עצור רובוטים רוצחים"

מה שנחיל של מל"טים קטנים יכול לעשות

מחלוקות סביב רובוטים רוצחים (ROU) נמשכים כבר שנים ואינם נמוגים. החודשים האחרונים הביאו ניסיונות חדשים לעצור רובוטים צבאיים וגל דיווחים על פרויקטים חדשים מסוג זה, שחלקם אף נבדקים בתנאי לחימה אמיתיים.

בנובמבר 2017, סרטון המציג נחילים קטלניים של מיני רחפנים ., בפעולה מפחידה. הצופים ראו שאנחנו כבר לא צריכים את מכונות המלחמה הכבדות, הטנקים או הטילים שהשליכו הטורפים כדי להרוג בהמוניהם ובמקלעים. המנהל הראשי סטיוארט ראסל, פרופסור לבינה מלאכותית בברקלי, אומר:

-

באביב האחרון חמישים פרופסורים האוניברסיטאות המובילות בעולם חתמו על פנייה למכון קוריאה למדע וטכנולוגיה מתקדמים (KAIST) ולשותפתו Hanwha Systems. הם הודיעו כי לא ישתפו פעולה עם האוניברסיטה ולארח אורחי KAIST. הסיבה הייתה בניית "נשק אוטונומי" שבוצע על ידי שני המוסדות. KAIST הכחיש את הדיווחים בתקשורת.

זמן קצר לאחר מכן בארה"ב יותר מ-3 עובדי גוגל הפגין נגד עבודת החברה למען הצבא. הם היו מודאגים מכך שגוגל משתפת פעולה עם פרויקט ממשלתי בשם הקוד Maven שמטרתו להשתמש בבינה מלאכותית כדי לזהות עצמים ופנים בסרטוני מזל"טים צבאיים. הנהלת החברה אומרת שהמטרה של Maven היא להציל חיים ולהציל אנשים מעבודה מייגעת, לא מתוקפנות. המפגינים לא השתכנעו.

החלק הבא של הקרב היה ההכרזה מומחי בינה מלאכותית, כולל עובד על פרויקט של גוגל ו אילון מאסק. הם מבטיחים לא לפתח רובוטים. הם גם קוראים לממשלות להגביר את המאמצים להסדיר ולהגביל את הנשק הזה.

ההצהרה אומרת, בין השאר, כי "ההחלטה לקחת חיי אדם לעולם לא צריכה להתקבל על ידי מכונה". למרות שצבאות העולם מצוידים במכשירים אוטומטיים רבים, לעיתים בדרגה גבוהה של אוטונומיה, מומחים רבים חוששים שבעתיד עלולה טכנולוגיה זו להפוך לאוטונומית לחלוטין, ולאפשר הרג ללא כל מעורבות של מפעיל ומפקד אנושי.

מומחים גם מזהירים שמכונות הרג אוטונומיות עלולות להיות אפילו יותר מסוכנות מ"נשק גרעיני, כימי וביולוגי", מכיוון שהן יכולות לצאת בקלות משליטה. בסך הכל, ביולי אשתקד, נחתם מכתב בחסות מכון עתיד החיים (FGI) על ידי 170 ארגונים ו-2464 אנשים. בחודשים הראשונים של 2019, קבוצה של מדענים רפואיים הקשורים ל-FLI קראה שוב למכתב חדש האוסר על פיתוח כלי נשק נשלטים בינה מלאכותית (AI).

פגישת האו"ם באוגוסט בשנה שעברה ב-Gniewo בנושא הרגולציה המשפטית האפשרית של "רובוטים רוצחים" צבאית הסתיימה בהצלחה... מכונות. קבוצה של מדינות, כולל ארה"ב, רוסיה וישראל, חסמה עבודה נוספת על הכנסת איסור בינלאומי על כלי נשק אלו (טיוטת אמנה בדבר איסור או הגבלה של שימוש בנשק קונבנציונלי מסויים, CCW). לא במקרה מדינות אלו ידועות בעבודתן על מערכות מתקדמות של נשק אוטונומי ורובוטי.

רוסיה מתמקדת ברובוטים קרביים

הנשיא ולדימיר פוטין מצוטט לעתים קרובות כאומר על מערכות AI צבאיות ורובוטים קרביים:

-.

מדבר בפתיחות על פיתוח נשק אוטונומי. ראש המטה הכללי של הכוחות המזוינים שלה, גנרל ולרי גרסימוב, אמר לאחרונה לסוכנות הידיעות הצבאית Interfax-AVN כי השימוש ברובוטים יהיה אחד המאפיינים העיקריים של מלחמות עתידיות. הוא הוסיף כי רוסיה מנסה אוטומציה מלאה של שדה הקרב. הערות דומות נאמרו על ידי סגן ראש הממשלה דמיטרי רוגוזין ושר ההגנה סרגיי שויגו. יו"ר ועדת מועצת הפדרציה להגנה וביטחון ויקטור בונדרב אמר כי רוסיה שואפת לפתח טכנולוגיות Rojuזה יאפשר לרשתות רחפנים לתפקד כישות אחת.

זה לא מפתיע אם נזכור שהטלטנקים הראשונים פותחו בברית המועצות בשנות ה-30. הם שימשו בתחילת מלחמת העולם השנייה. היום גם רוסיה יוצרת רובוטים של טנקים להיות יותר ויותר אוטונומיים.

מדינתו של פוטין שלחה לאחרונה מדינה משלה לסוריה רכב קרבי בלתי מאויש אורן-9 (3). המכשיר איבד מגע עם נקודות בקרה קרקעיות, נתקל בבעיות במערכת המתלים וכלי הנשק שלו לא פעלו בצורה מושלמת ולא פגעו במטרות נעות. זה לא נשמע רציני במיוחד, אבל רבים מחשיבים את המגבון הסורי כמבחן קרבי טוב שיאפשר לרוסים לשפר את המכונה.

Roscosmos אישרה תוכנית ראשונית לשלוח שני רובוטים לתחנת החלל הבינלאומית עד אוגוסט השנה. פדור (4) באיחוד הבלתי מאויש. לא כמו עומס, אבל. כמו בסרט רובוקופ, פדור מניף נשק ומפגין קליעה קטלנית במהלך תרגילי ירי.

השאלה היא מדוע רובוט בחלל יהיה חמוש? יש חשדות שהעניין הוא לא רק בבקשות קרקע. בינתיים על כדור הארץ, יצרן הנשק הרוסי קלצ'ניקוב הראה הדמיה רובוט איגורקמה שלמרות שעורר צחוק רב, מסמן שהחברה עובדת ברצינות על כלי רכב קרביים אוטונומיים. ביולי 2018 הודיע ​​קלצ'ניקוב שהוא בונה נשק שבו הוא משתמש כדי לקבל החלטות "לירות או לא לירות".

למידע זה יש להוסיף דיווחים על כך שהאקדח הרוסי Digtyarev פיתח קטן טנק אוטונומי Nerekht שיכול לנוע בשקט לעבר המטרה שלו בעצמו ואז להתפוצץ בכוח רב כדי להרוס בניינים אחרים או שלמים. בנוסף ל טנק T14 צבא , גאוות הכוחות המזוינים הרוסים, תוכננה לשליטה מרחוק ונהיגה בלתי מאוישת אפשרית. ספוטניק טוען שמהנדסי צבא רוסים פועלים להפוך את ה-T-14 לרכב משוריין אוטונומי לחלוטין.

הוראת התנגדות

צבא ארה"ב עצמו הטיל מגבלה ברורה למדי על רמת האוטונומיה של הנשק שלהם. בשנת 2012, משרד ההגנה האמריקני הוציא את הנחיה 3000.09, הקובעת שלבני אדם צריכה להיות הזכות להתנגד לפעולות של רובוטים חמושים. (למרות שייתכנו כמה חריגים). הנחיה זו נשארת בתוקף. המדיניות הנוכחית של הפנטגון היא שהגורם המכריע בשימוש בנשק צריך להיות תמיד אדם, וששיפוט כזה צריך להיות. תואם את חוקי המלחמה.

למרות שהאמריקאים השתמשו במכונות-על מעופפות, Predator, ריפר ועוד רבות אחרות במשך עשרות שנים, הן לא היו ואינן דוגמניות אוטונומיות. הם נשלטים על ידי מפעילים מרחוק, לפעמים ממרחק של כמה אלפי קילומטרים. דיון סוער על האוטונומיה של מכונות מסוג זה החל עם הבכורה של אב הטיפוס. מזל"ט X-47B (5), שלא רק טס באופן עצמאי, אלא גם יכול היה להמריא מנושאת מטוסים, לנחות עליה ולתדלק באוויר. המשמעות היא גם לירות או להפציץ ללא התערבות אנושית. עם זאת, הפרויקט עדיין נמצא בבדיקה ובדיקה.

5. ניסויים של ה-X-47B הבלתי מאויש על נושאת מטוסים אמריקאית

בשנת 2003 החל משרד ההגנה להתנסות ברובוט קטן דמוי טנק. SPOES מצויד במקלע. ב-2007 נשלח לעיראק. עם זאת, התוכנית הסתיימה לאחר שהרובוט החל להתנהג בצורה לא יציבה, והזיז את הרובה שלו בצורה לא יציבה. כתוצאה מכך, צבא ארה"ב זנח את חקר רובוטים קרקעיים חמושים במשך שנים רבות.

במקביל, צבא ארה"ב הגדיל את הוצאותיו על פעולות מ-20 מיליון דולר ב-2014 ל-156 מיליון דולר ב-2018. התקציב הזה כבר קפץ ל-2019 מיליון דולר ב-327. מדובר בעלייה מצטברת של 1823% תוך שנים ספורות. מומחים אומרים שכבר בשנת 2025, לצבא האמריקני עשוי להיות שדה קרב יותר חיילי רובוט מבני אדם.

לאחרונה, הרבה מחלוקות נגרמה והכריזה צבא ארה"ב פרויקט ATLAS () - אוטומטי. בתקשורת זה נחשב כהפרה של הוראה 3000.09 הנ"ל. עם זאת, צבא ארה"ב מכחיש ומבטיח כי הדרת אדם ממעגל קבלת ההחלטות אינה באה בחשבון.

AI מזהה כרישים ואזרחים

עם זאת, למגינים של נשק אוטונומי יש טיעונים חדשים. פרופ' רונלד ארקין, רובוטיסט במכון הטכנולוגי של ג'ורג'יה, קובע בפרסומים שלו בלוחמה מודרנית, כלי נשק חכמים חיוניים כדי למנוע נפגעים אזרחיים, שכן טכניקות למידת מכונה יכולות לסייע ביעילות להבחין בין לוחמים לאזרחים, לבין מטרות חשובות וחסרות חשיבות.

דוגמה לכישורי AI כאלה היא סיור בחופים אוסטרליים. מזל"טים המרטש הקטןמצויד במערכת SharkSpotter שפותחה על ידי האוניברסיטה לטכנולוגיה סידני. מערכת זו סורקת אוטומטית את המים לאיתור כרישים ומתריעה למפעיל כאשר הוא רואה משהו לא בטוח. (6) הוא יכול לזהות אנשים, דולפינים, סירות, גלשנים וחפצים במים כדי להבדיל ביניהם מכרישים. הוא יכול לזהות ולזהות כשישה עשר מינים שונים בדיוק גבוה.

6. כרישים מזוהים במערכת SharkSpotter

שיטות למידת מכונה מתקדמות אלו מגדילות את הדיוק של סיור אווירי ביותר מ-90%. לשם השוואה, מפעיל אנושי במצב דומה מזהה במדויק 20-30% מהאובייקטים בצילומי אוויר. בנוסף, הזיהוי עדיין מאומת על ידי אדם לפני אזעקה.

בשדה הקרב, המפעיל, שרואה את התמונה על המסך, בקושי יכול לקבוע אם האנשים על הקרקע הם לוחמים עם AK-47 בידיהם או, למשל, חקלאים עם פייקים. ארקין מציין שאנשים נוטים "לראות מה שהם רוצים לראות", במיוחד במצבי לחץ. השפעה זו תרמה להפלה בשוגג של מטוס איראני על ידי ה-USS Vincennes ב-1987. כמובן, לדעתו, כלי נשק נשלטי בינה מלאכותית יהיו טובים יותר מ"הפצצות החכמות" הנוכחיות, שאינן ממש רגישות. באוגוסט האחרון פגע טיל סעודי מונחה לייזר באוטובוס מלא תלמידי בתי ספר בתימן, והרג ארבעים ילדים.

"אם אוטובוס בית ספר מסומן כהלכה, זיהויו במערכת אוטונומית יכול להיות קל יחסית", טוען ארקין במכניקה פופולרית.

עם זאת, נראה כי הטיעונים הללו אינם משכנעים את התועמלנים נגד רוצחים אוטומטיים. בנוסף לאיום הרובוטים הרוצחים, יש לקחת בחשבון נסיבות חשובות נוספות. אפילו מערכת "טובה" ו"קשובה" יכולה להיפרץ ולהשתלט על ידי אנשים רעים מאוד. אז כל הטיעונים בהגנה על ציוד צבאי מאבדים את כוחם.