מי ייהרג על ידי מכונית בנהיגה עצמית? מכונה, הצילו כמה שיותר אנשים, אבל יותר מכל, הצילו אותי!
אם נוצר מצב שבו המערכת האוטונומית של מכונית צריכה לעשות בחירה מהירה את מי להקריב במקרה של תאונה קרובה, כיצד עליה להגיב? להקריב נוסעים כדי להציל הולכי רגל? אם צריך, להרוג הולך רגל כדי לחסוך, למשל, משפחה בת ארבע נפשות שנוסעת במכונית? או שאולי הוא תמיד צריך להגן על עצמו קודם?
בעוד שיותר משישים חברות כבר קיבלו אישורי בדיקה אישיים בקליפורניה לבדה, קשה לומר שהתעשייה מוכנה להתמודד עם דילמות אתיות. כרגע הוא מתמודד עם בעיות בסיסיות יותר - תפעול ויעילות ניווט של מערכות ופשוט הימנעות מהתנגשויות ואירועים בלתי צפויים. במצבים כמו רצח אחרון של הולך רגל באריזונה, או תאונות עוקבות (1), עד כה זה היה פשוט על כשלים במערכת, ולא על איזושהי "בחירה אתית" של המכונית.
הצילו את העשירים והצעירים
הסוגיות של קבלת החלטות מסוג זה אינן בעיות מופשטות. כל נהג מנוסה יכול לאשר זאת. בשנה שעברה, חוקרים ממעבדת המדיה של MIT ניתחו למעלה מארבעים מיליון תגובות של נשאלים מרחבי העולם, שאספו במהלך המחקר שהושק ב-2014. מערכת הסקרים שהם מכנים "המכונה האתית", הראתה שבמקומות שונים ברחבי העולם. בעולם, שאלות דומות נשאלות תשובות שונות.
המסקנות הכלליות ביותר הן צפויות. במצבי קיצון אנשים מעדיפים להציל אנשים על פני טיפול בבעלי חיים, במטרה להציל חיים רבים ככל האפשר, ונוטים להיות צעירים יותר מזקנים (2). יש גם כמה העדפות, אבל פחות ברורות, בכל הנוגע להצלת נשים על פני גברים, אנשים בעלי מעמד גבוה יותר על פני אנשים עניים יותר והולכי רגל על פני נוסעי מכוניות..
2. את מי הרכב צריך להציל?
מכיוון שכמעט חצי מיליון נשאלים מילאו שאלונים דמוגרפיים, ניתן היה לתאם את העדפותיהם עם גיל, מגדר ואמונות דתיות. החוקרים הגיעו למסקנה שההבדלים הללו לא "השפיעו באופן משמעותי" על החלטותיהם של אנשים, אך ציינו כמה השפעות תרבותיות. הצרפתים, למשל, נטו לשקול החלטות על בסיס מספר ההרוגים המשוער, בעוד ביפן הדגש היה הכי פחות. עם זאת, בארץ השמש העולה, חיי הקשישים מוערכים הרבה יותר מאשר במערב.
"לפני שאנו מאפשרים למכוניות שלנו לקבל החלטות אתיות משלהן, עלינו לקיים דיון גלובלי על כך. כשחברות שעובדות על מערכות אוטונומיות ילמדו על ההעדפות שלנו, אז הן יפתחו אלגוריתמים אתיים במכונות המבוססות עליהן, ופוליטיקאים יכולים להתחיל להציג הוראות חוקיות נאותות", כתבו המדענים באוקטובר 2018 ב-Nature.
אחד החוקרים המעורבים בניסוי ה-Moral Machine, ז'אן-פרנסואה בונפונט, מצא שההעדפה של הצלת אנשים בעלי מעמד גבוה יותר (כגון מנהלים על פני חסרי בית) מדאיגה. לדעתו זה מאוד קשור ל רמת אי השוויון הכלכלי במדינה מסוימת. היכן שהאי-שוויון היה גדול יותר, ניתנה העדפה להקרבה של עניים וחסרי בית.
אחד המחקרים הקודמים הראה, במיוחד, שלפי הנשאלים, מכונית אוטונומית צריכה להגן על כמה שיותר אנשים, גם אם זה אומר אובדן נוסעים. אולם יחד עם זאת, הצהירו המשיבים כי לא יקנו מכונית שתוכנתה כך. החוקרים הסבירו זאת בעוד שאנשים מוצאים שזה יותר מוסרי להציל יותר אנשים, הם גם בעלי אינטרס אישי, מה שיכול להוות איתות ליצרנים שלקוחות לא ששים לקנות מכוניות המצוידות במערכות אלטרואיסטיות.. לפני זמן מה אמרו נציגי חברת מרצדס בנץ שאם המערכת שלהם תציל אדם אחד בלבד, הם יבחרו בנהג, לא בהולך הרגל. גל של סערה ציבורית אילץ את החברה לחזור בה מהצהרתה. אבל המחקר מראה בבירור שהיתה צביעות רבה בזעם הקדוש הזה.
זה כבר קורה בחלק מהמדינות. ניסיונות ראשונים לרגולציה משפטית בשדה. גרמניה העבירה חוק המחייב מכוניות ללא נהג להימנע מפציעה או מוות בכל מחיר. החוק גם קובע שאלגוריתמים לעולם אינם יכולים לקבל החלטות על סמך מאפיינים כמו גיל, מין, בריאות או הולכי רגל.
אאודי לוקחת אחריות
המעצב אינו מסוגל לחזות את כל ההשלכות של פעולת המכונית. המציאות תמיד יכולה לספק שילוב של משתנים שמעולם לא נבדקו קודם לכן. זה מערער את האמונה שלנו באפשרות "לתכנת אתית" מכונה בכלל. נראה לנו שבמצבים בהם מתרחשת טעות ומתרחשת טרגדיה "בעקבות תקלת הרכב", האחריות צריכה להיות על יצרן ומפתח המערכת.
אולי הנימוק הזה נכון, אבל אולי לא בגלל שהוא היה שגוי. במקום זאת, כי הותרה תנועה שלא הייתה משוחררת ב-2019 מהאפשרות לעשות אותה. נראה שזו הסיבה, ואחריות משותפת אינה מתחמקת מהחברה, שהודיעה לאחרונה כי תיקח אחריות על תאונות שבהן מעורבת מטוס A8 בן 3 תוך שימוש במערכת אוטומטית של פקקי תנועה (XNUMX) בה.
3. ממשק Audi Traffic Pilot Pilot
מצד שני, יש מיליוני אנשים שנוהגים במכוניות וגם עושים טעויות. אז למה יש להפלות מכונות, שבאופן סטטיסטי עושות הרבה פחות טעויות מבני אדם, כפי שמעידים טעויות רבות, בהקשר זה?
אם מישהו חושב שהדילמות של אתיקה ואחריות בעולם הרכב האוטונומי הן פשוטות, תמשיך לחשוב...
