אורות החושן: אורות החושן - דיני הרכב
פרק ט: הרכב העצמאי (האוטונומי)
ט.ג. דילמות אתיות בתכנות רכב עצמאי - עקרונות

הרכב העצמאי אינו נדרש לנהג שיקבל החלטות במצבי חירום. מחשב הרכב קולט באמצעות חיישנים כל אדם, רכב או חפץ הנמצא בנתיב הנסיעה של הרכב ומגיב בהתאם באמצעות האטה, האצה, או סטייה מדויקת. ההחלטה כיצד יגיב הרכב בכל מצב ממצבי החירום האפשריים נעשית באמצעות אלגוריתם מורכב המשקלל את כל הנתונים שהרכב מסוגל לקלוט ולעבד במהירות גבוהה פי כמה ממהירות הקליטה והעיבוד של נהג אנושי. לאחר מכן הוא מתרגם אותם להוראות פעולה לפי תכנות מוקדם, שמטרתן למנוע כל פגיעה בנוסעי הרכב וביתר משתמשי הדרך.

זהו תיאור מצב אידיאלי אולם לא ריאלי. גם המתכנת החכם ביותר, המצלמות הרגישות ביותר, והמכ"מים המשוכללים ביותר, לא יכולים לצפות את האופן בו יפעלו כל משתמשי הדרך האנושיים, או בעלי חיים. לפיכך, גם הרכב העצמאי המשוכלל ביותר לא יוכל להימנע באופן מוחלט מלהיות מעורב בתאונת דרכים.

ההבדל שבין תגובת נהג בן אנוש לבין תגובת רכב עצמאי הוא, שבמצב חירום הראשון יגיב לרוב באופן אינסטינקטיבי, בלתי מדויק, וללא יכולת לחשב את תוצאות פעולותיו. לעומת זאת, הרכב העצמאי מתוכנת מראש כך שבאופן תיאורטי הוא אמור לקחת בחשבון כל מצב נתון ולהגיב באופן שקול ומדויק כך שתושג התוצאה המבוקשת על פיה הוא תוכנת. הבדל זה מחייב את מתכנת האלגוריתם לקבל החלטות ערכיות בנוגע לאופן בו יגיב הרכב למצבי חירום שונים. ככל שניתן למנוע פגיעה באדם, תהיה זו בוודאי האפשרות המועדפת. אולם השאלה היא כיצד יש לתכנת את הרכב במקרה שאין אפשרות להימנע מפגיעה בנפש, וקיימות מספר אפשרויות כיצד תתרחש ההתנגשות ומה יהיו תוצאותיה.

אפשרויות אלה מעמידות דילמה ערכית בפני המתכנת הנדרש להחליט מראש מי ייפגע: האם יהיה זה הנוסע ברכב או אדם אחר? האם יש להעדיף את חייו של מי שלא גרם לתאונה על פני חייו של מי שבמעשיו גרם לתאונה? האם יש עדיפות לרבים על פני יחיד? ועוד.

בדילמה עקרונית זו עסקו פילוסופים ואנשי אתיקה, גם אם בהקשרים אחרים, והיא מכונה: "דילמת הקרונית" (trolley problem). היא נוסחה לראשונה על ידי הפילוסופית פיליפה פוט[1]. בספרי פוסקי הלכה דילמה זו נוסחה באופן אחר כחמש עשרה שנים קודם לכן^[2].

העיקרון הראשון שהגדירו פוסקים בסולם העדיפויות הערכי, הוא החיוב לבחור את ההתנגשות בעלת סיכון הפגיעה הנמוך ביותר[3]. מעיקרון זה יש לחרוג רק במקרה בו התנהגותו הפושעת של הנפגע היא שגרמה לתאונה, שאזי אין לבכר את פציעתו של מי שלא גרם לתאונה על פני פציעתו הקשה או מותו של מי שגרם לתאונה^[4]. רק במקרים נדירים בהם מידת הסיכון אליה ייחשפו כל המעורבים בכל הסיטואציות האפשריות הינה פחות או יותר שווה, יש לקבל הכרעה על פי עקרונות נוספים שיפורטו בהמשך.

יש לחדד, כי בחירה מושכלת ובת יישום של ההתנגשות בעלת הסיכון הנמוך ביותר, היא כמעט בלתי אפשרית בדרך כלל כאשר מדובר בנהג אנושי, משום שתוצאות תאונת דרכים תלויות במספר רב מאוד של נתונים, ביניהם: מהירות כלי הרכב המעורבים, סוג הרכב, זווית הפגיעה ואמצעי הבטיחות הפסיביים והאקטיביים המותקנים והמופעלים ברכב. כמובן התוצאות יהיו שונות בתכלית אם בהתנגשות מעורב הולך רגל או רוכב אופניים שאינם מוגנים, ואפילו גיל המעורבים בתאונה משפיע על יכולתם לשרוד אותה. בשונה מבן אנוש, את הרכב העצמאי ניתן באופן עקרוני לתכנת באופן שהוא יוכל לזהות את מרבית הנתונים הללו ולעבדם כדי להגיע למסקנה מהירה מהי מידת הסיכון הגלומה בכל אחת מאפשרויות ההתנגשות. היות שהסיכון הגלום בכל אחת מהן שונה, על מתכנת הרכב העצמאי לתכנת אותו מראש לבחור בהתנגשות בעלת הסיכון הנמוך יותר.