شارك
الرئيسية
3 دقائق إذا اضطر الروبوت للقضاء على حياة بشرية، فمن يجب أن يقتل؟ لا شك أن السيارات ذاتية القيادة، الروبوتات المستقبلية التي تحمل البشر وتعد بتطورات كبيرة في مجال الأمان في النقل، سوف تفشل في عملها أحياناً. ستكون لحظات الفشل هذه، كما نأمل، أقل حدوثاً من الأخطاء البشرية وما يرافقها من موت وإصابات، غير أن هذا يعني أن الحواسيب والخوارزميات التي تقود هذه السيارات قد تضطر لاتخاذ قرارات لا يتخذها عادة سوى البشر، وذلك عندما تتعطل المكابح مثلاً: هل يجب على السيارة أن تصطدم بخمسة من المارة، أو تقوم بدلاً من هذا بتعديل مسارها لتصدم حاجزاً اسمنتياً، متسببة بمقتل راكبها الوحيد؟
هذه هي الفرضيات التي بنيت عليها مورال ماشين، وهي شركة صغيرة تتبع لمختبر الميديا في إم آي تي. سيطرح على المشاركين 13 سؤالاً، وجميعها تحوي خيارين فقط لسيارة ذاتية القيادة أصيبت بعطل مفاجئ في المكابح: الاستمرار إلى الأمام، وصدم ما يظهر أمام السيارة، أو الانحراف عن المسار وصدم ما يكون في المجاز الآخر. وتعتبر جميع هذه الأوضاع تعديلات على "معضلة العربة" الفلسفية، والتي وضعت لأول مرة في أواخر الستينيات من القرن الماضي، واكتسبت اسمها بعد هذا بوقت قصير. تقوم المعضلة على السؤال التالي: "أيهما أسوأ، سحب مقبض لتغيير مسار العربة وقتل شخص واحد، أو تركها على مسارها لتقتل خمسة أشخاص؟"، وهو سؤال أخلاقي في صلبه، ويمكن لبعض التغييرات عليه أن تؤثر بشكل كبير في طريقة اختيار الجواب.
بالنسبة لمورال ماشين، يوجد الكثير من الخيارات الثنائية: الانحراف عن المسار أو البقاء عليه، المارة الذين يعبرون الشارع بشكل قانوني أو الذين يعبرون بشكل مخالف، البشر أو الحيوانات، الاصطدام بالمارة أو الاصطدام الذي يقتل ركاب السيارة.
يوجد أيضاً مجال لبعض التغييرات على أنواع المارة الذين يمكن أن تصطدم بهم السيارة. فقد يكونون رجالاً أو نساء، أطفالاً أو بالغين أو كبار السن أو مجهولي الوصف. يوجد أيضاً رياضيون، ومجهولو الوصف، أو ضخام الجسم. كما يوجد مدراء تنفيذيون، مشردون، مجرمون، أو مجهولو الوصف. وقد ورد في إحدى الأسئلة ما إذا كنت سأختار إنقاذ امرأة حامل في سيارة، أو إنقاذ "صبي، وطبيبة، ورياضيتين، ومديرة تنفيذية". وقد اخترت أن أجعل السيارة تنحرف عن مسارها نحو الحاجز، مرسلاً بالحامل إلى حتفها لإنقاذ الأشخاص الخمسة.
معضلة أخلاقية أخرى لسيارة ذاتية القيادة
هل يجب على السيارة ذاتية القيادة معطلة المكابح أن تبقى على مسارها وتصدم امرأة عجوزاً تقطع الشارع بشكل مخالف، أو تنحرف عن مسارها لتصدم فتاة تقطع الشارع بشكل قانوني في ممر المشاة؟
مصدر الصورة: لقطة الشاشة للمؤلف، من موقع مورال ماشين
كانت الفئات مربكة بعض الأحيان: هل أختار إنقاذ هذه المجموعة من البشر لأنهم يعبرون الشارع بشكل قانوني، أم أنني أقضي على المجموعة الأخرى لأنهم جميعاً من كبار السن الذين يعبرون الشارع بشكل مخالف؟ هل يوجد اختلاف ما بين صدم السيارة لمجموعة من القطط والكلاب إذا كانت تعبر بشكل قانوني؟ ماذا لو كان البديل طفلاً ومديراً تنفيذياً ومجرماً؟
ماذا لو كنت أعقّد الأمور؟ قررت البحث عن رأي آخر، واتصلت لهذا بالأستاذ المساعد في مجال القانون في جامعة واشنطن، ريان كالو، والذي شارك في إعداد كتاب عن قانون الروبوتات. يقول كالو: "أعتقد أن عمل إم آي تي تربوي أكثر مما هو براغماتي. وأعتقد أنه عمل جيد طالما أنه يوجد شخص في مكان ما يعمل، على سبيل المثال، على تطوير حساسات قادرة على تمييز شاحنة بيضاء إذا كانت السماء فاتحة اللون".
من المحتمل أن عبارة الشاحنة البيضاء والسماء الفاتحة هي إشارة إلى أول حادث قاتل لسيارة ذاتية القيادة، حيث عجز نظام الربان الآلي في سيارة تسلا موديل إس عن تمييز وجود جرار أبيض اللون بسبب السماء الساطعة. وفي كتابته حول الموضوع، عبر كالو عن قلقه من "السلوك المستجد"، عندما يتصرف الذكاء الاصطناعي بطريقة جديدة وغير متوقعة.
إن معضلات العربة، مثل تلك المقدمة من مورال ماشين، متوقعة إلى حد كبير. وفي نهاية مجموعة الأسئلة من مورال ماشين، يتم إعلام المشاركين بأن أجوبتهم كانت جزءاً من عمل لجمع البيانات من قبل علماء في مختبر الميديا التابع لإم آي تي، وذلك بهدف البحث في "أخلاقيات ومجتمع الآلات ذاتية التحكم" (يوجد رابط يمكن للمشاركين الضغط عليه في حال عدم الرغبة بمشاركة بياناتهم في الاستبيان).
أما بالنسبة لي شخصياً، سأقدم معلومة إضافية: إذا اضطررت للاختيار بين جهة من الشارع فيها قطط وكلاب تعبر من ممر المشاة، وجهة من الشارع فيها مدير تنفيذي ومجرم وطفل يعبرون الشارع بشكل مخالف، فإن خياري واضح. إن هذه القطط والكلاب ملتزمة بالقانون أيها القراء، ولا بد من إنقاذها (بحسب رأي الكاتب).