كيف ستواجه صناعة الروبوتات التحديات الأخلاقية في ظل غياب التحكم البشري؟

تعتبر فكرة وجود مرجعية أخلاقية لعمل الآلات غير معتادة ولكن يبدو أن هذه الفكرة غير المألوفة قد تصبح حقيقة نتعايش معها بشكل روتيني وفقاً لتقرير لـ "بي بي سي".
 

ففي عصر السيارات ذاتية القيادة أو بدون سائق سيتعرض الأشخاص لمواقف تحتاج إلى عقل بشري ليقررها فمثلاً سيستقل الشخص سيارته في الموعد المحدد متجهاً إلى مكان العمل وفق الجدول الموضوع للسيارة مسبقاً، وأثناء السير يظهر خيارين كل منهما سيئ ولكن لابد من الاختيار فهناك طفلين يلعبان على جانب الطريق ليصبحا فجأة أمام السيارة مباشرة وإذا انزلقت السيارة لليسار ستصدم دراجة نارية، فمَن ستختار وفقاً للمعيار الأخلاقي؟
 

من المتوقع أن تنتشر هذه السيارات بشكل واسع خلال العقد القادم ولكن لا يزال يتعين التغلب على العديد من المسائل التقنية، وأحد أهم هذه العقبات ليس ميكانيكياً أو إلكترونياً فحسب وإنما أخلاقياً.
 

يثير ذلك الافتراض الكثير من الأسئلة حول نوعية الأخلاق التي ستبرمج عليها السيارة وهوية الجهة التي ستحددها وكيفية تقدير حياة السائق بالمقارنة مع المارة أو الركاب في السيارات الأخرى، ومدى إمكانية شراء سيارة مستعدة للتضحية بسائقها لتجنيب تأذي المشاة.
 

الأسلحة ذاتية التحكم
 

- أصبح أستاذ علوم الروبوتات "رون أركين" مهتماً بهذه الأسئلة عندما حضر مؤتمراً حول أخلاقيات الروبوتات في عام 2004، واستمع لأحد النقاشات حول أفضل رصاصة لقتل البشر إما كبيرة وبطيئة، أو صغيرة وسريعة.
 

- رأى "أركين" أنه اضطر إلى اتخاذ خيار بتحمل مسئولية التكنولوجيا المتطورة، ومنذ ذلك الحين كرس حياته المهنية للعمل على أخلاقيات الأسلحة المستقلة.
 

- كانت هناك دعوات لحظر الأسلحة ذاتية التحكم، ولكن "أركين" يأخذ وجهة النظر المعاكسة مؤمناً بإمكانية صنع أسلحة تقلل من احتمال قتل المدنيين في أوقات الحروب على سبيل المثال.
 

- لا تعد الأسلحة ذاتية التحكم خيالاً علمياً فهي مثل السيارات بدون سائق، فهناك بالفعل أسلحة تعمل دون أن يسيطر عليها البشر تماماً.
 

التعلم الآلي
 

- يرى خبراء أن أفضل طريقة لتعليم الأخلاقيات للروبوت هو إضافة البرنامج الأول في بعض المبادئ التي تهدف إلى تجنب المعاناة وتعزيز السعادة، ومن ثم يكون الجهاز تعلم من سيناريوهات معينة كيفية تطبيق المبادئ على حالات جديدة.
 

- يستطيع "كيربوتس" - الروبوتات المصممة لمساعدة المرضى وكبار السن - تقديم الطعام أو كتاب، أو تشغيل الأضواء أو التلفزيون، ومن المتوقع أن تزداد صناعتها في العقد المقبل.
 

- مثل الأسلحة ذاتية التحكم والسيارات بدون سائق، ينبغي على "كيربوتس" اتخاذ خيارات، فبافتراض أنه يتعامل مع مريض يرفض أخذ دوائه، لن يستطيع فعل شيئ حيال هذا الأمر ما يعرض حياة المريض للخطر.
 

- بعد معالجة سلسلة من المعضلات بتطبيق مبادئ أولية حول الأخلاقيات، يُعتقد أن الروبوت سوف يصبح لديه رؤية أكثر وضوحاً حول كيفية التصرف، لدرجة أن البشر يمكنهم التعلم منه، فسيجعل القرارات الصحيحة أخلاقياً أكثر من القرارات التي يتخذها الإنسان العادي.
 

- من مشكلات التعلم الآلي هو احتمالية تعلم الدروس الخاطئة، ولإعطاء مثال ذي صلة تبين أن الآلات التي تتعلم اللغة من محاكاة البشر تكتسب تحيزات مختلفة، فأسماء الذكور والإناث لها دلالات مختلفة، ولابد من محاولة مكافحتها.
 

- هناك تحد أساسي أكثر من ذلك هو أنه إذا تطورت الآلة من خلال عملية التعلم قد لا يمكن التنبؤ بكيفية تصرفها في المستقبل، ولا معرفة كيف تصل إلى قراراتها.
 

- يترتب على ذلك ضرورة إيجاد طريقة لمحاسبة الروبوت على أخطائه سواء مسئولية أخلاقية أو قانونية برغم عدم منطقية الطرح.
 

- تكمن أهم ميزة في الروبوتات هي أنها سوف تقوم بنفس المهام بنفس الجودة باستمرار، فالسلاح ذاتي التحكم لن يتخذ خيارات سيئة لأنه غاضب، أو أن تكون السيارة ذاتية التحكم متعبة، ففي جميع أنحاء العالم يُقتل أكثر من مليون شخص في حوادث السيارات كل عام ومعظمها بخطأ بشري وتخفيض هذه الأرقام هو أمر جدير بالمغامرة.
 

قضاة آليون
 

- إذا كان القضاة الآليون يقدمون أحكاماً متسقة للمجرمين المدانين، فإن هذا يبدو سبباً قوياً لتفويض دور الحكم، ولكن ألن يُفقد شيئاً مع زوال الاتصال البشري بين القاضي والمتهم؟.
 

- يعتقد الخبراء أن هناك قيمة في العلاقات الإنسانية الفوضوية، فهل من المعقول أن يرغب الإنسان في أن يتحكم في مصيره آلة تنقل ميكانيكياً جواباً موحداً رداً على الصراع المتضارب للقيم الذي غالباً ما ينطوي عليه الأمر.