لماذا طور علماء أمريكيون برنامج ذكاء اصطناعي مريض نفسي؟

طور علماء في معهد ماساتشوستس للتكنولوجيا برنامج ذكاء اصطناعي يقولون إنه لا يرى سوى أسوأ ما في الأشياء، وفسر الباحثون ذلك بأن البرنامج الجديد الذي أطلقوا عليه اسم "نورمان"، يمكن اعتباره مريضا نفسيا.

وتعكس خوارزميات "نورمان" إلى أي مدى تبلغ أهمية البيانات الداعمة للبرامج والأنظمة القائمة على الذكاء الاصطناعي، وقال الباحثون لـ"سي إن إن موني" إنهم دربوا البرنامج الجديد على استخدام المصطلحات الشارحة للصور ومقاطع الفيديو عن الموت والمنشورة في شبكة "رديت".

واستعان العلماء في فحصهم لاستجابة البرنامج الجديد بطريقة "بقع الحبر" المستخدمة في اختبار النفسية "رورشاخ"، وتم مقارنة ردود فعله بخوارزميات أخرى تم تدريبها وفقًا لمعايير تقليدية قياسية والتي استطاعت تمييز الزهور وكعك الزفاف بين بقع الحبر، فيما ركز "نورمان" على صور لشخص أصيب بالرصاص وآخر صدمته سيارة مسرعة.

وقال الباحثون إن "نورمان" تم تطويره ليلاحظ فقط وصف الصور المخيف، لذلك هو يرى الموت في كل صورة ينظر إليها، مضيفين أنه يمثل دراسة حالة عن مخاطر الذكاء الاصطناعي التي يمكن أن تقع إذا ما أسيء استخدام البيانات في تطوير خوارزميات التعلم الآلي.

- في هذه الصورة رأى "نورمان" شخصًا مقتولًا صدمته سيارة مسرعة، أما برنامج الذكاء الاصطناعي القياسي فرأى كعكة زفاف موضوعة على طاولة.

كانت هناك أمثلة سابقة على أن الذكاء الاصطناعي يكون جيدًا فقط وفقًا للبيانات التي يتم تغذيته بها، ففي عام 2016 أطلقت "مايكروسوفت" روبوت ويب –يعرف أيضًا باسم بوت الإنترنت ويقوم بمهام تلقائية على الشبكة- وهو خاص بـ"تويتر" تحت اسم "تاي".

وفي هذا الوقت قالت متحدثة باسم "مايكروسوفت" إن "تاي" يقدم تجربة اجتماعية وثقافية وفنية جديدة، لكن مستخدمي "تويتر" حثوا البوت على قول أشياء عنصرية وغير مناسبة، وبينما كان الناس يتجاذبون أطراف الحديث معه تمكن من نسخ لغتهم وطريقتهم في الكلام، ما أدى في نهاية المطاف إلى إغلاق البرنامج.

ويعتقد فريق العلماء في معهد ماساتشوستس للتكنولوجيا أنه سيكون من الممكن لـ"نورمان" إعادة تشكيل طريقة تفكيره من خلال التعلم والاكتساب من ردود الفعل البشرية، حيث يمكن للناس خوض نفس اختبار بقع الحبر لتسجيل استجابتهم في خزانة للبيانات.

ووفقًا للباحثين فإنهم تلقوا أكثر من 170 ألف استجابة بشرية للاختبار، معظمها وصلت إليهم بعد تقرير أعدته هيئة الإذاعة البريطانية عن المشروع.

لم تكن هذه المرة الأولى التي يستكشف فيها العلماء المطورون لـ"نورمان" مشاريع ذات صلة بالجانب المظلم لعالم البيانات والتعلم الآلي، حيث أطلق بعضهم في 2016 برنامج "آلة الكوابيس" والتي استخدمت التعلم العميق لجعل الوجوه والأماكن في الصور التي تطالعها تبدو كما لو أنها من فيلم رعب، وكان الهدف هو معرفة ما إذا كانت الآلات يمكنها تعلم تخويف الناس.

لكنهم طوروا أيضًا أداة تعتمد على الذكاء الاصطناعي تسمى بـ"التعاطف العميق" لمساعدة الأشخاص على التعامل بشكل أفضل مع ضحايا الكوارث، واستخدم البرنامج التكنولوجيا لمحاكاة ما ستبدو عليه الأمور في مدينة ما إذا وقع بها كارثة حدثت بالأصل في مكان آخر.