حتى الذكاء الاصطناعي! .. كيف تعالج الشركات مشكلة التحيز التكنولوجي ضد النساء والأقليات؟

تحدث مسؤولو "آي بي إم" و"سيلزفورس" عن أن التحيز سوف يظل مصدر قلق للشركات الساعية لاستخدام أدوات وتطبيقات الذكاء الاصطناعي مشيرين إلى أنه أمر يجب التصدي له.

ويكمن هذا التحيز في البيانات المستخدمة في تدريب أنظمة الذكاء الاصطناعي والتي ربما تُسفر عن نتائج غير عادلة أو غير قانونية وتمييز ضد النساء أو الأقليات.

كيف يبدو التحيز التكنولوجي؟

- اكتشفت جهات بحثية أن أنظمة التعرف على الوجه أقل دقة في التمييز بين ذوي البشرة الداكنة وغيرهم من ذوي البشرة الفاتحة لأن البيانات تم تدريبها على عدم التعرف جيدا على ذوي البشرة الملونة.

- على سبيل المثال، هناك نظام داخل الأوساط القضائية الأمريكية – يساعد في اتخاذ قرار بشأن العناصر الإجرامية الأكثر خطورة – اكتشف أنه يصنف ذوي البشرة الملونة من السجناء بأنهم أكثر خطراً من نظرائهم من البشرة البيضاء رغم امتلاكهم نفس السجل الجنائي.

- قال أحد مهندسي البرمجيات إن التمييز سيكون من بين أهم المشكلات التي ستواجه البشر في تطوير الذكاء الاصطناعي مستقبلاً وسط مطالبات بتحسين ومعالجة هذه المشكلة.

- في "آي بي إم"، بدأ خبراء يعملون بالفعل على اختبار أنظمة تكنولوجية مختلفة وكيفية اتخاذها للقرارات والتحليلات والبيانات الناتجة المستغلة في التوصيات والتوقعات.

- أكد البعض أن حل مشكلة التمييز في الذكاء الاصطناعي ليس سهلاً خاصة في الولايات المتحدة حيث إن أنظمة تعليم الآلات تربط بين بيانات الشخص ورمزه البريدي وهو أمر لا يزال في الأساس يأخذ في الاعتبار العرق الذي ينتمي إليه الشخص.

- أعلنت "آي بي إم" تطوير منظومة ذكاء اصطناعي يمكنها مساعدة الشركات آليا على اكتشاف أي تمييز في بيانات تلك الأنظمة مشيرين إلى أن المسؤولين والتقنيين عليهم حل هذه المعضلة سريعا قبل أن تصبح عقبة في طريق المزيد من التقدم التكنولوجي.

- من الغريب أن الذكاء الاصطناعي نفسه يمكنه اكتشاف أي ممارسات تحيز في الشركات كعدم ترقية الموظفات، لكن بوجه عام، يجب الأخذ في الاعتبار أن مطوري الذكاء الاصطناعي أنفسهم مختلفون، وبالتالي، فإن بعض ذوي البشرة الملونة ربما يصبحون متحيزين.

حل المشكلة

- لا أحد يريد الاعتراف صراحة بممارسة التحيز خاصة عندما يتعلق الأمر باتخاذ قرار في منح شخص وظيفة مثلا رغم التصريحات من هنا وهناك على ضرورة مكافحة التمييز.

- اقترح محللون استغلال الخوارزميات في التصدي للتمييز والتحيز في التوظيف وعدم دمج بيانات مطلوبة كالعمر والاسم والعرق والنوع والأخذ في الاعتبار فقط القدرة على التنافس وكون الشخص مناسباً للوظيفة من عدمه.

- بدأت شركات توظيف في أمريكا بالفعل في تعديل خوارزميات أنظمتها والاستعانة بمنصات أقل تمييزا في فرز المتقدمين للعمل لديها، ومن هنا، ستكون الخطوة التالية هي الاستعانة بتعليم الآلات في تدريب الخوارزميات وتزويدها ببيانات أكثر تسهم في اتخاذ القرار بشكل أفضل.

- هناك أيضا طريقة أخرى يمكن بواسطتها القضاء على التمييز ضد المتقدمين للعمل والتي تكمن في التوظيف غير المرئي في كل خطوة بحيث يتم النظر فقط في مواهب المتقدمين وليس بياناتهم وعدم تصنيف السيرة الذاتية لكل شخص بشكل عشوائي.

المصادر: فورتشن، تك نيتيف