دراسة: السيارات الذاتية القيادة متحيزة ضد السُمر والأطفال
أظهرت دراسة حديثة بأن السيارات الذاتية القيادة تتحيز ضد الأشخاص ذوي البشرة الداكنة والأطفال، الأمر الذي يُضاف إلى المشكلات الأخرى التي تعاني منها التقنية الناشئة.
وكانت السيارات الذاتية القيادة محط أنظار وسائل الإعلام بعد تسببها في اختناقات مرورية، والوقوع في الأسمنت، وإيقافها من قبل الشرطة غير المعتادة على التعامل مع هذه السيارات.
ولكن وفقًا لدراسة حديثة، فإن هذه الإخفاقات التقنية لا تساوي شيئًا مقارنةً بالمشكلات التي تعد أسوأ بكثير، وذلك أنها تميز بين البشر حسب اللون.
ووفقًا للدراسة التي لم تخضع لمراجعة النظراء بعد، والتي أجراها باحثون في King’s College في لندن، كشف ما يُسمى بمراجعة الإنصاف لثمانية أجهزة كشف للمشاة تعمل بالذكاء الاصطناعي ومُدرَّبة على مجموعات بيانات «مستخدمة على نطاق واسع في العالم الحقيقي»، أن البرامج سيئة كثيرًا في اكتشاف المشاة ذوي البشرة الداكنة مقارنة بالمشاة ذوي البشرة الفاتحة، حيث إن النظام يخفق في تعرف الأفراد ذوي البشرة الداكنة بنسبة تُقارب 8 في المئة أكثر من نظرائهم من ذوي البشرة الفاتحة.
ويُعتقد أن هذا الرقم عالٍ ويكشف عن المخاطر الحقيقية والمميتة لأنظمة الذكاء الاصطناعي المتحيزة.
ووفقًا للدراسة، فقد انخرط الباحثون أولًا في شرح شامل للبيانات، ووضعوا علامة على إجمالي 8,111 صورة مع «16,070 علامةً جنسانيةً، و 20,115 علامةً عُمريةً، و 3,513 علامةً للون البشرة».
وبعد إجراءات عمليات إحصائية، وجد الباحثون في النهاية تباينًا قدره 7.52 في المئة في دقة التمييز بين الأشخاص ذوي البشرة الزاهية والداكنة. ووفقًا للبحث، فإن الخطر على الأشخاص ذوي البشرة الداكنة ارتفع على نحو ملحوظ في إعدادات «التباين المنخفض» أو «السطوع المنخفض»، أو بعبارة أخرى، في الليل.
وبالإضافة إلى هذا التحيز العنصري، كان لأجهزة كشف المشاة نقطة أخرى عمياء جماعية ومقلقة، وهي: الأطفال، الذين كشفت النتائج عن أن احتمال أن تحددهم أجهزة الكشف أقل بنسبة 20 في المئة مقارنةً بالبالغين.
تجدر الإشارة إلى أن أيًا من الأنظمة التي اختُبرت لم تكن في الواقع ملكًا لشركات صناعة السيارات الذاتية القيادة، حيث تندرج هذه المعلومات عمومًا تحت مظلة ما يُعرف بـ «معلومات الملكية».
ولكن (لي جانج)، المحاضر في كلية علوم الحاسوب بجامعة King’s College والمؤلف المشارك في الدراسة، قال لمجلة (نيو ساينتست) New Scientists إنه من المحتمل أن لا تكون نماذج تلك الشركات بعيدة جدًا، وبالنظر إلى أن السيارات الذاتية القيادة بدأت تحقيق انتصارات تنظيمية كبيرة، فإن هذا مقلق للغاية.
وقال جانج عن شركات السيارات الذاتية القيادة: «إنها معلوماتها السرية ولن تسمح للآخرين بمعرفة النماذج التي تستخدمها، لكن ما نعرفه هو أنها تُبنى عادةً على نماذج مفتوحة المصدر. يمكننا أن نكون على يقين بأنه لا بد من أن يكون لنماذجها أيضًا مشكلات مماثلة».
ويحذر كثيرون من أن تحيز الآلة يمثل مشكلة خطرة، والآثار المترتبة على ذلك تزداد وضوحًا مع إدماج تقنية الذكاء الاصطناعي المتقدمة على نحو متزايد في الحياة اليومية.
ولكن مع وجود حياة على المحك حرفيًا، فإن هذه الأنواع من التحيزات ليست شيئًا يجب أن يُنتظر أن يُشمل باللوائح التنظيمية في أعقاب المآسي التي يمكن منعها.
