IBM تتخلى عن تقنية التعرف على الوجه

انسحبت عملاقة التكنولوجيا (آي بي إم) IBM من سوق تقنية التعرف على الوجه مع المطالبة بإجراء حوار وطني حول استخدام أفراد تطبيق القانون لهذه التكنولوجيا، وتأتي هذه المفاجأة في الوقت الذي تواجه فيه شركات التكنولوجيا تدقيقًا متزايدًا على عقودها مع الشرطة وسط حملات القمع العنيفة للاحتجاجات السلمية عبر أمريكا.

وتوقفت الشركة عن تقديم برامج التعرف على الوجه من أجل المراقبة الجماعية أو التنميط العرقي، وقالت (IBM): إن أنظمة الذكاء الاصطناعي المستخدمة في هذه التكنولوجيا تحتاج إلى اختبار للتحيز.

وحثت الشركة على استخدام التكنولوجيا التي من شأنها تحقيق قدر أكبر من الشفافية، مثل كاميرات الجسم وتحليلات البيانات، بدلاً من الاعتماد على تقنية التعرف على الوجه التي قد تكون متحيزة.

وشرح الرئيس التنفيذي لشركة (IBM)، (آرفيند كريشنا) Arvind Krishna، في رسالة عامة إلى الكونغرس قرار الشركة بالتراجع عن العمل، وأعلن عن نيته العمل مع الكونغرس لتحقيق العدالة العرقية، بحيث يركز العمل في البداية على ثلاث مجالات رئيسية هي إصلاح الشرطة والاستخدام المسؤول للتكنولوجيا وتوسيع المهارات والفرص التعليمية.

وقال كريشنا: إن الشركة لم تعد تقدم برامج التعرف على الوجه أو تحليلها للأغراض العامة، وتعارض (IBM) بشدة استخدامات أي تقنية، من ضمنها تقنية التعرف على الوجه التي يقدمها بائعون آخرون، للمراقبة الجماعية والتنميط العنصري وانتهاكات حقوق الإنسان والحريات الأساسية أو أي غرض، لا تتوافق مع قيمنا ومبادئنا.

وأضاف “نعتقد الآن أنه الوقت المناسب لبدء حوار وطني حول ما إذا كان ينبغي استخدام تكنولوجيا التعرف على الوجه من قبل وكالات تطبيق القانون المحلية وكيف”، لكن البعض يشككون في خطوة (IBM)، مشيرين إلى أن الشركة كانت بالفعل في المركز الثالث في سباق بيع تقنية التعرف على الوجه.

وتحتفظ الشركة بالحق في بيع تقنية التعرف على الوجه لأغراض محددة، بالإضافة إلى حقها في التكنولوجيا التي باعتها للشركات الأخرى كجزء من أعمالها الاستشارية الكبيرة.

ولا يزال بيان (IBM) هو الأقوى حتى الآن من شركات التكنولوجيا الكبرى ضد إساءة استخدام خدمات التعرف على الوجه، التي أثارت الذعر بين مجتمعات الحقوق المدنية لقدرتها على تتبع السكان بصمت.

وتحسنت تقنية التعرف على الوجه بشكل كبير خلال العقد الماضي بفضل التقدم في الذكاء الاصطناعي، وثبت أن التكنولوجيا تعاني من التحيز بشأن العرق والإثنية، مما قد يجعل الأدوات غير موثوق بها بالنسبة لقوات تطبيق القانون والأمن ويجعلها مشاركة في الانتهاكات المحتملة للحقوق المدنية.

وكشف بحث صادر في عام 2018 عن مدى انحياز العديد من أنظمة التعرف على الوجه التجارية، التي من ضمنها أنظمة (IBM)، وأدى هذا البحث والدراسات اللاحقة إلى ظهور انتقادات لهذه الخوارزميات والمحاولات المستمرة لتصحيح التحيز.

ووجدت دراسة أجريت عام 2019 أن أدوات التعرف على الوجه من مايكروسوفت وأمازون وآي بي إم لم تكن دقيقة بنسبة مئة في المئة عندما يتعلق الأمر بالتعرف على الرجال والنساء ذوي البشرة الداكنة.

واقترحت دراسة من المعهد الوطني الأمريكي للمعايير والتكنولوجيا أن خوارزميات التعرف على الوجه كانت أقل دقة في تحديد الوجوه الأمريكية الأفريقية والآسيوية مقارنة بالوجوه القوقازية.

وحاولت (IBM) المساعدة في قضية تحيز تقنية التعرف على الوجه، حيث أصدرت مجموعة بيانات عامة في 2018 مصممة للمساعدة في تقليل التحيز كجزء من بيانات التدريب لنموذج التعرف على الوجه.