Twitter يتخلى عن خوارزمية اقتصاص الصور الآلي بعد اكتشاف التحيزات العرقية والجنسانية

قالت الشركة في بحث جديد يوم الأربعاء إن خوارزمية اقتصاص الصور في Twitter لديها تحيز إشكالي تجاه استبعاد السود والرجال، مضيفة أن “كيفية اقتصاص صورة هو القرار الأفضل الذي يتخذه الناس”، الدراسة التي أجراها ثلاثة من التعلم الآلي لديها أجري الباحثون بعد انتقادات المستخدمين العام الماضي حول معاينات الصور في المنشورات التي تستثني وجوه السود، ووجدت أن هناك اختلافًا بنسبة 8 في المائة عن التكافؤ الديمغرافي لصالح النساء، و 4 في المائة لصالح الأفراد البيض، واستشهدت الورقة بالعديد من الأسباب المحتملة، بما في ذلك القضايا بخلفيات الصورة ولون العيون، لكن قال إن أيا منها لم يكن عذراً.

Twitter يتخلى عن خوارزمية اقتصاص الصور الآلي بعد اكتشاف التحيزات العرقية والجنسانية

Twitter الاقتصاص المستند إلى التعلم الآلي معيبًا

كتب الباحثون: “يعتبر الاقتصاص المستند إلى التعلم الآلي معيبًا بشكل أساسي لأنه يزيل وكالة المستخدم ويقيد تعبير المستخدم عن هويتهم وقيمهم، وبدلاً من ذلك يفرض نظرة معيارية حول أي جزء من الصورة يعتبر الأكثر إثارة للاهتمام”، يعرضون صورًا بنسبة عرض إلى ارتفاع قياسية كاملة – دون أي محصول – على تطبيقات الهاتف المحمول ويحاولون توسيع هذا الجهد، قام الباحثون أيضًا بتقييم ما إذا كانت المحاصيل تفضل أجساد النساء على الرؤوس، مما يعكس ما يُعرف باسم “النظرة الذكورية”، لكنهم وجدوا أن لا يبدو أن هذا هو الحال.

باحثون في Microsoft يؤكدون أن أنظمة تحليل الوجه تخطئ في التعرف على الأشخاص

وقالت الورقة البحثية إن النتائج هي مثال آخر للتأثير المتباين لأنظمة الذكاء الاصطناعي بما في ذلك التحيزات الديموغرافية التي تم تحديدها في التعرف على الوجه وتحليل النص، وجد العمل الذي قام به باحثون في Microsoft ومعهد ماساتشوستس للتكنولوجيا في عام 2018 ودراسة أجرتها الحكومة الأمريكية لاحقًا أن أنظمة تحليل الوجه تخطئ في التعرف على الأشخاص الملونين أكثر من البيض.


اترك رد

لن يتم نشر عنوان بريدك الإلكتروني.