أجريت عدة دراسات في هذا العنوان، حيث كشفت انحياز تقنية الذكاء الاصطناعي للبشر البيض، وحذرت من آثار كارثية يمكن أن تحدث نتيجة لذلك، من حيث طرق جمع البيانات فهو يميز الجنس الأبيض ويخذل الجنس الملون، وتوصي الدراسات بضرورة تصميم خوارزميات أفضل.
تقنية الذكاء الاصطناعي
مخاوف تقنيات الذكاء الاصطناعي
تتخلل مراحل وخطوات تقنيات الذكاء الاصطناعي، تحيزات عرقية، حيث أن الروبوت قد تعلم ” الصور النمطية السامية” من خلال نماذج الشبكة العصبية العنكبوتية للأنترنت، والتي تمتلئ بمحتوى منحاز غير دقيق من البيانات، وقد قرر بعض العلماء دراسة واختبار لنموذج ذكاء اصطناعي كان وظيفته مساعدة رؤية الأشياء، وتحديدها بالاسم، حيث وجدوا أن الروبوت غير قادر على الأداء دون تحيز جنسي أو عرقي، بحسب قناة RT، وفي معظم الحالات نتجت قوالب نمطية معيبة.
التمييز العنصري
كانت صور التمييز العنصري عن طريق الجنس أو النوع في بعض التجارب كالآتي:
- كانت التجربة وضع صور بشكل عشوائي في ” صندوق بني “، حيث وضع الطبيب صور لشخصيات لها وظائف مختلفة وكانت النتائج، اختيار الذكور أكثر من النساء بنسبة 8%، والبيض والآسيويين أكثر من الجنسيات الأخرى، وأقل الفئات في الاختيار كانت للنساء السود بحسب دراسات في جامعة جورجيا.
- في دراسة تنبؤ بالدخل للفرد وجدوا أن الروبوت أفترض دخل للنساء أقل من الرجال، وهذا تمييز على أساس النوع.
- دراسة نشرت اليوم 14 نوفمبر في مجلة علم النفس، جاء فيها أن صور الوجوه للأشخاص البيض الناتجة عن الخوارزمية Style GAN2 كانت تبدو أكثر إنسانية وأكثر جمالا من وجوه الأشخاص الفعليين، ولا يحدث هذا للوجوه الملونة.
تحديد الوجوه بالذكاء الاصطناعي
المشاكل قد تصل للكارثية
يكمن القلق الأكبر والخطورة عندما نتحدث عن الآلات المستقلة، والتي تتخذ قرارات مادية دون الرجوع إلى توجيه البشر، فمن الممكن أن تختلط البيانات نتيجة عدم الدقة في الصورة، خاصة في مجال مثل تحديد هوية مجرمين، ولذا فإننا نحتاج لأجراء بعض التغيير في الأبحاث، لتمثيل جميع الصور النمطية البشرية من قبل شركات التكنولوجيا، والى أن يحدث ذلك قال ويليام أجينو مؤلف مشارك في جامعة واشنطن، أننا علينا أن نفترض أن أي روبوت سيكون غير دقيق أو آمن للفئات المهمشة من الأجناس الملونة.
