تريد خوارزمية اقتصاص الصور في Twitter وجوهًا شابة وجميلة وذات ألوان فاتحة

هناك تويتر أعلنت النتائج منافسة مفتوحة للعثور على التبعيات الخوارزمية في نظام اقتصاص الصور. قامت الشركة بتعطيل التصوير الآلي في مارس بعد الاختبارات التي أجراها مستخدمو Twitter العام الماضي ، تم اقتراح تفضيل الوجوه البيضاء على الوجوه السوداء. ثم بدأ في الخروج بخطأ في الخوارزمية لتحليل مشكلة قريبة.

أكدت المنافسة هذه النتائج السابقة. ال الدخول في المقام الأول تدعم طريقة القص في Twitter الوجوه “بلون بشرة نحيف وخفيف وباهت أو دافئ ونسيج بشرة ناعم ونفس ملامح الوجه الأنثوية”. أظهرت إدخالات المركزين الثاني والثالث وجود النظام المؤيد ضد ذوي الشعر الأبيض أو الرمادي، ويقترح التمييز على أساس السن ، و يفضل اللغة الإنجليزية على الحروف العربية في الأفلام.

أ عرض هذه النتائج في مؤتمر DEF CON 29 ، أشاد رامان شاتري ، مدير فريق META في Twitter (الذي يقرأ بروتوكولات التعلم الآلي والشفافية والمساءلة) ، بالمشاركين لإظهار التأثيرات الواقعية لاعتماد الخوارزمية.

“عندما نفكر في التبعيات في نماذجنا ، فإن الأمر لا يتعلق فقط بالمعلم أو المجرب […] قال شهاتري: “لكن كيف يتم ذلك بالطريقة التي نفكر بها في المجتمع”. أستخدم عبارة “الحياة التي تتبع فن الحياة”. نقوم بإنشاء هذه المرشحات لأننا نعتقد أن هذا ما يجعلها جميلة ، وهي تدرب نماذجنا وتدفع هذه الأفكار غير الواقعية التي لا معنى لها بأنها جذابة.

الفائز بالمركز الأول وأول جائزة بقيمة 3500 دولار بوكتون كولينش، طالب دراسات عليا في EPFL ، وهي جامعة بحثية في سويسرا. باستخدام برنامج AI Kulinich Style KN2 ، ابتكر العديد من الوجوه الواقعية التي تختلف في لون البشرة وملامح الوجه الأنثوية والمذكرية والنحافة. قدم هذه الأنواع في خوارزمية اقتصاص الصور على Twitter واكتشف الأنواع المفضلة.

كما يشير كولينتش في ملخصه ، فإن هذه الميول الخوارزمية تضاعف التبعيات في المجتمع ، وتقطع فعليًا “أولئك الذين لا يستوفون إرشادات وزن الجسم والعمر ولون البشرة”.

هذه التبعيات هي أيضًا أكثر انتشارًا مما تعتقد. متسابق آخر ، فينتشنزو دي شيكوالحائز على ملاحظة خاصة لنهجه المبتكر ، أظهر أيضًا طريقة نحت الصورة الرموز التعبيرية بألوان البشرة الفاتحة الرموز التعبيرية بألوان البشرة الداكنة. مدخل المركز الثالث ، طريق رويا باكسادكشف تاراس ، مؤسس منظمة المحامين الفنية ، أن الكتابة الاحترافية تتوسع لتشمل الميزات أيضًا. يقارن عمل Paxas الميمات بالنصوص الإنجليزية والعربية ، مما يدل على أن الخوارزمية عادة ما تقطع الصورة لتسليط الضوء على النص الإنجليزي.

في حين أن نتائج المنافسة المؤيدة على Twitter قد تبدو مخيبة للآمال ، إلا أنها تؤكد انتشار التحيز الاجتماعي في الأنظمة الخوارزمية ، وتوضح أيضًا كيف يمكن لشركات التكنولوجيا التغلب على هذه المشكلات من خلال فتح مشاكلها للتدقيق الخارجي. قال شودري: “إن قدرة الجميع على الدخول في بطولة مثل هذه من خلال الانغماس في عمق نوع معين من الأذى أو التحيز ليست ترفًا للفرق في الشركات”.

يتعارض نهج تويتر المفتوح بشكل صارخ مع ردود شركات التكنولوجيا الأخرى عند مواجهة مشكلات مماثلة. عندما اكتشف باحثون بقيادة جوي بولامويني من معهد ماساتشوستس للتكنولوجيا التمييز العنصري والجنساني في أساليب التعرف على الوجه في أمازون ، على سبيل المثال ، أطلقت الشركة حملة كبيرة لتشويه سمعة المتورطين. يدعو عملهم “مضلل” و “كاذب”. بعد أشهر من القتال ضد الاختراعات ، تراجعت أمازون أخيرًا ، وفرضت حظرًا مؤقتًا على استخدام أساليب مماثلة من قبل سلطات إنفاذ القانون.

شدد باتريك هول ، القاضي في مسابقة تويتر وباحث الذكاء الاصطناعي الذي يعمل على التمييز الخوارزمي ، على أن جميع أنظمة الذكاء الاصطناعي لديها مثل هذه التبعيات وأنه يجب على الشركات العمل بجد للعثور عليها. قال هول: “الذكاء الاصطناعي والتعلم الآلي هما الغرب المتوحش ، بغض النظر عن مدى موهبة فريق علوم البيانات لديك”. “إذا لم تعثر على الأخطاء ، أو لم تعثر هدايا الحشرات على الحشرات ، فمن سيجد حشراتك؟ لأنك بالتأكيد تعاني من أخطاء.”