Meta AI مهووسة بالعمامة عند إنشاء صور للرجال الهنود

يعد التحيز في مولدات صور الذكاء الاصطناعي ظاهرة مدروسة جيدًا وتم الإبلاغ عنها جيدًا، لكن أدوات المستهلك لا تزال تظهر تحيزات ثقافية صارخة. أحدث متهم في هذا المجال هو برنامج الدردشة الآلي التابع لشركة Meta، والذي يريد لسبب ما إضافة عمائم إلى أي صورة لرجل هندي.

وطرحت الشركة Meta AI في أكثر من اثنتي عشرة دولة في وقت سابق من هذا الشهر عبر WhatsApp وInstagram وFacebook وMessenger. ومع ذلك، فقد طرحت الشركة Meta AI لاختيار المستخدمين في الهند، وهي واحدة من أكبر الأسواق حول العالم.

تنظر TechCrunch إلى العديد من الاستعلامات الخاصة بالثقافة كجزء من عملية اختبار الذكاء الاصطناعي لدينا، والتي اكتشفنا من خلالها، على سبيل المثال، أن Meta تحظر الاستعلامات المتعلقة بالانتخابات في الهند بسبب الانتخابات العامة الجارية في البلاد. لكن “تخيل”، مولد الصور الجديد لشركة Meta AI، أظهر أيضًا استعدادًا غريبًا لتوليد رجال هنود يرتدون عمامة، من بين تحيزات أخرى.

عندما اختبرنا مطالبات مختلفة وقمنا بإنشاء أكثر من 50 صورة لاختبار سيناريوهات مختلفة، وكانت جميعها هنا باستثناء زوجين (مثل “سائق ألماني”)، فعلنا ذلك لنرى كيف يمثل النظام الثقافات المختلفة. لا يوجد منهج علمي وراء هذا الجيل، ولم نأخذ في الاعتبار الأخطاء في تمثيل الأشياء أو المشاهد خارج العدسة الثقافية.

هناك الكثير من الرجال في الهند يرتدون عمامة، لكن النسبة ليست عالية تقريبًا كما تقترح أداة Meta AI. في العاصمة الهندية دلهي، ترى واحدًا من كل 15 رجلاً يرتدي عمامة على الأكثر. ومع ذلك، في الصور التي ينشئها الذكاء الاصطناعي الخاص بـ Meta، فإن ما يقرب من 3-4 من أصل 5 صور تمثل الذكور الهنود يرتدون عمامة.

بدأنا بالعبارة السريعة “هندي يمشي في الشارع”، وكانت جميع الصور لرجال يرتدون عمائم.

بعد ذلك، حاولنا إنشاء صور بمطالبات مثل “رجل هندي” و”رجل هندي يلعب الشطرنج” و”رجل هندي يطبخ” ورجل هندي يسبح. أنتجت Meta AI صورة واحدة فقط لرجل بدون عمامة.

حتى مع المطالبات غير المرتبطة بالجنس، لم يُظهر Meta AI تنوعًا كبيرًا من حيث الاختلافات بين الجنسين والثقافة. لقد جربنا المطالبات بمهن وإعدادات مختلفة، بما في ذلك مهندس معماري، وسياسي، ولاعب كرة الريشة، ورامي السهام، وكاتب، ورسام، وطبيب، ومعلم، وبائع بالونات، ونحات.

وكما ترون، على الرغم من التنوع في الإعدادات والملابس، فإن جميع الرجال ولدوا وهم يرتدون العمائم. مرة أخرى، على الرغم من أن العمائم شائعة في أي وظيفة أو منطقة، فمن الغريب أن تعتبرها Meta AI منتشرة في كل مكان.

لقد أنشأنا صورًا لمصور فوتوغرافي هندي، ومعظمها يستخدم كاميرا قديمة، باستثناء صورة واحدة حيث يمتلك قرد بطريقة أو بأخرى كاميرا DSLR.

لقد أنشأنا أيضًا صورًا لسائق هندي. وحتى أضفنا كلمة “أنيق”، أظهرت خوارزمية توليد الصور تلميحات عن التحيز الطبقي.

لقد حاولنا أيضًا إنشاء صورتين بمطالبات مماثلة. فيما يلي بعض الأمثلة: مبرمج هندي في أحد المكاتب.

رجل هندي في أحد الحقول يقوم بتشغيل جرار.

رجلان هنديان يجلسان بجانب بعضهما البعض:

بالإضافة إلى ذلك، حاولنا إنشاء مجموعة من الصور ذات المطالبات، مثل رجل هندي بتسريحات شعر مختلفة. يبدو أن هذا ينتج التنوع الذي توقعناه.

لدى Meta AI’s Imagine أيضًا عادة محيرة تتمثل في إنشاء نوع واحد من الصور لمطالبات مماثلة. على سبيل المثال، كان يولّد باستمرار صورة لمنزل هندي على الطراز القديم بألوان نابضة بالحياة وأعمدة خشبية وأسقف منمقة. سيخبرك البحث السريع عن الصور على Google أن هذا ليس هو الحال مع غالبية المنازل الهندية.

هناك مطالبة أخرى جربناها وهي “منشئ محتوى هندي”، وقد أدى ذلك إلى إنشاء صورة لمبدعة بشكل متكرر. في المعرض الموجود أدناه، قمنا بتضمين صور مع منشئ محتوى على شاطئ، وتلة، وجبل، وحديقة حيوانات، ومطعم، ومتجر أحذية.

مثل أي مولد للصور، من المحتمل أن تكون التحيزات التي نراها هنا بسبب عدم كفاية بيانات التدريب، وبعد ذلك عدم كفاية عملية الاختبار. على الرغم من أنه لا يمكنك اختبار جميع النتائج المحتملة، إلا أنه من السهل اكتشاف الصور النمطية الشائعة. يبدو أن Meta AI تختار نوعًا واحدًا من التمثيل لموجه معين، مما يشير إلى عدم وجود تمثيل متنوع في مجموعة البيانات على الأقل بالنسبة للهند.

ردًا على الأسئلة التي أرسلتها TechCrunch إلى Meta حول بيانات التدريب والتحيزات، قالت الشركة إنها تعمل على تحسين تقنية الذكاء الاصطناعي التوليدية الخاصة بها، لكنها لم تقدم الكثير من التفاصيل حول العملية.

“هذه تقنية جديدة وقد لا تؤدي دائمًا إلى الاستجابة التي نعتزمها، وهو نفسه بالنسبة لجميع أنظمة الذكاء الاصطناعي التوليدية. وقال متحدث باسم الشركة في بيان: “منذ إطلاقنا، أصدرنا باستمرار تحديثات وتحسينات لنماذجنا ونواصل العمل على تحسينها”.

أكبر ما يميز Meta AI هو أنه مجاني ومتاح بسهولة عبر أسطح متعددة. ولذلك فإن الملايين من الناس من ثقافات مختلفة سوف يستخدمونها بطرق مختلفة. في حين أن شركات مثل Meta تعمل دائمًا على تحسين نماذج توليد الصور من حيث دقة كيفية إنشاء الكائنات والبشر، فمن المهم أيضًا أن تعمل على هذه الأدوات لمنعها من التلاعب بالقوالب النمطية.

من المحتمل أن ترغب Meta في أن يستخدم المبدعون والمستخدمون هذه الأداة لنشر المحتوى على منصاتها. ومع ذلك، إذا استمرت التحيزات التوليدية، فإنها تلعب أيضًا دورًا في تأكيد التحيزات أو تفاقمها لدى المستخدمين والمشاهدين. الهند بلد متنوع به العديد من تقاطعات الثقافة والطبقة والدين والمنطقة واللغات. ستحتاج الشركات التي تعمل على أدوات الذكاء الاصطناعي إلى أن تكون أفضل في تمثيل الأشخاص المختلفين.