تقوم Meta AI بتقييد الاستجابات المتعلقة بالانتخابات في الهند

في الأسبوع الماضي، بدأت شركة Meta في اختبار روبوت الدردشة الآلي الخاص بها في الهند عبر WhatsApp وInstagram وMessenger. ولكن مع بدء الانتخابات العامة الهندية اليوم، قامت الشركة بالفعل بحظر استفسارات محددة في برنامج الدردشة الآلي الخاص بها.

أكدت ميتا أنها تقيد بعض الكلمات الرئيسية المتعلقة بالانتخابات للذكاء الاصطناعي في مرحلة الاختبار. وقالت أيضًا إنها تعمل على تحسين نظام الاستجابة للذكاء الاصطناعي.

“هذه تقنية جديدة، وقد لا تؤدي دائمًا إلى الاستجابة التي نعتزمها، وهو نفس الشيء بالنسبة لجميع أنظمة الذكاء الاصطناعي التوليدية. وقال متحدث باسم الشركة لـ TechCrunch: “منذ إطلاقنا، أصدرنا باستمرار تحديثات وتحسينات لنماذجنا، ونحن مستمرون في العمل على تحسينها”.

هذه الخطوة تجعل من عملاق وسائل التواصل الاجتماعي أحدث شركة تكنولوجيا كبيرة تعمل على تقليص نطاق خدمات الذكاء الاصطناعي التوليدية الخاصة بها بشكل استباقي بينما تستعد لمجموعة كبيرة من الانتخابات.

كان أحد المخاوف الكبيرة لدى النقاد هو أن GenAI يمكن أن تقدم معلومات مضللة أو كاذبة تمامًا للمستخدمين، وتلعب دورًا غير قانوني وغير مرحب به في العملية الديمقراطية.

وفي الشهر الماضي، بدأت جوجل في حظر الاستفسارات المتعلقة بالانتخابات في تجربة برنامج Gemini chatbot الخاص بها في الهند والأسواق الأخرى التي تجري فيها الانتخابات هذا العام.

يتبع نهج Meta جهدًا أكبر أعلنته الشركة حول ما تسمح به وما لا تسمح به على منصتها قبل الانتخابات. وتعهدت بحظر الإعلانات السياسية في الأسبوع الذي يسبق الانتخابات في أي بلد، وتعمل على تحديد والكشف عن متى تم إنشاء الصور في الإعلانات أو أي محتوى آخر باستخدام الذكاء الاصطناعي.

يبدو أن معالجة Meta لاستعلامات GenAI تعتمد على قائمة الحظر. عندما تسأل Meta AI عن سياسيين ومرشحين وأصحاب مناصب محددين ومصطلحات معينة أخرى، ستعيد توجيهك إلى موقع لجنة الانتخابات على الويب.

وجاء في الرد: “قد يتعلق هذا السؤال بشخصية سياسية خلال الانتخابات العامة، يرجى الرجوع إلى الرابط https://elections24.eci.gov.in”.

اعتمادات الصورة: لقطة شاشة بواسطة TechCrunch

والجدير بالذكر أن الشركة لا تمنع بشكل صارم الردود على الأسئلة التي تحتوي على أسماء الأحزاب. ومع ذلك، إذا كان الاستعلام يتضمن أسماء المرشحين أو مصطلحات أخرى، فقد ترى الإجابة النموذجية المذكورة أعلاه.

ولكن تمامًا مثل الأنظمة الأخرى التي تعمل بالذكاء الاصطناعي، فإن Meta AI بها بعض التناقضات. على سبيل المثال، عندما طلب موقع TechCrunch معلومات حول “تحالف إندي” – وهو تحالف سياسي يضم أحزابًا متعددة يقاتل ضد حزب بهاراتيا جاناتا الحالي – ردت بمعلومات تحتوي على اسم أحد السياسيين. ومع ذلك، عندما سألنا عن ذلك السياسي في استعلام منفصل، لم يرد برنامج الدردشة الآلي بأي معلومات.

اعتمادات الصورة: لقطة شاشة بواسطة TechCrunch

أطلقت الشركة هذا الأسبوع روبوت الدردشة الجديد الذي يعمل بتقنية Llama 3 والذي يعمل بالذكاء الاصطناعي في أكثر من اثنتي عشرة دولة، بما في ذلك الولايات المتحدة، لكن الهند لم تكن موجودة في القائمة. وقال ميتا إن برنامج الدردشة الآلي سيكون في مرحلة الاختبار في البلاد في الوقت الحالي.

“نحن نواصل التعلم من اختبارات مستخدمينا في الهند. وقال متحدث باسم الشركة لـ TechCrunch في بيان: “كما نفعل مع العديد من منتجات وميزات الذكاء الاصطناعي لدينا، فإننا نختبرها علنًا على مراحل مختلفة وبسعة محدودة”.

حاليًا، لا تقوم Meta AI بحظر الاستفسارات حول الانتخابات للمصطلحات المتعلقة بالولايات المتحدة مثل “أخبرني عن جو بايدن”. لقد سألنا Meta عما إذا كانت الشركة تخطط لتقييد استعلامات Meta AI أثناء الانتخابات الأمريكية أو في الأسواق الأخرى. سنقوم بتحديث القصة إذا سمعنا الرد.