يتخذ Google Play إجراءات صارمة ضد تطبيقات الذكاء الاصطناعي بعد تداول تطبيقات لإنشاء صور عارية عميقة

تصدر Google اليوم إرشادات جديدة للمطورين الذين ينشئون تطبيقات الذكاء الاصطناعي الموزعة من خلال Google Play، على أمل تقليل المحتوى غير المناسب والمحظور. وتقول الشركة إن التطبيقات التي تقدم ميزات الذكاء الاصطناعي يجب أن تمنع إنشاء محتوى مقيد – والذي يتضمن المحتوى الجنسي والعنف وغير ذلك – وستحتاج إلى توفير طريقة للمستخدمين للإبلاغ عن المحتوى المسيء الذي يجدونه. بالإضافة إلى ذلك، تقول جوجل إن المطورين بحاجة إلى “اختبار صارم” لأدوات ونماذج الذكاء الاصطناعي الخاصة بهم، للتأكد من أنهم يحترمون سلامة المستخدم وخصوصيته.

كما أنها تتخذ إجراءات صارمة ضد التطبيقات التي تروج موادها التسويقية لحالات استخدام غير لائقة، مثل التطبيقات التي تجرد الأشخاص من ملابسهم أو تنشئ صورًا عارية بدون رضاهم. إذا أشارت نسخة الإعلان إلى أن التطبيق قادر على القيام بهذا النوع من الأشياء، فقد يتم حظره من Google Play، سواء كان التطبيق قادرًا بالفعل على القيام بمثل هذا الشيء أم لا.

تتبع المبادئ التوجيهية آفة متزايدة من تطبيقات الذكاء الاصطناعي التي قامت بتسويق نفسها عبر وسائل التواصل الاجتماعي في الأشهر الأخيرة. على سبيل المثال، وجد تقرير صدر في أبريل من قبل 404 Media أن Instagram كان يستضيف إعلانات لتطبيقات تدعي أنها تستخدم الذكاء الاصطناعي لإنشاء صور عارية عميقة. وقام أحد التطبيقات بتسويق نفسه باستخدام صورة كيم كارداشيان وشعار “خلع ملابس أي فتاة مجانًا”. قامت شركتا Apple وGoogle بسحب التطبيقات من متاجر التطبيقات الخاصة بهما، لكن المشكلة لا تزال منتشرة على نطاق واسع.

أبلغت المدارس في جميع أنحاء الولايات المتحدة عن مشاكل مع الطلاب الذين يقومون بتمرير صور عارية مزيفة بتقنية الذكاء الاصطناعي لطلاب آخرين (وأحيانًا مدرسين) بغرض التنمر والتحرش، إلى جانب أنواع أخرى من محتوى الذكاء الاصطناعي غير المناسب. في الشهر الماضي، أدت عملية تزييف عنصرية باستخدام الذكاء الاصطناعي لمدير مدرسة إلى اعتقاله في بالتيمور. والأسوأ من ذلك أن المشكلة تؤثر حتى على الطلاب في المدارس المتوسطة في بعض الحالات.

تقول Google إن سياساتها ستساعد في منع التطبيقات من Google Play التي تحتوي على محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي والذي يمكن أن يكون غير مناسب أو ضارًا للمستخدمين. ويشير إلى سياسة المحتوى الحالية التي تم إنشاؤها بواسطة الذكاء الاصطناعي كمكان للتحقق من متطلبات الموافقة على التطبيق على Google Play. وتقول الشركة إن تطبيقات الذكاء الاصطناعي لا يمكنها السماح بإنشاء أي محتوى مقيد، ويجب أيضًا أن تمنح المستخدمين طريقة للإبلاغ عن المحتوى المسيء والمحتوى غير المناسب، بالإضافة إلى مراقبة تلك التعليقات وتحديد أولوياتها. هذا الأخير مهم بشكل خاص في التطبيقات حيث تفاعلات المستخدمين “تشكل المحتوى والتجربة”، كما تقول جوجل – مثل التطبيقات التي يتم فيها تصنيف النماذج الشائعة في مرتبة أعلى أو أكثر بروزًا، ربما.

لا يمكن للمطورين أيضًا الإعلان عن أن تطبيقهم ينتهك أيًا من قواعد Google Play، وفقًا لمتطلبات ترويج التطبيقات في Google. إذا أعلن عن حالة استخدام غير مناسبة، فمن الممكن أن يتم تشغيل التطبيق من متجر التطبيقات.

بالإضافة إلى ذلك، يتحمل المطورون أيضًا مسؤولية حماية تطبيقاتهم ضد المطالبات التي قد تتلاعب بميزات الذكاء الاصطناعي الخاصة بهم لإنشاء محتوى ضار ومسيء. تقول Google إن المطورين يمكنهم استخدام ميزة الاختبار المغلق لمشاركة الإصدارات المبكرة من تطبيقاتهم مع المستخدمين للحصول على تعليقات. تقترح الشركة بشدة ألا يقوم المطورون بالاختبار قبل الإطلاق فحسب، بل يقومون بتوثيق تلك الاختبارات أيضًا، حيث قد تطلب Google مراجعتها في المستقبل.

تنشر الشركة أيضًا موارد أخرى وأفضل الممارسات، مثل دليل People + AI، الذي يهدف إلى دعم المطورين في إنشاء تطبيقات الذكاء الاصطناعي.