تمنع Microsoft أقسام الشرطة الأمريكية من استخدام أداة الذكاء الاصطناعي للمؤسسات للتعرف على الوجه

لقد غيرت Microsoft سياستها لمنع أقسام الشرطة الأمريكية من استخدام الذكاء الاصطناعي التوليدي للتعرف على الوجه من خلال خدمة Azure OpenAI، وهي خدمة الشركة المدارة بالكامل والتي تركز على المؤسسات حول تقنيات OpenAI.

تحظر اللغة المضافة يوم الأربعاء إلى شروط خدمة Azure OpenAI Service عمليات التكامل مع خدمة Azure OpenAI من استخدامها “بواسطة أو لصالح” أقسام الشرطة للتعرف على الوجه في الولايات المتحدة، بما في ذلك عمليات التكامل مع نماذج تحليل النص والكلام الخاصة بـ OpenAI.

هناك نقطة جديدة منفصلة تغطي “أي جهة إنفاذ قانون على مستوى العالم”، وتحظر صراحة استخدام “تقنية التعرف على الوجه في الوقت الفعلي” على كاميرات الهواتف المحمولة، مثل كاميرات الجسم وكاميرات أجهزة القياس، لمحاولة التعرف على شخص ما في “خارج نطاق السيطرة، وفي داخل السيارة”. -البيئات البرية.

تأتي التغييرات في المصطلحات بعد أسبوع من إعلان شركة Axon، الشركة المصنعة لمنتجات التكنولوجيا والأسلحة للجيش وإنفاذ القانون، عن منتج جديد يستفيد من نموذج النص التوليدي GPT-4 الخاص بـ OpenAI لتلخيص الصوت من كاميرات الجسم. سارع النقاد إلى الإشارة إلى المزالق المحتملة، مثل الهلوسة (حتى أفضل نماذج الذكاء الاصطناعي التوليدية اليوم تخترع الحقائق) والتحيزات العنصرية الناتجة عن بيانات التدريب (وهو أمر مثير للقلق بشكل خاص بالنظر إلى أن الأشخاص الملونين هم أكثر عرضة للإيقاف من قبل الشرطة). من أقرانهم البيض).

ليس من الواضح ما إذا كانت Axon تستخدم GPT-4 عبر خدمة Azure OpenAI، وإذا كان الأمر كذلك، ما إذا كانت السياسة المحدثة استجابة لإطلاق منتج Axon. قامت OpenAI سابقًا بتقييد استخدام نماذجها للتعرف على الوجه من خلال واجهات برمجة التطبيقات الخاصة بها. لقد تواصلنا مع Axon وMicrosoft وOpenAI وسنقوم بتحديث هذا المنشور إذا تلقينا ردًا.

تترك الشروط الجديدة مجالًا للمناورة لشركة Microsoft.

الحظر الكامل على استخدام خدمة Azure OpenAI يخص الولايات المتحدة فقط, ليست دولية يا شرطة ولا يشمل التعرف على الوجه الذي يتم إجراؤه ثابت كاميرات في خاضع للسيطرة البيئات، مثل المكتب الخلفي (على الرغم من أن الشروط تحظر أي استخدام للتعرف على الوجه من قبل الشرطة الأمريكية).

يتتبع ذلك النهج الأخير الذي اتبعته شركة Microsoft وشريكها المقرب OpenAI فيما يتعلق بعقود إنفاذ القانون والدفاع المتعلقة بالذكاء الاصطناعي.

في يناير، كشفت تقارير بلومبرج أن OpenAI تعمل مع البنتاغون في عدد من المشاريع بما في ذلك قدرات الأمن السيبراني – وهو خروج عن الحظر السابق الذي فرضته الشركة الناشئة على توفير الذكاء الاصطناعي للجيوش. وفي مكان آخر، عرضت مايكروسوفت استخدام أداة إنشاء الصور الخاصة بـ OpenAI، DALL-E، لمساعدة وزارة الدفاع (DoD) في بناء برنامج لتنفيذ العمليات العسكرية، وفقًا لموقع The Intercept.

أصبحت خدمة Azure OpenAI متاحة في منتج Microsoft Azure Government في فبراير، مما أضاف ميزات إضافية للامتثال والإدارة موجهة نحو الوكالات الحكومية بما في ذلك تطبيق القانون. في منشور بالمدونة، تعهدت كانديس لينغ، نائب الرئيس الأول لقسم Microsoft الفيدرالي الذي يركز على الحكومة في Microsoft، بأن خدمة Azure OpenAI “سيتم تقديمها للحصول على ترخيص إضافي” إلى وزارة الدفاع لأعباء العمل التي تدعم مهام وزارة الدفاع.

تحديث: بعد النشر، قالت مايكروسوفت إن تغييرها الأصلي لشروط الخدمة يحتوي على خطأ، وفي الواقع ينطبق الحظر فقط على التعرف على الوجه في الولايات المتحدة، وهو ليس حظرًا شاملاً على أقسام الشرطة التي تستخدم الخدمة.