أصبح مستخدمو الإنترنت أصغر سنا؛ والآن تدرس المملكة المتحدة ما إذا كان الذكاء الاصطناعي يمكنه المساعدة في حمايتهم

لقد كان الذكاء الاصطناعي في مرمى الحكومات المعنية بكيفية إساءة استخدامه في عمليات الاحتيال والتضليل وغيرها من الأنشطة الضارة عبر الإنترنت؛ والآن في المملكة المتحدة، تستعد إحدى الجهات التنظيمية لاستكشاف كيفية استخدام الذكاء الاصطناعي في مكافحة بعض هذه الأمور، وتحديدًا فيما يتعلق بالمحتوى الضار بالأطفال.

أعلنت Ofcom، الجهة التنظيمية المكلفة بإنفاذ قانون السلامة عبر الإنترنت في المملكة المتحدة، أنها تخطط لإطلاق مشاورة حول كيفية استخدام الذكاء الاصطناعي والأدوات الآلية الأخرى اليوم، ويمكن استخدامها في المستقبل، لاكتشاف المحتوى غير القانوني عبر الإنترنت وإزالته بشكل استباقي، وتحديدًا لحماية الأطفال من المحتوى الضار وتحديد مواد الاعتداء الجنسي على الأطفال التي كان من الصعب اكتشافها في السابق.

ستكون الأدوات جزءًا من مجموعة أوسع من المقترحات التي تجمعها Ofcom معًا والتي تركز على سلامة الأطفال عبر الإنترنت. وقالت أوفكوم إن المشاورات بشأن المقترحات الشاملة ستبدأ في الأسابيع المقبلة، على أن تعقد مشاورات حول الذكاء الاصطناعي في وقت لاحق من هذا العام.

يقول مارك بونتينج، مدير مجموعة السلامة عبر الإنترنت التابعة لـ Ofcom، إن اهتمام الشركة بالذكاء الاصطناعي يبدأ بإلقاء نظرة على مدى جودة استخدامه كأداة فحص اليوم.

وقال في مقابلة مع TechCrunch: “تستخدم بعض الخدمات بالفعل هذه الأدوات لتحديد الأطفال وحمايتهم من هذا المحتوى”. “ولكن ليس هناك الكثير من المعلومات حول مدى دقة وفعالية هذه الأدوات. نريد أن ننظر إلى الطرق التي يمكننا من خلالها ضمان تقييم الصناعة [that] عندما يستخدمونها، والتأكد من إدارة المخاطر التي تهدد حرية التعبير والخصوصية.

إحدى النتائج المحتملة هي توصية Ofcom بكيفية وما يجب على المنصات تقييمه، وهو ما قد يؤدي ليس فقط إلى اعتماد المنصات لأدوات أكثر تطورًا، ولكن من المحتمل أيضًا فرض غرامات إذا فشلت في تقديم تحسينات إما في حظر المحتوى، أو إنشاء طرق أفضل للحفاظ على المستخدمين الأصغر سنًا. من رؤيته.

وقال: “كما هو الحال مع الكثير من قواعد السلامة عبر الإنترنت، تقع المسؤولية على عاتق الشركات للتأكد من أنها تتخذ الخطوات المناسبة وتستخدم الأدوات المناسبة لحماية المستخدمين”.

سيكون هناك منتقدون ومؤيدون لهذه التحركات. يجد باحثو الذكاء الاصطناعي طرقًا أكثر تطورًا من أي وقت مضى لاستخدام الذكاء الاصطناعي لاكتشاف التزييف العميق، على سبيل المثال، وكذلك التحقق من المستخدمين عبر الإنترنت. ومع ذلك، هناك العديد من المتشككين الذين يشيرون إلى أن اكتشاف الذكاء الاصطناعي ليس مضمونًا على الإطلاق.

أعلنت Ofcom عن المشاورة حول أدوات الذكاء الاصطناعي في نفس الوقت الذي نشرت فيه أحدث أبحاثها حول كيفية مشاركة الأطفال عبر الإنترنت في المملكة المتحدة، والتي وجدت أنه بشكل عام، هناك عدد أكبر من الأطفال الأصغر سنًا متصلين بالإنترنت أكثر من أي وقت مضى، لدرجة أن Ofcom الآن كسر النشاط بين الفئات العمرية الأصغر سنا.

ما يقرب من ربع، 24٪، من جميع الأطفال الذين تتراوح أعمارهم بين 5 إلى 7 سنوات يمتلكون الآن هواتف ذكية خاصة بهم، وعندما تضيف الأجهزة اللوحية، ترتفع الأرقام إلى 76٪، وفقًا لدراسة استقصائية للآباء الأمريكيين. تستخدم نفس الفئة العمرية أيضًا الوسائط بشكل أكبر على هذه الأجهزة: أجرى 65% مكالمات صوتية ومرئية (مقابل 59% قبل عام واحد فقط)، ويشاهد نصف الأطفال (مقابل 39% قبل عام) الوسائط المتدفقة .

إن القيود العمرية المفروضة على بعض تطبيقات الوسائط الاجتماعية السائدة آخذة في الانخفاض، ولكن مهما كانت القيود، في المملكة المتحدة لا يبدو أن يتم الالتفات إليها على أي حال. ووجدت منظمة Ofcom أن حوالي 38% من الأطفال الذين تتراوح أعمارهم بين 5 إلى 7 سنوات يستخدمون وسائل التواصل الاجتماعي. يعد تطبيق Meta’s WhatsApp، بنسبة 37%، هو التطبيق الأكثر شعبية بينهم. وربما في الحالة الأولى التي أصبح فيها تطبيق الصور الرئيسي لشركة Meta أقل شعبية من الإحساس الفيروسي لـ ByteDance، وجد أن TikTok يستخدمه 30٪ من الأطفال الذين تتراوح أعمارهم بين 5 إلى 7 سنوات، مع Instagram بنسبة 22٪ “فقط”. تم تقريب Discord من القائمة ولكنه أقل شعبية بشكل ملحوظ بنسبة 4٪ فقط.

حوالي ثلث، 32%، من الأطفال في هذا العمر يستخدمون الإنترنت من تلقاء أنفسهم، وقال 30% من الآباء إنهم لا يوافقون على أن يكون لدى أطفالهم دون السن القانونية ملفات شخصية على وسائل التواصل الاجتماعي. يظل YouTube Kids الشبكة الأكثر شعبية للمستخدمين الأصغر سنًا، بنسبة 48%.

أصبحت الألعاب، وهي إحدى الألعاب المفضلة لدى الأطفال، يستخدمها 41% من الأطفال الذين تتراوح أعمارهم بين 5 إلى 7 سنوات، و15% من الأطفال في هذه الفئة العمرية يلعبون ألعاب إطلاق النار.

في حين قال 76% من الآباء الذين شملهم الاستطلاع أنهم تحدثوا مع أطفالهم الصغار حول البقاء آمنًا عبر الإنترنت، تشير منظمة Ofcom إلى أن هناك علامات استفهام بين ما يراه الطفل وما قد يبلغ عنه. أثناء البحث عن الأطفال الأكبر سنًا الذين تتراوح أعمارهم بين 8 و17 عامًا، أجرت Ofcom مقابلات معهم مباشرةً. ووجدت أن 32% من الأطفال أفادوا أنهم شاهدوا محتوى مثيرًا للقلق عبر الإنترنت، لكن 20% فقط من آبائهم قالوا إنهم أبلغوا عن أي شيء.

حتى مع الأخذ في الاعتبار بعض التناقضات في التقارير، “يشير البحث إلى وجود انفصال بين تعرض الأطفال الأكبر سنًا لمحتوى يحتمل أن يكون ضارًا عبر الإنترنت، وما يشاركونه مع والديهم حول تجاربهم عبر الإنترنت”، كما كتبت أوفكوم. والمحتوى المثير للقلق هو مجرد تحدٍ واحد: فالتزييف العميق يمثل مشكلة أيضًا. وقالت Ofcom إنه من بين الأطفال الذين تتراوح أعمارهم بين 16 و17 عامًا، قال 25% إنهم غير واثقين من التمييز بين المنتجات المزيفة والحقيقية عبر الإنترنت.