مركز الدفاع عن الحريات الإعلامية والثقافية - سكايز - مؤسسة سمير قصير

إدارة المحتوى على الإنترنت في ظل انتشار كوفيد-19

الخميس , ٢٣ نيسان ٢٠٢٠

تسلّط أزمة كوفيد-19 الضوء، من زاوية جديدة، على الدور الذي يؤديه وسطاء الإنترنت كمقدّمين لخدمات المعلومات ومنصات التجارة الإلكترونية. في هذا السياق، حدّدت أمانة "شبكة سياسة الإنترنت والولاية القضائية" (Internet & Jurisdiction Policy Network) ثلاث قضايا أساسية انتقلت إلى الواجهة بفعل الأزمة الحالية: 

  1. تزايد الاعتماد على الذكاء الاصطناعي في إدارة المحتوى
  2. نطاق إدارة المحتوى
  3. الدور الفعلي لمنصات الإنترنت كمقدّمة لمعلومات الخدمة العامة


تتولى "شبكة سياسة الإنترنت والولاية القضائية"، من خلال برامجها الثلاثة ومنذ أكثر من خمس سنوات، تيسير نقاشات بين القطاعين العام والخاص والمجتمع المدني حول التحديات المقترنة بالولاية القضائية عند استخدام الإنترنت. وبفضل الخبرة الواسعة التي راكمتها الشبكة في هذا المجال، أدركت أنه من الضروري إنشاء إطار مرجعي مشترك لمعالجة القضايا، وإيجاد الحلول، وتقييم أثرها بشكلٍ مناسب.

من هذا المنطلق، تقدّم أمانة الشبكة، من خلال هذا الموجز الإطاري، وبناءً على النقاشات التي جرت بين الأعضاء، قائمةً ببعض المسائل الهيكلية المتعلقة بالتحديات الجديدة ذات الصلة بإدارة المحتوى العابر للحدود، ضمن إطار أزمة كوفيد-19. يهدف هذا الموجز إلى مساعدة مختلف الشركاء في تحليل المسائل المذكورة في ظل هذا السياق الاستثنائي، بهدف المساهمة في وضع أنسب الحلول.

ولا بدّ من إجراء تقييم شامل للخطوات المتّخذة بمجرّد انفراج هذه الأزمة، على أن يشمل ذلك تحليل النتائج والدروس المستخلصة. كما سيتطلّب الأمر المحافظة على كافة المعلومات ذات الصلة، مع ضرورة تفكير وسطاء الإنترنت في وضع تقارير خاصة حول مدى شفافية الإجراءات التي اتُّخِذَت. فضلاً عن ذلك، سيساهم تقييم أفضل الممارسات، وفوائد التنسيق والتعاون، في الاستعداد للأزمة التالية بشكل أفضل. كما يجب أن يتضمّن هذا التحليل تقييماً للإجراءات والممارسات التي بدأ العمل بها في هذه الفترة الاستثنائية لتحديد ما هي الجوانب التي يجب الحفاظ عليها.

 

المسائل الهيكلية المتعلقة بالتحديات الجديدة

 

  1. دور الذكاء الاصطناعي في إدارة المحتوى


عقب هذه الأزمة الصحية، أعلنت منصات إنترنت كبرى أنها ستضطر إلى زيادة اعتمادها على أدوات إدارة المحتوى المرتكزة على الذكاء الاصطناعي، بسبب عدم تمكّن مراقبي المحتوى من استخدام الأدوات المطلوبة في منازلهم. بطبيعة الحال، يختلف هذا الأمر عن استخدام التكنولوجيا كأداة للكشف والإبلاغ، هدفها مساعدة المراقبين البشريين على اتّخاذ قراراتهم. لذا، لا بدّ من طرح علامة استفهام حول طريقة توزيع الأولويات على عدد مخفّض من المراقبين للبتّ في المسائل المتعلقة بسلامة الأطفال، والإرهاب، والانتحار وإيذاء النفس، فضلاً عن المحتوى الضار المتعلق بكوفيد-19؛ مع الإشارة إلى أنّ تقليص القدرة البشرية لمراجعة المحتوى يؤدي بدوره إلى استغراق الاستجابة فترةً زمنيةً أطول. فهل يمكن أن يؤدي ذلك إلى تراجع عزيمة المبلّغين الأفراد؟

جديرٌ بالذكر أنّ فريق الاتصال المسؤول عن برنامج المحتوى والولاية القضائية كان قد ناقش كيف تؤثّر زيادة الإدارة عبر الذكاء الاصطناعي على كلٍّ من المراحل الأربع لإدارة المحتوى، أي الكشف، والتقييم، واختيار الإجراء المناسب، وسبل الانتصاف.

الكشف

معايير للكشف عبر الذكاء الاصطناعي

  • تحليل المضمون: الكلمات الرئيسة، تقنية التعرف على الصور.
  • سرعة الانتشار: مستوى التفاعل، سرعة إعادة النشر.
  • معدّل الانتشار: (مثلاً عدد المتابعين، سرعة النشر).


الخوارزميات

  • معالجة مواضيع جديدة: كيف يمكن برمجة موضوع جديد؟ (ما هي مجموعات البيانات ذات الصلة)
  • الكيانات الأصغر حجماً: مدى توافر الأدوات ومجموعات البيانات للكيانات الصغيرة؟
  • مجموعات البيانات القائمة على الاختزال (Hash): كيف يتمّ استحداثها وما هي درجة التبادل بين الجهات المعنية؟

 

التقييم

  • الإيجابيات/السلبيات الكاذبة: ما هو المستوى الأوّلي لمجموعات الإيجابيات/السلبيات الكاذبة المقبولة، مع أخذ تقلّص القدرة البشرية في الاعتبار؟
  • التدريب على الذكاء الاصطناعي: كيف يتمّ إعطاء الملاحظات الارتجاعية البشرية اللازمة لتدريب الخوارزميات ومراجعة هذه الأنماط؟


اختيار الإجراء المناسب

  • اتّخاذ القرار: ما هي الخيارات المتوفّرة لاتّخاذ قرار عبر الذكاء الاصطناعي، أهو نظام خيار ثنائي بين النشر أو الحذف فقط، أم مجموعة أكثر دقة من الاحتمالات (تقليص الانتشار، التجريد من الربح النقدي، إلخ...)؟


الانتصاف

  • الانتصاف/المعالجة: طرق لتحسين الآليات الحالية أم إنشاء آليات جديدة؟
  • إمكانية الوصول: جعل المحتوى غير متاح مقابل حذفه بكل دائم، لإعطاء الشخص المعنيّ فرصة إعادة التفكير في الأمر؟

 

  1. نطاق إدارة المحتوى بالنسبة إلى وسطاء التجارة الإلكترونية


تواجه الإعلانات، والأسواق الإلكترونية، ومنصات البنى التحتية الخاصة بالتجارة الإلكترونية، في إطار أزمة كوفيد-19، طفرةً من العلاجات الوهمية بغرض الكسب غير المشروع. وتحظّر الدول بيع المعدّات الطبية عبر الإنترنت. من هنا، كيف يمكن لوسطاء الإنترنت التغلّب على هذا التحدي؟ في الواقع، تتضمّن شروط الخدمة التي يتقيّدون بها أحكاماً لتنظيم معظم المسائل التي سيضطرون إلى مواجهتها.

إنّ هذا الوضع يتطلّب زيادة التنسيق وتبادل المعلومات بين جهات إنفاذ القوانين ووسطاء الإنترنت بشأن المنتهكين أنفسهم، ممّا يطرح الأسئلة التالية:

  • اتّخاذ القرار: من يقرّر أيّ منتجات أو خدمات (مثلاً العلاجات الوهمية) تشكّل خطراً على الصحة العامة في البيئة الحالية؟
  • التنسيق: ما هي أفضل الممارسات في مجال التنسيق لتحديد ما هو غير قانوني أو يبدو غير قانوني، وكيف يمكن ضمان الاتّساق في إدارة المحتوى بين جميع المنصات؟
  • بناء القدرات: كيف يمكن بناء الاختصاصات والكفاءات في مجال إدارة المحتوى، ومأسسة آليات الانتصاف/المعالجة بالنسبة إلى الجهات التي لا تقوم عادةً بهذا الدور؟ فضلاً عن ذلك، يتطلّب نطاق الأزمة إجراء تغيير في العمليات الحالية المتعلقة بكيفية التعامل مع المحتوى، باستخدام مجموعةٍ من الأدوات اليدوية، والأدوات القائمة على الذكاء الاصطناعي، والفحص، مع صون حقوق الإنسان الأساسية في الوقت نفسه.
  • قابليّة التوسّع: كيف يمكن تطوير الممارسات والحلول وتطبيقها على المنصات الأصغر حجماً، خاصةً بالنظر إلى تنوّع الوسطاء المتواجدين عليها؟ كيف يمكن تسهيل التعاون وتبادل أفضل الممارسات بين المنصات؟

 

  1. إعلانات المعلومات العامة في أوقات الأزمات – المقاربة الاستباقية من قبل المنصّات – مقابل الواجبات


أصبحت منصّات الإنترنت مصادر مهمّةً للمعلومات. فاتّخذ بعضها إجراءات لتعزيز المعلومات المتوفّرة من مصادر رسمية. لكن بخلاف الإعلام التقليدي الذي يملك دوراً/مسؤولية/واجبات واضحة في نقل إعلانات معلومات الخدمة العامة، يُعتبر دور منصات الإنترنت في هذا المنظور غير مُحدَّد. من هنا، إنّ الإجراءات الحالية غير المسبوقة التي أقدمت عليها المنصّات تحتّم طرح الأسئلة التالية:

  • النطاق الجغرافي للإعلانات: كيف يمكن تحديده، نظراً إلى التغطية العالمية التي تتمتع بها المنصات؟
  • المعلومات المتضاربة: كيف يمكن التوفيق بين التضارب في المعلومات من مختلف السلطات العامة، سواء أبين الدول أم ضمن الدولة الواحدة؟
  • المبادئ العالمية: هل من فائدة محتملة لإنشاء مبادئ عالمية لإعلانات المعلومات العامة؟
  • الوصول إلى الإنترنت: كيف يمكن ضمان تدفق المعلومات العامة نحو المناطق التي تعاني انخفاضاً في النطاق الترددي لشبكة الإنترنت، أو الأنظمة التي ينتشر فيها الإنترنت المجاني لكن بشروط رقابية معيّنة؟

مشاركة الخبر