لدى Facebook ما يصل إلى ثلاثة مليارات مستخدم على منصاته المختلفة. بالطبع ، كل هذا العدد من الأشخاص لا يستخدمون اللغة الإنجليزية كلغة رئيسية لاستخدام هذه المنصات. مما أظهر مدى فشل المنصة في التعامل مع اللغات الأجنبية.

كشف البحث الداخلي الذي أجري داخل فيسبوك نفسه ، والذي تم الكشف عنه ضمن تسريبات “بروفايلز فيسبوك” ، عن ظهور خطاب كراهية ومحتوى مضلل بلغات مختلفة ، دون أن تمنعه ​​الشركة.

تدعم منصة Facebook أكثر من 100 لغة عالمية ، لكن فريق مراقبة المحتوى الخاص بها لا يعرف بالضرورة كل هذه اللغات.

كشفت الملفات المسربة أن المنصة فشلت في التعرف على خطاب الكراهية داخل باكستان ، بسبب اعتمادها على لغة الباشتو المحلية. بشكل عام ، أظهرت الملفات عدم قدرة النظام الأساسي على مواجهة المحتوى الضار ، والذي تتم مشاركته على أساس اللغات الأجنبية.

كما أشارت التسريبات ، فإن المنصة ليست معدة مسبقًا لتتبع الكلام الذي يحض على الكراهية لبعض اللغات. يبدأ الأمر مباشرة في حالة وجود أي مشكلات تتعلق باللغة أو البلد الذي تتحدث فيه ، ويتم تدريب تقنيات الذكاء الاصطناعي على التعرف على المحتوى المسيء في الوقت الفعلي.

فشل Facebook في التعامل مع اللغات

كشفت الملفات المسربة أيضًا عن قدرات تدريب الذكاء الاصطناعي للغات ذات الأولوية. مثل لغات الأورومو والأمهرية المستخدمة في إثيوبيا بسبب الحروب الأهلية في البلاد.

استثمر Facebook 13 مليار دولار في تحسين قدرات المنصة للتعامل مع اللغات لأغراض الحماية والأمن ، من عام 2016 إلى الوقت الحاضر. ربما يكون هذا المبلغ صغيرًا مقارنة بالإيرادات السنوية للشركة. بلغت عائدات Facebook في عام 2020 85 مليار دولار.

ظهرت مشاكل التعامل مع اللغات في بلد مثل الهند ، التي لديها 800 مليون مستخدم متصل بالإنترنت. فشلت الشركة مرارًا وتكرارًا في تحديد محتوى يحض على الكراهية باللغات الهندية المحلية.

نفس المشاكل تتكرر في الشرق الأوسط ، لأن فيسبوك يعتمد على فريق من مراجعي المحتوى مقرهم بالدار البيضاء ، المغرب. على الرغم من أن اللغة العربية هي لغة واحدة ، إلا أن الاختلاف بين لهجاتها كبير جدًا.

مما يعني أن الشخص المغربي قد لا يفهم بسهولة اللهجة الخليجية أو اللهجة التونسية. بالإضافة إلى ذلك ، اعتمد Facebook أيضًا على فريق من الموظفين في مدينة إيسن الألمانية ، والذي يعمل أيضًا على مراجعة المحتوى العربي.

يذكر أن جميع المعلومات المذكورة أعلاه تم استخلاصها من ملفات الشركة المسربة. تم تسريبه من قبل مدير مشروع فريق السلامة المدنية السابق ، فرانسيس هوغن ، وشق طريقه بالفعل إلى عدد من المنصات الإخبارية.