ولكنني رأيت أيضا قرب أنه يمكن أن يكون هناك جانب آخر، أكثر إثارة للقلق، من انفتاح يوتيوب. لقد رأيت كيف يستغل بعض الفاعلين السيئين انفتاحنا على التضليل أو التلاعب أو المضايقة أو حتى الإضرار.

في العام الماضي ، اتخذنا إجراءات لحماية مجتمعنا من المحتوى العنيف أو المتطرف ، واختبار أنظمة جديدة لمكافحة التهديدات الناشئة والمتطورة. لقد شددنا سياساتنا بشأن المحتوى الذي يمكن أن يظهر على برنامجنا الأساسي، أو حقق أرباحا لمنشئي المحتوى. لقد قمنا بزيادة فرق الإنفاذ لدينا. وقد استثمرنا في تقنية التعلم الآلي القوية الجديدة لتوسيع نطاق جهود منسقينا في العمل لإنزال مقاطع الفيديو والتعليقات التي تنتهك سياساتنا.

الآن، نحن نطبق الدروس التي تعلمناها من عملنا لمحاربة محتوى التطرف العنيف خلال العام الماضي من أجل معالجة محتوى إشكالي آخر. هدفنا هو البقاء متقدمًا على الجهات الفاعلة السيئة ، مما يزيد من صعوبة ظهور المحتوى الذي ينتهك السياسة أو يظل على YouTube.

المزيد من الأشخاص الذين يراجعون المزيد من المحتوى
ولا يزال المراجعون البشريون ضروريا لإزالة المحتوى وتدريب نظم التعلم الآلي لأن الحكم البشري أمر بالغ الأهمية لاتخاذ قرارات محددة السياق بشأن المحتوى. منذ شهر حزيران ، استعرضت فرق الثقة والأمان التابعة لنا يدويًا ما يقرب من مليوني مقطع فيديو لمحتوى متطرف عنيف ، مما يساعد على تدريب تكنولوجيا التعلم الآلي للتعرف على مقاطع فيديو مماثلة في المستقبل. ونحن نتخذ أيضا إجراءات عدوانية بشأن التعليقات، وإطلاق أدوات جديدة لتعديل التعليقات، وفي بعض الحالات إيقاف التعليقات تماما. في الأسابيع القليلة الماضية استخدمنا آلة التعلم لمساعدة المراجعين الإنسان تجد وإنهاء مئات الحسابات وإغلاق مئات الآلاف من التعليقات. تعمل فرقنا أيضا بشكل وثيق مع نكميك، و إوف،

سنواصل النمو الكبير لفرقنا إلى العام المقبل، بهدف تحقيق العدد الإجمالي للأشخاص عبر غوغل الذين يعملون على معالجة المحتوى الذي قد ينتهك سياساتنا إلى أكثر من 10000 في عام 2018.

وفي الوقت نفسه، نعمل على توسيع الشبكة من الأكاديميين والمجموعات الصناعية وخبراء الموضوع الذين يمكننا أن نتعلم من ودعم لمساعدتنا على فهم أفضل القضايا الناشئة.

معالجة القضايا على نطاق واسع
سوف نستخدم لدينا آلة المتطورة تعلم على نطاق أوسع للسماح لنا بسرعة وكفاءة إزالة المحتوى الذي ينتهك المبادئ التوجيهية لدينا. وفي حزيران / يونيه، نشرنا هذه التكنولوجيا للإبلاغ عن المحتوى المتطرف العنيف للمراجعة الإنسانية، وقد شهدنا تقدما هائلا.
  • ومنذ حزيران / يونيه، أزلنا أكثر من 000 150 مقطع فيديو للتطرف العنيف.
  • يساعد التعلم الآلي المراجعين البشريين على إزالة ما يقرب من خمسة أضعاف عدد مقاطع الفيديو عما كانت عليه سابقا.
  • اليوم ، تم وضع 98٪ من مقاطع الفيديو التي نزيلها للتطرف العنيف من خلال خوارزميات تعلم الآلة.
  • فلقد سمح لنا التقدم في تعلم الآلة الآن بإنزال ما يقرب من 70 في المائة من المحتوى المتطرف العنيف في غضون ثماني ساعات من التحميل ونحو نصفه في ساعتين ونستمر في تسريع هذه السرعة.
  • منذ أن بدأنا في استخدام آلة التعلم للإبلاغ عن المحتوى العنيف والمتطرف في يونيو، وقد استعرضت التكنولوجيا وعلم المحتوى الذي كان من شأنه أن يأخذ 180،000 شخص يعملون 40 ساعة في الأسبوع لتقييم.
ولأننا شهدنا هذه النتائج الإيجابية، فقد بدأنا في تدريب تكنولوجيا التعلم الآلي عبر مجالات المحتوى الصعبة الأخرى، بما في ذلك سلامة الأطفال وخطاب الكراهية.

شفافية أكبر
نحن نفهم أن الناس يريدون رؤية أوضح لكيفية معالجة المحتوى الإشكالي. لدينا تعليمات مجتمعتعطي المستخدمين إشعارات حول ما لا نسمح به على منصات لدينا، ونحن نريد لتبادل مزيد من المعلومات حول كيفية تنفيذ هذه. ولهذا السبب في 2018 ، سننشئ تقريرًا منتظمًا حيث سنوفر المزيد من البيانات المجمّعة حول العلامات التي نتلقاها والإجراءات التي نتخذها لإزالة مقاطع الفيديو والتعليقات التي تنتهك سياسات المحتوى لدينا. ونحن نتطلع إلى تطوير أدوات إضافية للمساعدة في تحقيق المزيد من الشفافية حول المحتوى الذي يتم الإبلاغ عنه.

نهج جديد للإعلان على موقع YouTube
نحن نتخذ أيضًا إجراءات لحماية المعلنين والمبدعين من محتوى غير لائق. نريد أن يكون لدى المعلنين راحة البال في عرض إعلاناتهم إلى جانب المحتوى الذي يعكس قيم علامتهم التجارية. وبالمثل ، نريد أن نعطي منشئي المحتوى الثقة بأن أرباحهم لن تتضرر من تصرفات الجهات الفاعلة السيئة.

ونحن نعتقد أن هذا يتطلب اتباع نهج جديد للإعلان على يوتوب، مع مراعاة القنوات ومقاطع الفيديو المؤهلة للإعلان. نحن نخطط لتطبيق معايير أكثر صرامة ، وإجراء المزيد من التنظيم اليدوي ، مع تعزيز فريق مراجعي الإعلانات إلى حد كبير لضمان أن الإعلانات لا تعمل إلا في الأماكن التي ينبغي لهم ذلك. وسيساعد ذلك أيضا منشئي المحتوى على مراجعة المزيد من الثبات حول عائداتهم. من المهم أن نحصل على هذا الحق لكل من المعلنين والمبدعين، وعلى مدار الأسابيع القليلة القادمة، سنتحدث مع كل من لصقل هذا النهج.

ونحن نتخذ هذه الإجراءات لأنه الشيء الصحيح الذي يجب القيام به. ينشئ منشئو المحتوى محتوى مذهلاً يبني قواعد جماهيرية عالمية. يأتي المعجبون إلى YouTube لمشاهدة هذا المحتوى ومشاركته والتفاعل معه. المعلنون ، الذين يريدون الوصول إلى هؤلاء الأشخاص ، يمولون اقتصاد هذا المؤلف.تُعد كل مجموعة من هذه المجموعات أمرًا ضروريًا لنظام YouTube الإبداعي ، ولا يمكن لأي منها تحقيق النجاح على YouTube دون الآخر ، ويستحق الثلاثة جميعًا بذل قصارى جهدنا.

ومع تطور التحديات التي تواجه منهاجنا وتغييرها، يجب أن تتطور أساليب التنفيذ لدينا وستتطور للرد عليها. ولكن بغض النظر عن التحديات التي تظهر ، فإن التزامنا بمكافحتها سوف يستمر ويتعذر.سنتخذ الخطوات اللازمة لحماية مجتمعنا وضمان أن يوتوب لا يزال مكانا يمكن للمبدعين والمعلنين والمشاهدين فيه أن يزدهروا.