چرا یوتیوب فیلم حمله به مسجد نیوزلند را خودکار حذف نمی‌کند؟

فیلم حمله به مسجد نیوزلند و کشتن فجیع انسانها یکی از تکان‌ دهنده ترین صحنه‌های نمایش داده شده روی شبکه‌های اجتماعی بود.

ماجرا فقط مربوط به یک فیلم نبود بلکه این فیلم بارها و بارها توسط افراد مختلف آپلود و پخش شد.

حالا  این پرسش مطرح است که چرا یوتیوب  به طور خودکار جلوی آپلود دوباره فیلمهای زننده را نمی‌گیرد؟

استفاده مردی که به طور آنلاین حمله خود به دو مسجد در نیوزلند را روی فیسبوک قرار داد سوالات دیجیتالی جدیدی را به وجود آورده است.

این مرد روز جمعه در حمله به دو مسجد در نیوزلند ۴۹ نفر را کشت و دهها نفر دیگر را زخمی کرد و در نهایت سبعیت کل اقدام خود را به صورت زنده روی فیسبوک منتشر کرد.

فیلم او سپس بارها و بارها توسط دیگران روی یوتیوب و دیگر شبکه‌های اجتماعی آپلود شد و البته حذف شد.

بازبین‌ها (  Moderators )  بارها و بارها نسخه‌های کپی این فیلم را از روی یوتیوب حذف کردند.

با این حال تکرار انتشار این فیلم شنیع عملا پرسشهای زیادی را در مورد ابزارهای نظارت بر محتوای خشونت آمیز روی شبکه‌های اجتماعی مثل یوتیوب ایجاد کرده است.

مرتبط: حذف ۳.۸ میلیون ویدیوی نامناسب توسط یوتیوب

سیستم یوتیوب در شناسایی محتوای خشونت آمیز

یوتیوب دارای ابزاری برای شناسایی خودکار محتوای دارای کپی رایت است چرا به طور خودکار قادر به شناسایی و حذف این محتوا نبود؟

نکته این است که یوتیوب از باز انتشار اصل این فیلم در یوتیوب توسط همین ابزار جلوگیری می‌کند اما ویدیوهایی که حاوی فیلمهای کوتاه از همین ویدیو هستند برای بازبین‌ها فرستاده می‌شوند.

به این ترتیب اطمینان به عمل می‌آید که ویدیوهای خبری که حاوی صحنه‌هایی از این حادثه هستند در این فرآیند حذف نمی شوند.

به گفته یک منبع آگاه در داخل یوتیوب تیم امنیت یوتیوب به دنبال ایجاد موازنه‌ای در مواجهه با چنین موارد است.

وی می‌گوید یوتیوب برای رویدادهای مهمی مانند حمله به مساجد نیوزلند از ابزارهای مشابه ابزار مقابله با فیلمهای دارای کپی رایت استفاده می‌کند.

این سیستم به دنبال نسخه‌های دوباره آپلود شده آن فیلم می‌گردد و برای این موضوع از متادیتا و تصاویر فیلم اصلی استفاده می‌کند.

در صورتی که فیلم مورد نظر بدون ویرایش دوباره آپلود شده بود آن فیلم به صورت خودکار حذف می‌شود.

در صورتی که فیلم ( از نسخه اصلی )  ویرایش شده بود آن را برای بازبین‌ها می‌فرستد.

بازبین‌ها در یوتیوب افرادی تمام وقت در داخل یوتیوب یا تحت قرارداد این شرکت هستند که ویدیوها را از جهت موازین مورد نظر یوتیوب بررسی می‌کنند.

یوتیوب همچنین از سیستمی برای حذف فوری پورنوگرافی کودکان و محتوای مربوط به تروریسم برخوردار است که با استفاده از سیستم هشینگ تصویر را به هم می‌ریزد یا به به نوعی سانسور می‌کند.

آما آن سیستم برای رویدادهایی مانند حمله به دو مسجد نیوزلند مورد استفاده قرار نمی‌گیرد دلیل آن هم این است که پتانسیل وجود ارزش خبری در محتواست.

در واقع یوتیوب تاکید زیادی روی حذف نکردن مطالبی دارد که پتانسیل خبری شدن دارند. البته یوتیوب فیلمهایی که موجب شوک و یا تنفر بینندگان می‌شود یا پیامدهای یک حمله را در بر دارد ممنوع کرده است. ( برخورد با اصل فیلم حمله به مساجد از این نوع است )   با این حال اگر یک فیلم برای اهداف خبری از تصاویر یک فیلم خشونت آمیز استفاده کرده باشد با رعایت محدودیت سن قانونی بینندگان آن را مجاز می‌شمرد.

یوتیوب و مشکل با ویدیوهای خبر فوری

مشکل دیگر این است که سیستم Content ID  یوتیوب قابلیت تعامل با محتواهای خبر فوری   (Breaking News) ندارد.

رستی تورک ( Rasty Turek ) مدیرعامل شرکت Pex یک پلتفرم تحلیل ویدیو که روی ابزاری برای شناسایی محتواهای دوباره آپلود شده سرقتی کار می‌کند به Verge می‌گوید که مشکل در نحوه پیاده‌سازی محصول است.

این تحلیل‌گر که به خصوص روی سیستم Content ID  یوتیوب مطالعات زیادی داشته معتقد است برای سیستم حدود ۳۰ ثانیه زمان می‌گیرد که متوجه شود فیلمی با محتوای یکسان دوباره آپلود شده است.

به گفته وی یوتیوب اساسا قصد نداشته ابزاری برای مواجهه با چنین رویدادهایی تولید کند و حتی اگر  Susan Wojcicki مدیرعامل یوتیوب همین امروز دستور تولید آن را بدهد پیاده سازی آن ماه‌ها ممکن است به طول بینجامد.

به گفته یک متخصص یوتیوب اساسا برای محتوای خبر فوری و بازبینی محتوای زنده آن سیستمی ندارد و حتی اگر همین الان اراده ایجاد آن را بگیرد ماهها به طول خواهد انجامید

این تحلیل‌گر می‌گوید که بین چند دقیقه تا حتی چند ساعت مشخص شدن نوع ویدیو برای یوتیوب طول می‌کشد. این برای فیلمی که مثلا دارای کپی رایت است اشکالی ایجاد نمی‌کند ( چراکه بعد از چند ساعت حذف می‌شود )  اما برای یک واقعه مهم خبری که دارای صحنه‌های زننده است آسیب زننده است.

نکته بعدی اما در مورد پخش زنده یک رویداد منزجر کننده است. به گفته متخصصان تقریبا غیر ممکن است با محتوای زنده بلافاصله مقابله کرد چراکه در پخش زنده محتوای استریم مرتبا در حال تغییر است.

به همین دلیل هم هست که به گفته رستی تورک  پخش زنده یوتیوب یک محیط پرریسکی برای یوتیوب است و این شرکت نمی‌تواند آن را به طول کامل و صحیح انجام دهد.

گفته می‌شود یوتیوب در حال کار روی تحلیل محتوای پخش زنده است اما حرکت در این بخش بسیار دشوار است.

این متخصص و تحلیل‌گر می گوید: می‌توانید یوتیوب را برای جلوگیری نکردن از پخش زنده این تصاویر فجیع سرزنش کنید اما واقعیت این است که هیچ کس فعلا در جهان قادر به حل این مشکل پخش زنده نیست.

یوتیوب هم اکنون روی یافتن ویدیوهای مشابه با استفاده از تصاویر و متادیتا مشترک متمرکز است و فعلا به دنبال این است که محتوای دارای ارزش خبری را حذف نکند.

این چیزی است که فعلا آنها می‌توانند آن را مدیریت کنند اما برای منتقدان این کافی نیست.

رستی تورک می‌گوید: اصلاح این موضوع نیاز به اولویت بندی در بالاترین سطوح یوتیوب دارد. اگر آنها به آن اولویت بدهند منابع و تیم برایش اختصاص خواهند داد.

ویدیوهای مشوق تقلب درسی از یوتیوب حذف شد

برخی ویدئوهای یوتیوب خطرناک و غیرواقعی هستند!