چند سالیست که میزان انتشار توییت‌های اهانت‌آمیز و حاوی عبارات نامناسب در میان کاربران توییتر نسبت به قبل بیشتر شده و این مساله، چالشی جدی را برای مدیران این پلتفرم ارتباطی بوجود آورده است.
توییتر سعی کرده تا از روش‌های متعددی برای مقابله با این پدیده استفاده کند که یکی از این ابزارها، فناوری هوش مصنوعیست که شواهد از عملکرد موفق این تکنولوژی در حذف پیام‌های اهانت‌آمیز حکایت دارند.
شرکت توییتر به تازگی و در قالب نامه‌ای به سهامداران خود اعلام کرد که 50 درصد از توییت‌های اهانت‌آمیز و نامناسب بر روی این پلتفرم، قبل از آن که توسط کاربران گزارش شوند، توسط ابزارهای پیشرفته و خودران این شرکت حذف شدند. این آمار جدای از توییت‌هایی هستند که توسط کاربران گزارش یا به اصطلاح «فلگ» شدند.
توییتر از مدل یادگیری ماشینی و هوش مصنوعی برای شناسایی بهتر توییت‌های اهانت‌آمیز و حذف سریع آن‌ها قبل از گزارش توسط دیگر کاربران، بهره می‌گیرد. در سه ماهه گذشته، این فناوری توانسته بود تا چیزی حدود 43 درصد از مجموع توییت‌هایی حذف شده ناقض قوانین این شرکت را به خود اختصاص دهد. در سه ماهه قبل‌تر از آن نیز، این آمار حدود 3 درصد عنوان شده بود و بیش از همه متکی به گزارش‌های کاربران بود.
این شرکت در ماه ژوئن امسال از آغاز شیوه‌ای جدید در این زمینه خبر داد و اعلام کرد که برخی توییت‌های نامناسب چهره‌های سرشناس، اجازه باقی ماندن در این پلتفرم را خواهد داد اما برچسب هشداری بر روی آن ثبت خواهدشد تا کاربران قبل از مشاهده، تا حدودی از مضمون توییت مطلع شوند.
به طور کل، مقابله با توییت‌های اهانت‌آمیز و نامناسب یکی از بهترین راهکارهای پیش روی توییتر برای جلب توجه کاربران و استفاده بیشتر از این پلتفرم محسوب می‌شود. این شرکت در جولای 2018، چندین اکانت مشکوک و انتشاردهنده مطالب نامناسب را از پلتفرم خود حذف کرد. جالب اینجاست که بعد از این اقدام توییتر، تعداد دنبال‌کنندگان دونالد ترامپ رئیس جمهور آمریکا در توییتر با کاهشی 300 هزار نفری همراه شد.
بعد از این اتفاقات و عزم جدی توییتر برای مقابله با این مطالب، تعداد کاربران این پلتفرم اجتماعی روندی صعودی را در پیش گرفت به طوری که حدود 6 میلیون کاربر جدید در چند ماه اخیر به این شبکه اجتماعی پیوستند و تعداد کاربران فعال روزانه آن به 145 میلیون نفر رسید.
