در اوایل سال جاری میلادی، تیمنیت گبرو (Timmit Gebru) از محققان تیم هوش مصنوعی گوگل با ارسال یک پیام توییتری، از امیلی بِندر (Emily Bender) استاد دانشگاه واشنگتن پرسید که آیا مطلب مربوط به پیشرفت‌های اخیر هوش مصنوعی و کاربرد آن در فرآیند تحلیل متون توسط وی نوشته شده است یا خیر.
اگرچه این مطلب توسط امیلی بندر نوشته نشد، اما این آغازی بود بر مکالمات میان این دو محقق در زمینه محدودیت‌های پیش روی این فناوری. بحث‌های میان این دو در بخش دایرکت توییتر، نظر بِندر را به خود جلب کرد و پیشنهاد داد که در قالب یک مقاله آکادمیک روی این موضوع کار کنند.
این استاد دانشگاه واشنگتن عنوان کرد که می‌خواهد روی شناسایی ریسک‌های احتمالی در این زمینه و اقداماتی که می‌توان برای رفع آن‌ها انجام داد، کارکند. تقریبا یک ماه طول کشید تا پیش‌نویس این مقاله آماده و در این راه، از پنج محقق گوگل و دانشگاه کمک گرفته شد. سپس مقاله مذکور در ماه اکتبر در یک کنفرانس دانشگاه ثبت شد. مقاله‌ای که هرگز برای محقق هوش مصنوعی گوگل، خوش‌یمن نبود
هفته گذشته، گبرو اعلام کرد بعد از آنکه یکی از مدیران گوگل از وی خواست تا نام خود را از این مقاله حذف کند و او نیز به این درخواست اعتراض کرده بود، از این شرکت اخراج شده است. رئیس بخش هوش مصنوعی گوگل در این رابطه گفت که این مقاله، برای انتشار مورد تایید گوگل نیست.
به دنبال این اتفاق، بیش از 2200 نفر از کارمندان گوگل با امضای نامه‌ای، خواستار شفافیت و توضیح درباره علت مخالفت با این مقاله شدند. سامی‌بنگیو، مدیر گبرو و از همکاران نزدیک به وی با انتشار پستی در فیسبوک، وضعیت گبرو را بعد از شنیدن خبر اخراج این چنین توصیف کرد: او «بهت زده» بود.
وب‌سایت Wired که به این مقاله 12 صفحه‌ای دسترسی پیدا کرده، در این باره نوشت که مقاله مذکور، هیچگونه بحث چالشی را مطرح نمی‌کند. در این مقاله هیچ نشانه‌ای مبنی بر حمله به گوگل و فناوری این شرکت مشاهده نمی‌شود و اگر هم این مقاله با اسم گبرو در کنار سایر محققان چاپ می‌شد، هیچ خدشه‌ای به حیثیت و اعتبار گوگل وارد نمی‌شد.
در این مقاله، پژوهش‌های پیشین در مورد محدودیت‌های سیستم‌های مبتنی بر فناوری هوش مصنوعی در تحلیل و ایجاد زبان، مورد بررسی قرار گرفته و هیچ کار جدیدی در آن ارائه نشده. نویسندگان این مقاله عنوان کردند که مطالعات قبلی نشان می‌دهد که زبان هوش مصنوعی، تعصبات ناپسند موجود در متون آنلاین را منعکس می‌کنند. در ادامه روش‌ها و راهکارهایی معرفی می‌شود تا محققان هوش مصنوعی نسبت به این فناوری، با دقت بیشتری نگاه کنند.
به نقش گوگل نیز در این میان اشاره شد اما هیچ انتقادی از این شرکت نشد. در این مقاله به یکی از مطالعاتی که توسط محققان گوگل در اوایل سال جاری میلادی صورت گرفت، اشاره شد که در آن به شواهدی از تعصب در زبان هوش مصنوعی پرداخته شد.
به نظر می‌رسد که کناره‌گیری گبرو چیزی فراتر از یک مقاله بوده است. گبرو اما هفته گذشته اعلام کرد که او به دلیل انتقاد از رفتارهای تبعیض‌آمیز این شرکت نسبت به رنگین‌پوست‌ها اخراج شده و از همکاران خود خواست تا در این اقدام سوء شرکت گوگل شریک نباشند.
جف دین، مدیر بخش تحقیقات گوگل در این خصوص گفت که پژوهشی که توسط گبرو و سایر محققان هوش مصنوعی صورت گرفت، کیفیت بالایی نداشت و نتوانست راهکارهای موثری را برای ارتقای عملکرد مدل‌های زبان هوش مصنوعی و همچنین کاهش تعصب ارائه دهد.
گوگل و دیگر شرکت‌های فعال در حوزه فناوری، سرمایه‌گذاری‌های کلانی را در طی یک دهه اخیر روی هوش مصنوعی و توسعه این فناوری انجام داده‌اند و توانسته‌اند با استفاده از تکنیکی به نام یادگیری ماشینی، فرآیند تشخیص صدا و تصویر را با دقت بسیار بالایی انجام دهند. با استفاده از این فناوری‌ها می‌توان کارهایی از قبیل پیاده کردن متن گفت‌وگوی افراد را با دقت و سرعت بالا انجام داد.
یک روش دیگر تحت عنوان یادگیری عمیق شناخته می‌شود که قادر است با کنار هم قرار دادن الگوریتم‌های یادگیری و مجموعه گسترده‌تری از اطلاعات و همچنین کامپیوترهای قوی‌تر، نتایج خیره‌کننده‌ای را به ارمغان آورد.
