تبعیض نژادی تکنولوژیک ممنوع

پیش‌بینی می شود که بازار محصولات مرتبط با هوش مصنوعی تا سال 2025 به ارزش بیش از 100میلیارد دلار برسد. البته با دورانی که تمام زندگی روزمره‌مان با تکنولوژی‌هایی مانند دستگاه‌های تشخیص صدا، صورت و الگوریتم‌های دیجیتال مختلف پر شود، فعلا فاصله داریم. اما این بخش از صنعت دیجیتال به سرعت در حال رشد است و هر سال با دستاوردهای نوینی آشنا می‌شویم که از تکنولوژی هوش مصنوعی سرچشمه می‌گیرد.

در حال حاضر، در بیشتر داده‌هایی که برای آموزش سیستم‌ها و الگوریتم‌های یادگیری ماشینی استفاده می‌شود، عملا هیچ گونه تفکیک نژادی یا قومیت و ملیتی اعمال نمی‌شود.

سیستم‌های نوین، نیازی ندارند ک برای انجام پردازش‌ها و احتمالات خود به نژاد افراد توجه کنند و این عدم توجه به نژاد افراد، می‌تواند برای افراد رنگین پوست مسئله ساز شود. شاید در  نظر اول، صرف نظر از ویژگی‌های متفاوت ظاهری و نژادی، نقطه مثبت تکنولوژی محسوب‌شود اما با پشرفت تکنولوژی و تلفیق عمیق آن با زندگی مردم، اشکالات کم کم آشکار می‌شود.

اشتباهاتی که سیستم های آموزش داده مجهز به هوش مصنوعی در رابطه با افراد رنگین پوست انجام می دهد، همین حالا نیز مسئله ساز شده است. مثلا، نرم افزار تشخیص چهره، سابقه  دارد که در هنگام شناسایی شهروندان سیاه پوست با ایراد روبرو می‌شود.

سال گذشته، ACLU آزمایشی به روی نرم افزار تشخیص چهره آمازون انجام داد که در آن 40 درصد از چهره اکثر افرادی که به درستی شناسایی نشده بود، به افراد سیاه پوست تعلق داشت. آمازون با بیش از 400 شعبه از نیروهای پلیس آمریکا شراکت دارد و این نرم افزار همچنان در این دپارتمان مورد استفاده قرار می ‌گیرد.

سیستم بهداشت و درمان آمریکا نیز در سال‌های اخیر، به شدت میزان استفاده از الگوریتم‌های تکنولوژیک تشخیصی و درمانی را افزایش داده است. 40 درصد از شهروندان آمریکا تحت نژاد «غیر سفید» دسته بندی شده‌اند، اما 80 تا 90 درصد افرادی که برای طرح های ازمایشی کلینیکی این سیستم‌ها مراجعه کرده اند، سفید بوده‌اند. در چنین شرایطی، بروز اشتباه در تشخیص بیماری‌ها می‌تواند به جان افراد مربوط شود.

در آمریکا، پیش‌بینی شده است که تا سال 2045 تعداد افراد رنگین پوست نسبت به افراد سفید پوست بیشتر شود. به علاوه تخمین زده شده است که تا سال 2050، 50 درصد منشا افزایش جمعیت کره زمین از آفریقا ریشه می‌گیرد. بر اساس تحقیق Pew Research Center, تعداد افراد بالغ سیاه پوست و هیسپانیک که از اینستاگرام، توییتر، واتسپ، اسنپ چت و یوتیوب استفاده می‌کنند از تعداد کاربران با نژاد Caucasians یا سفیدپوست‌ها بیشتر است.

فیس بوک،  صاحب سه پلتفرم پر طرفدار اجتماعی در دنیای اینترنت است که اکثر کاربران آنها رنگین پوست‌ها هستند. این واقعیت، نشان از قدرت بسیار زیادی دارد. در نظر بگیرید که رشد سالیانه تلفیق هوش مصنوعی در زندگی مردم، 37 درصد است و تحت چنین شرایطی، بروز تبعیض نژادی می‌تواند چالش و مشکل بسیار بزرگی را در سطح جهانی ایجاد کند. پس فیس بوک می‌تواند به عنوان پیشگام، در این زمینه قدم‌های بسیار کارآمدی بردارد.

یک راه حل کاربردی برای حل این مسئله می‌تواند ویرایش الگوریتمیک باشد. محققان باید مسئله نژادها را نیز در سیستم الگوریتم‌های خود بازنگری کرده و دوباره تعریف کنند. در واقع باید شرایطی مهیا شود که به تکنولوژی آموزش داد، تا افرادی را که خود قربانی نژاد پرستی شده‌اند را بار دیگر با این معضل روبرو نکند.

Yuval Noah Harari می‌گوید:« کسانی که کنترل داده‌ها را در دست دارند، کنترل آینده را نیز در دست خواهند داشت.»

نسخه هوش مصنوعی که امروز در حال توسعه است، زیرساختی برای نسخه آینده این تکنولوژی رو به پیشرفت محسوب می‌شود. پس شرکت‌های فعال در این زمینه موظف‌اند که چنین واقعیت حیاتی را خیلی زود مد نظر قرار داده و در جهت رفع نقوص آن اقدام کنند.

منبع: wired