هشدار هوش مصنوعی در اجلاس داووس
مدیران شرکت‌های تکنولوژی درباره نظارت بر هوش مصنوعی هشدار دادند
نشست سالانه مجمع جهانی اقتصاد روز جمعه به پایان رسید، اما همچنان بازار اخبار و تحلیل‌های مربوط به آن در رسانه‌های جهان داغ است. به سیاق هر سال، بعضی از تاثیرگذارترین رهبران صنعت تکنولوژی هم در این نشست حضور داشتند و پیام مهم‌شان این بود: نباید نگران ما باشید، باید نگران هوش مصنوعی باشید!
در نشست دو سال پیش مجمع جهانی اقتصاد، مدیران شرکت‌های بزرگ تکنولوژی در واکنش به انتقاداتی به نقش این شرکتها در مواردی مانند دخالت در انتخابات آمریکا توسط گروه‌های روسی، گسترش اطلاعات نادرست و محتوای افراطی، نقض قوانین ضدانحصارطلبی و امتناع از پرداخت مالیات، تنها اظهار پشیمانی کردند و حتی «دارا خسروشاهی» که در آن زمان به تازگی به عنوان مدیرعامل شرکت Uber انتخاب شده بود، درباره لزوم نظارت بر این موارد صحبت کرد.
این مسایل و مشکلات هنوز از بین نرفته‌اند و در نشست سال گذشته هم با بی‌اعتنایی رهبران جهان مواجه شدند، اما امسال مدیران شرکت‌های تکنولوژی درباره لزوم قانون‌گذاری و نظارت بر هوش مصنوعی هشدار دادند و اعلام کردند که این موضوع بسیار مهم‌تر از مسایل مربوط به عملکرد این شرکت‌هاست که در سال‌های گذشته مطرح شده بود.
«ساندار پیچای» مدیرعامل شرکت آلفابت در مصاحبه‌ای در حاشیه نشست سالانه مجمع جهانی اقتصاد، گفت: «هوش مصنوعی یکی از عمیق‌ترین و اساسی‌ترین مفاهیمی است که ما به عنوان انسان مشغول کار روی آن هستیم. هوش مصنوعی بسیار کامل‌تر و جامع‌تر از آتش یا برق است.» او همچنین این موضوع را با مباحث بین‌المللی مربوط به تغییرات آب و هوایی مقایسه کرد و گفت: «نباید فکر کرد که با راهکارهای یک یا چند کشور میتوانیم در برابر هوش مصنوعی در امان باشیم. برای این کار به یک کارگروه جهانی نیاز داریم.»
نیاز به قوانین استانداردسازی شده در این مورد، موضوعی بود که در صحبت‌های مدیرعامل‌های شرکت‌های مایکروسافت و IBM هم منعکس شد. «ساتیا نادلا» مدیرعامل مایکروسافت در این باره گفت: «فکر می‌کنم آمریکا و چین و اتحادیه اروپا مجموعه قوانینی دارند که به کمک آنها می‌توانند مفهوم و شیوه تعامل با این تکنولوژی را در جوامع تحت کنترل و نظارت خودشان بگیرند و جهان در مقیاسی بزرگ‌تر بیش از ۳۰ سال گذشته به وضع و اجرای چنین قوانینی نیاز دارد.»
در ظاهر به نظر می‌رسد موضوع ساده‌ای باشد؛ اما اگر این شرکتها اصول اخلاقی خودشان درباره هوش مصنوعی را تحمیل کنند، این کار در نهایت می‌تواند به اعتراض کارمندان منجر شود. به طور مشخص چنین ماجرایی باعث شد که گوگل در سال ۲۰۱۸ و بعد از واکنش‌های شدید، از مشارکت در پروژه Maven -که یک برنامه دولتی سری برای استفاده از تکنولوژی در جهت تحلیل تصاویر به‌دست آمده از پهپادهای نظامی بود- کنار بکشد و صرف‌نظر کند. کارشناسان معتقدند نباید شرکتها را در موقعیتی قرار داد که مجبور به تصمیم‌گیری بین اصول اخلاقی و نتیجه نهایی باشند. در عوض باید نهادهای سیاسی و قانون‌گذار برای به‌کارگیری و تعامل با هوش مصنوعی، مقرراتی را وضع و اجرا کنند. از طرفی موج نگرانی‌های فعلی در برابر هوش مصنوعی هم کاملا بجا و درست است. تا چند هفته دیگر قرار است اتحادیه اروپا برنامه‌هایش را برای وضع قوانین مربوط به این تکنولوژی اعلام کند. بر اساس پیش‌نویسی که اخیرا به دست وب‌سایت خبری بلومبرگ رسیده است، این قوانین می‌توانند شامل الزامات قانونی تازه‌ای برای توسعه‌دهندگان هوش مصنوعی فعال در بخش‌های حساسی مانند بهداشت و درمان یا حمل‌و‌نقل باشند. این قوانین می‌توانند شرکتها را ملزم کنند که درباره شیوه ایجاد سیستم‌های هوش مصنوعی خودشان کاملا شفاف باشند. هشدار بزرگان صنعت تکنولوژی درباره خطرات احتمالی هوش مصنوعی به معنای آن است که در اجلاس داووس امسال زمان بسیار کمی به این مشکلات اختصاص داده شده است؛ به خصوص به موارد افشای اطلاعات و اینکه چقدر حریم خصوصی کاربران با استفاده از محصولات تکنولوژیک مورد تهدید قرار می‌گیرد. بلومبرگ در گزارشی که سال گذشته در این مورد منتشر کرده بود، به قانون‌گذاران اتحادیه اروپا درباره بررسی روش‌های قانون‌گذاری تکنولوژی دستیارهای صوتی هوشمند هشدار داد و به این موضوع اشاره کرد که ممکن است کارمندان شرکت آمازون به مکالمات افراد با دستیار صوتی هوشمند الکسای این شرکت گوش کنند. در ماه جولای گذشته شرکت فیس‌بوک با پرداخت جریمه ۵ میلیارد دلاری به نهاد قانون‌گذاری آمریکا برای حل مساله افشای اطلاعات کمبریج آنالیتیکا، موافقت کرد. در ماه سپتامبر هم گوگل پذیرفت که یوتیوب قوانین آمریکا درباره ممنوعیت جمع‌آوری اطلاعات کودکان زیر سیزده سال را نقض کرده است.
مساله حریم خصوصی
در طول چند سال گذشته شرکت‌های تکنولوژی به جای عذرخواهی برای نقض قوانین حریم خصوصی کاربران، بیشتر روی این موضوع متمرکز بوده‌اند که تا کجا می‌توانند اطلاعات شخصی افراد را زیر نظر داشته باشند. «نیکولا مندلسان» یکی از معاونان ارشد شرکت فیس‌بوک در مصاحبه‌ای در حاشیه نشست سالانه مجمع اقتصاد گفت که این شرکت استانداردهایی مشابه قانون محافظت از اطلاعات عمومی اتحادیه اروپا (GDPR) را برای بازارهای دیگر تدوین کرده است. او درباره مذاکرات فیس‌بوک با نهادهای قانون‌گذار گفت: «بگذارید شفاف باشم؛ ما در حال‌حاضر قوانین GDPR اتحادیه اروپا را در اختیار داریم، اما آن را تنها در اروپا رعایت نمی‌کنیم. به این نتیجه رسیدیم که این راه خوب و مفیدی است که بتوانیم درباره اجرای قوانین مشابه در سراسر جهان هم فکر کنیم.»«کیت انرایت» مدیر ارشد حریم خصوصی شرکت گوگل هم در کنفرانسی مجزا در شهر بروکسل درباره روش کار شرکتش برای یافتن راه‌هایی در جهت کاهش میزان جمع‌آوری اطلاعات کاربران، صحبت کرد. او در این کنفرانس که درباره حفاظت از اطلاعات بود، گفت: «همین حالا کاملا روی این موضوع متمرکز هستیم که بتوانیم با کمترین میزان اطلاعات کاربران، کارهای مهم‌تر و بزرگ‌تری انجام دهیم. شاید این برخلاف تصور عمومی باشد، چون اغلب مردم فکر می‌کنند که شرکت‌هایی مانند ما تلاش می‌کنند تا جایی که ممکن است بیشترین اطلاعات را جمع‌آوری کنند.» او همچنین تاکید کرد که پافشاری روی این موضوع که بسیاری از اطلاعات ارزش چندانی برای کاربران ندارند، یک خطر بزرگ محسوب می‌شود.
در مقابل اما قانون‌گذاران همچنان در حال وضع قوانین تازه‌ای برای حفاظت از اطلاعات کاربران هستند. ایالات‌متحده آمریکا در حال کار روی قانون ملی مشابه GDPR است که به اشتراک‌گذاری اطلاعات کاربران و مشتریان را محدود کرده و شرکتها را ملزم می‌کند که قبل از به اشتراک گذاشتن اطلاعات مشتریانشان، از آنها اجازه بگیرند. شرکت‌های فیس‌بوک، آمازون، اپل و مایکروسافت در سال گذشته میلادی هزینه صرف شده برای لابی‌گری با دولت را افزایش داده‌اند که بخش بزرگی از آن به چشم‌پوشی از جرایم مربوط به حریم خصوصی اختصاص داشته است.در واقع با اینکه مدیران شرکت‌های تکنولوژی درباره لزوم وضع قوانین مربوط به هوش مصنوعی هشدار می‌دهند، اما همچنان در برابر قوانین بسیار محتاط عمل می‌کنند. پیچای مدیرعامل آلفابت به قانون‌گذاران یادآوری کرد که قوانین موجود احتمالا برای موارد زیادی مناسب و قابل‌اجرا بوده‌اند و آنها لازم نیست همه‌چیز را از اول شروع کنند.
دوقطبی در آینده تکنولوژی
افزایش نظارت‌ها بر صنعت تکنولوژی در آینده هم موضوعی بود که مورد توجه موسس و مدیرعامل شرکت هوآوی قرار داشت تا در اجلاس داووس درباره آن صحبت کند. هرچند «رن ژنگ‌فی» فراموش نکرد تا تاکید کند که تحریم هوآوی توسط دولت آمریکا برای این شرکت و فعالیت‌هایش بسیار کم‌اهمیت بوده است. پیام او برای رهبران تجاری و سیاستمداران بزرگ دنیا که در داووس جمع شده بودند، این بود که شرکتش حتی در برابر دشمنی‌های بیشتر از جانب ایالات‌متحده، همچنان می‌تواند ایستادگی کند و دوام بیاورد.ژنگ‌فی گفت: «ما از اتفاقات سال گذشته درس‌های زیادی گرفته‌ایم و حالا تیم قوی‌تری در اختیار داریم. فکر می‌کنم اطمینان بیشتری به خودمان پیدا کرده‌ایم و میتوانیم از حملات بعدی هم جان سالم به‌در ببریم. شرکت ما بعد از آن که به لیست سیاه آمریکا اضافه شد، همچنان مستحکم و پابرجا باقی ماند. این اتفاق ضربه‌ای به ما نزد، چون اساسا همیشه در برابر چالش‌ها ایستادگی کرده‌ایم. تاثیر این جنگ تجاری بر تجارت هوآوی چشمگیر و قابل‌توجه نبوده است.» یکی از مدیران ارشد هوآوی در ماه دسامبر گذشته اعلام کرد که درآمد این شرکت از فروش محصولاتش در سال ۲۰۱۹ چیزی در حدود ۱۸ درصد رشد سالانه داشته است، اما انتظار می‌رود این روند در سال ۲۰۲۰ بسیار سخت‌تر باشد. مدیرعامل هوآوی همچنین در ادامه به این موضوع اشاره کرد که ادامه جنگ تکنولوژی باعث ایجاد یک دوقطبی در میان دو قدرت جهانی می‌شود.
او گفت: «توسعه تکنولوژی نه‌تنها اتفاق بدی نیست، بلکه باید برای بشر خوب باشد. ترس از تکنولوژی‌هایی مانند هوش مصنوعی یادآور ترس مردم جهان از انرژی هسته‌ای است. حالا مشخص شده است که انرژی هسته‌ای کاربردهای مفیدی به‌خصوص در پزشکی هم دارد. نباید فراموش کنیم که هوش مصنوعی به اندازه بمب‌های اتمی خطرناک نیست.» این در حالی بود که «یوال نوح هراری» تاریخدان که در این نشست حضور داشت، معتقد بود رقابت میان چین و آمریکا برای سرمایه‌گذاری در هوش مصنوعی باید همه دنیا را نگران کند.او درباره این موضوع هشدار داد و گفت: «از نقطه‌نظر ژئوپلیتیکی گرفته تا دیدگاه شخصی، عصر نظارت دیجیتال می‌تواند تهدیدی برای مفهوم انسانیت و آزادی باشد.شرکت‌های تکنولوژی می‌توانند با اطلاعات زیادی که از افراد جمع‌آوری می‌کنند، این ادعا را داشته باشند که شما را بهتر از خودتان می‌شناسند. آیا ما در نقطه‌ای قرار داریم که شرکتها یا دولت‌ها بتوانند میلیون‌ها نفر در سراسر جهان را هک کنند و اطلاعات پزشکی و نقاط ضعف آنها را بدانند؟» هراری معتقد است که نوعی نظارت داخلی در چین و نظارت جهانی در آمریکا بر اطلاعات دیجیتالی افراد وجود دارد و هیچ بازیگر سوم دیگری در این میان وجود ندارد و حاکمیت دنیای تکنولوژی در حال‌حاضر در دست این دو کشور است
