هشدار یک متخصص هوش مصنوعی نسبت به نبود نظارت بر این فناوری

ایان هوگارت، متخصص هوش مصنوعی هشدار داد که در صورت نبود مقررات و قوانین کنترل‌کننده هوش مصنوعی، این فناوری می‌تواند در آینده، به نابودی بشریت منجر شود. 

این پژوهشگر در مقاله‌ای که در نشریه فایننشال تایمز به چاپ رسید‏، مدعی شد که «هوش مصنوعی خداگونه» می‌بایست با وضع قوانینی مشخص، مدیریت و کنترل شود.

به گفته این محقق، اگرچه هوش عمومی‌مصنوعی (AGI) که در آن، یک ماشین می‌تواند به درکی همانند یک انسان دست یابد، هنوز به طور کامل توسعه نیافته اما رسیدن به این نقطه‏، هدف اصلی این صنعت رو به‌رشد است و در این میان باید تهدیدهای آن نیز به طور جدی مورد توجه قرار گیرد.

علی‌رغم انکه برخی‌ها نسبت به مزایای اقتصادی و مالی هوش مصنوعی هیجان زده شده‌اند، مانند یکی از مدیران سابق شرکت متا (فیسبوک سابق) که گفت این فناوری تا دهه 2030 میلادی تریلیون‌ها دلار ارزش خواهد داشت، اما برخی‌ها تهدید آن‌ها را همانند یک فاجعه‌ای در سطح هسته‌ای قلمداد می‌کنند. 

هوگارت در این مقاله نوشت: یک کلمه مخفف سه حرفی (AGI) نمی‌تواند بیانگر بزرگی این فناوری یعنی هوش عمومی‌مصنوعی را نشان دهد. بنابراین‌‎، من از عبارت «هوش مصنوعی خداگونه» برای آن استفاده می‌کنم چراکه چنین تکنولوژی می‌تواند خودش را توسعه دهد و جهان را بدون هیچ نظارتی متحول کند. 

وی گفت: هوش مصنوعی خداگونه، قادر است نیرویی فراتر از کنترل و یا درک ما باشد و می‌تواند منجر به نابودی نسل بشر شود. تاکنون، انسان‌ها در فرآیند یادگیری هوش مصنوعی و ارتقای عملکرد آن دخیل بودند اما روزی می‌رسد که متوجه خواهیم شد از این چرخه حذف شده‌ایم و هوش مصنوعی خداگونه قادر خواهد بود خود را بدون نیاز به انسان‌ها، توسعه و تکامل دهد. 

به گفته این تحلیلگر‏، شاید زمانی به این موضوع پی ببریم که دیگر خیلی دیر شده باشد. 

ایان هوگارت، قبل از تاسیس شرکت Songkick که در نهایت به گروه وارنر فروخته شد‏ در دانشگاه کمبریج‏، رشته مهندسی خواند و در حوزه هوش مصنوعی را نیز در این دانشگاه تحصیل کرد. 

بر اساس آنچه در وب‌سایت هوگارت آمده، وی تاکنون در بیش از 50 استارتاپ که روی فناوری یادگیری ماشینی متمرکز بودند، همکاری داشته و سرمایه‌گذاری کرده است. از جمله این استارتاپ‌ها می‌توان به Anthropic اشاره کرد که توسط کارمندان سابق شرکت OpenAI تاسیس شد.

جیسون‌هانگ‏، مدیرعامل شرکت انویدیا که تراشه‌های این شرکت اغلب برای تقویت هوش مصنوعی استفاده می‌شود‏، اخیرا در گزارشی اعلام کرد که هوش مصنوعی در مقایسه با یک دهه اخیر، حدود یک میلیون بار قدرتمندتر شده و پیش‌بینی کرد که هوش مصنوعی ChatGPT شرکت OpenAI نیز احتمالا در یک دهه آینده با چنین رشدی مواجه خواهد شد.

هوگارت در مقاله خود نوشت که توان پردازشی هوش مصنوعی‌های پیشرفته امروزی در مقایسه با یک دهه اخیر‏، حدود 100 میلیون برابر شده است.

این متخصص هوش مصنوعی گفت که رقابت شدید میان شرکت‌های پیشرو این حوزه از جمله OpenAI و DeepMind به دلیل نبود نظارت‏، احتمالا ظهور یک هوش مصنوعی خداگونه را در آینده را به دنبال خواهد شد.

هوگارت نوشت: آنها به سمت خط پایان این مسابقه می‌دوند، بدون آنکه درکی از آن طرف داشته باشند. 

سم آلتمن، مدیرعامل OpenAI در مصاحبه‌ای با نشریه نیویورک تایمز در سال 2019، بلندپروازی‌های خود را با «پروژه منهتن» مقایسه کرد، که به ساخت اولین سلاح‌های هسته‌ای ختم شد. 

به زعم هوگارت، اگرچه هوش عمومی‌مصنوعی (AGI) می‌تواند تاثیرات زیادی را به دنبال داشته باشد. این تاثیرات هم می‌تواند مثبت و هم فاجعه‌بار باشد که تحقق هر کدام از این دو، به رصد دقیق پیشرفت این فناوری و وضع قوانین مرتبط بستگی خواهد داشت.