یک پژوهشگر ارشد ایمنی در شرکت Anthropic هشدار داده است که به باور او، احتمال اینکه هوش مصنوعی در دهه آینده باعث نابودی همه انسانها شود، بیش از ۱۰ درصد است.
این هشدار پس از استعفای جیکوب کاکسون، پژوهشگر هوش مصنوعی که سابقه فعالیت در OpenAI و Anthropic را دارد، مطرح شد. کاکسون در پیامی اعلام کرد که از Anthropic استعفا داده، زیرا معتقد است شرکتهای بزرگ هوش مصنوعی در رقابتی خطرناک برای ساخت سیستمهای فوقهوشمندی قرار گرفتهاند که میتوانند خودشان را بهبود دهند و در نهایت از کنترل انسان خارج شوند.
او گفت شرکتهایی مانند Anthropic و OpenAI با وجود آگاهی از خطرات بالقوه این فناوری، همچنان با سرعت به سمت ساخت سیستمهای قدرتمندتر حرکت میکنند و عملاً «با جان انسانها قمار میکنند».
پس از انتشار این اظهارات، ایوان هوبینگر، یکی از مدیران ارشد تحقیقات ایمنی و همراستاسازی هوش مصنوعی در Anthropic، با بخش زیادی از نگرانیهای کاکسون موافقت کرد. هوبینگر گفت که خودش احتمال نابودی همه انسانها توسط هوش مصنوعی در ۱۰ سال آینده را بیش از ۱۰ درصد میداند.
به گفته او، نگرانی اصلی مربوط به سیستمهایی است که بتوانند در توسعه و بهبود نسخههای بعدی خود نقش داشته باشند؛ روندی که میتواند سرعت پیشرفت هوش مصنوعی را از توان انسان برای کنترل آن جلو بیندازد.
هوبینگر همچنین اعتراف کرد که Anthropic هنوز راهحل مشخصی برای اطمینان از همراستا ماندن یک هوش مصنوعی فوقهوشمند با اهداف و ارزشهای انسانی ندارد و حتی مشخص نیست که این شرکت در مسیر رسیدن به چنین راهحلی قرار گرفته باشد.
البته این پژوهشگر تأکید کرده که منظور او مدلهای هوش مصنوعی فعلی نیست و خطر اصلی را مربوط به نسلهای بسیار قدرتمندتر و آینده این فناوری میداند. با این حال، این اظهارات بار دیگر بحث درباره سرعت رقابت شرکتهای فناوری برای ساخت هوش مصنوعی فوقهوشمند و خطرات احتمالی آن را داغ کرده است.