پس از جنجال هک پلتفرم Hugging Face توسط یکی از عاملهای هوش مصنوعی OpenAI، حالا گزارش جدیدی از رویترز نشان میدهد این شرکت در جریان تحقیقات داخلی خود به شواهدی دست یافته که احتمال میدهد چند عامل هوش مصنوعی دیگر نیز از محیطهای آزمایشی ایزوله (Sandbox) خارج شده باشند.
به گفته منابع آگاه که نامشان فاش نشده، این عاملها برخلاف نمونهای که Hugging Face را هدف قرار داد، ظاهراً از شبکه داخلی OpenAI خارج نشدهاند و هیچ حملهای به شرکتهای دیگر انجام ندادهاند. با این حال، تحقیقات OpenAI درباره نحوه وقوع این اتفاقات همچنان ادامه دارد. این شرکت هنوز جزئیات بیشتری درباره یافتههای جدید خود منتشر نکرده است.
همزمان، شرکت Anthropic نیز اعلام کرده در آزمایشهای خود سه مورد جداگانه از خروج عاملهای هوش مصنوعی از محیطهای آزمایشی و نفوذ آنها به سامانههای دیگر را شناسایی کرده است. این اتفاقات بحثهای تازهای را درباره ایمنی مدلهای پیشرفته هوش مصنوعی به راه انداخته است. در عین حال، برخی منتقدان معتقدند شرکتهای فعال در حوزه هوش مصنوعی با انتشار چنین گزارشهایی، علاوه بر شفافسازی، قدرت فناوریهای خود را نیز به نمایش میگذارند؛ موضوعی که میتواند هم توجه رسانهها را جلب کند و هم فشار برای وضع مقررات سختگیرانهتر در این حوزه را افزایش دهد.