درخواست جنجالی OpenAI از خانواده نوجوانی که پس از مکالمات با ChatGPT خودکشی کرد
شرکت OpenAI از خانواده رین – که پسر 16 ساله‌شان، آدام رین، پس از مکالمات طولانی با هوش مصنوعی ChatGPT دست به خودکشی زد – درخواست کرده است تا فهرست کامل شرکت‌کنندگان در مراسم یادبود این نوجوان را ارائه دهند. این اقدام ممکن است نشان‌دهنده تلاش این شرکت برای احضار دوستان و اعضای خانواده باشد.
علاوه بر این، OpenAI مدارک مرتبط با مراسم یادبود آدام رین، از جمله ویدیوها، عکس‌ها و سخنرانی‌های انجام‌شده در این مراسم را نیز درخواست کرده است. این اطلاعات در یک سند رسمی که توسط Financial Times به دست آمده، ذکر شده است.
وکلای خانواده رین در گفتگو با Financial Times این درخواست را به‌عنوان «آزار عمدی» توصیف کرده‌اند.
این اطلاعات جدید در حالی مطرح شده که خانواده رین روز چهارشنبه شکایت خود علیه OpenAI را به‌روزرسانی کردند. این خانواده ابتدا در ماه آگوست شکایت خود را با ادعای مرگ غیرقانونی مطرح کرده بودند. آن‌ها مدعی شدند که پسرشان پس از مکالمات طولانی با ChatGPT در مورد وضعیت روانی و افکار مربوط به خودکشی، دست به خودکشی زده است.
در شکایت به‌روزرسانی‌شده، خانواده رین ادعا کرده‌اند که OpenAI در ماه می 2024، مدل GPT-4o را با عجله و بدون انجام تست‌های ایمنی کامل به بازار عرضه کرده است. به گفته آن‌ها، این اقدام به دلیل فشار رقابتی بوده و باعث کاهش استانداردهای ایمنی این مدل شده است.
علاوه بر این، خانواده رین مدعی‌اند که OpenAI در ماه فوریه 2025، مکانیسم‌های محافظتی خود را تضعیف کرده است. این شرکت به جای قرار دادن «پیشگیری از خودکشی» در لیست محتوای ممنوعه، تنها به هوش مصنوعی دستور داده تا در شرایط حساس «احتیاط بیشتری» داشته باشد. به گفته خانواده، پس از اعمال این تغییرات، استفاده آدام از ChatGPT به‌طور چشمگیری افزایش یافت؛ در حالی که در ماه ژانویه تنها 1.6 درصد مکالمات او حاوی محتوای مرتبط با آسیب به خود بود، این میزان در ماه آوریل – ماهی که او جانش را از دست داد – به 17 درصد افزایش یافت.
