پروژه مخفی «Project Lily»؛ انسانها چطور مکالمات کاربران ChatGPT را بررسی میکنند؟
گزارشی تازه از 404 Media نشان میدهد OpenAI برای بهبود عملکرد ChatGPT از صدها نیروی قراردادی استفاده میکند که بخشی از مکالمات واقعی کاربران را میخوانند و پاسخهای تولیدشده توسط این چتبات را ارزیابی میکنند. این برنامه داخلی با نام رمز «Project Lily» شناخته میشود و اسناد مرتبط با آن به دستورالعملها، کانالهای ارتباطی و سامانهای برای ارزیابی مکالمات کاربران اشاره دارند.
بر اساس این گزارش، بازبینها ابتدا پیام واقعی کاربر را مطالعه میکنند، سپس هدفی را که کاربر دنبال میکرده خلاصه کرده و در ادامه چند پاسخ تولیدشده توسط ChatGPT را از نظر میزان انطباق با دستورالعملهای مدل ارزیابی و نقد میکنند. هدف این فرایند، بهبود کیفیت پاسخها و آموزش مدل برای ارائه پاسخهای دقیقتر، طبیعیتر و متناسبتر با درخواست کاربران است.
نکته بحثبرانگیز ماجرا این است که برخی از این مکالمات ممکن است حاوی اطلاعات شخصی یا حساس باشند. OpenAI میگوید پیش از ارسال مکالمات برای بازبینها از یک مدل «Privacy Filter» برای شناسایی و حذف اطلاعات شخصی استفاده میکند، اما خود شرکت نیز تأکید دارد که این سامانه ممکن است در برخی موارد اطلاعات را بهطور کامل شناسایی یا حذف نکند.
گزارش همچنین نشان میدهد کاربرانی که گزینه «Improve the model for everyone» را در تنظیمات ChatGPT غیرفعال نکردهاند، ممکن است مکالمات جدیدشان برای بهبود مدلها مورد استفاده قرار گیرد. OpenAI در واکنش به این گزارش جزئیات بیشتری درباره نحوه انصراف کاربران از این فرایند در صفحه راهنمای خود منتشر کرده است.
