امروزه با پیشرفت تکنولوژی، هر کس این فرصت را در اختیار دارد تا بتواند یک آواتار فوق واقعی از خودش بسازد. اما آیا همانطور که از این فناوری لذت می‌بریم و سرگرم می‌شویم، قوانینی را برای جلوگیری از سوءاستفاده از این تصاویر وضع کردهایم؟ وقتی در متاورس مشغول هستید، اغلب با یک آواتار بلوکی یا کارتونی یا یک نیم‌تنه شناور بی‌جسم و یک جفت دست نشان داده می‌شوید که هیچ کدام به طور کامل شبیه شما نیست. اما وقتی همه چیز بسیار واقعی‌تر شود، چه اتفاقی می‌افتد؟ در همین راستا، رسانه سیفتد (Sifted) به بررسی مزایا و معایب این جهان پرداخته است.
تعدادی از شرکت‌های در حال توسعه، راه‌هایی در اختیار شما قرار داده‌اند که با استفاده از پردازش چهره، صدا و حتی نحوه حرکت‌تان، بازنمایی‌های فوق‌العاده‌ای از خودتان در فضای متاورس ایجاد کنید. یکی از این شرکت‌ها متافیزیک است؛ یک شرکت رسانه مصنوعی یا دیپ فیک، که توسط کریس اومه، خالق ویدیوهای دیپ فیک تام کروز – که سال گذشته در تیک‌تاک طوفانی به پا کرد- تأسیس شد. این ویدیوها نشان می‌دهند که چطور این بازیگر هالیوودی کارهایی مانند خوردن آبنبات چوبی و گلف بازی را انجام می‌دهد، در حالی که فیلم اصلی مربوط به یک بازیگر دیگر است و چهره تام کروز در آن چنان ماهرانه جاگذاری شده بود که به سختی می‌توان گفت واقعی نیست.
اکنون شرکت متافیزیک قصد دارد این فناوری را در دسترس همه قرار دهد تا هر کسی بتواند از آن برای ساختن آواتار فوق واقعی خود استفاده کند. این استارت‌آپ توانسته در روزهای اخیر، حدود ۷.۵ میلیون دلار کمک هزینه مالی از سرمایه‌گذاران جمع‌آوری کند. «تام گراهام» مدیرعامل و یکی از بنیانگذاران شرکت متافیزیک می‌گوید: «هر فردی می‌تواند وارد دنیا دیپ فیک شود و آواتار مصنوعی فوق واقعی خود را بسازد، اما قضیه به اینجا ختم نمی‌شود. شما با متافیزیک همچنین می‌توانید آواتار خود را به صورت ایمن و به عنوان یک NFT ذخیره کنید؛ به طوری که مالکیت تصویر خود و مهمتر از همه، داده‌های بیومتریک مورد استفاده برای ایجاد آن را حفظ کنید». بدیهی است که شرکت‌های مشابه نیز این کار را انجام می‌دهند. به عنوان مثال پلتفرم Humans.ai مستقر در رومانی، خدماتی را ارائه می‌دهد که به کمک آنها، افراد می‌توانند یکNFT از چهره یا صدای خود ایجاد کنند. این کار برای عموم سرگرم‌کننده است؛ چرا که می‌توانند خود را در لباس هنرمند محبوب‌شان روی فرش قرمز ببینند. اما در کنار تفریحات، یک جنبه جدی نیز وجود دارد؛ اگر از همان ابتدا راه‌هایی برای ایمن‌سازی هویت خود در متاورس پیدا نکنیم – همانطور که متافیزیک قصد دارد انجام دهد – نتیجه می‌تواند به از دست دادن کنترل تصاویر و داده‌های بیومتریک خودمان منجر شود و فاجعه‌ای عظیم رخ دهد.
مرتبط: چانگ‌پنگ ژائو؛ ناگهان ثروت
دیپ فیک از کجا شروع شد؟
هیچ کس بهتر از «هِنری آژدر» – محققی که سال‌ها به بررسی استفاده‌های مخرب از دیپ فیک پرداخت- این معضل را درک نمی‌کند. تحقیقات مشترکی که آژدر با کارن هائو در مجله فناوری MIT در سال 2019 انجام داد، نشان دادند که 96 درصد از تمام دیپ فیک‌های آن زمان پورنوگرافی بودند و اغلب توسط ربات‌هایی ساخته شده بودند که می‌توانستند چهره افراد را روی بدن شخص دیگری قرار بدهند؛ در حالی که این اتفاق در زمانی رخ داد که فناوری دیپ فیک هنوز در مراحل اولیه بود، چه بسا که اکنون دیپ فیک‌ها به طور فزاینده‌ای، ساده‌تر و واقعی‌تر شده‌اند.
در گذشته برای تولید مجموعه‌ای غنی از افکت‌ها برای یک فیلم، ۱۵۰ نفر و ۲۵۰ میلیون دلار لازم بود. گراهام می‌گوید حالا می‌توانیم آن را با چند هزار دلار، چند پردازنده گرافیکی و یک نفره انجام دهیم. امروزه ویدیوهای دیپ فیک مدام در همه جا ظاهر می‌شوند. همچنین در آغاز حمله روسیه به اوکراین، یک ویدیوی جعلی ناشیانه از رئیس‌جمهور ولودیمیر زلنسکی که به ظاهر تسلیم شده بود، منتشر شد که نشان داد چگونه این فناوری ممکن است برای اهداف سیاسی مورد استفاده قرار گیرند. گرچه این ویدیو خام بود، اما کارشناسان هشدار دادند که تشخیص ویدیوهای بعدی ممکن است چندان آسان نباشد. آژدر اذعان دارد که: «اگر دیپ فیک را ممنوع کنید، تمام فیلترهای اینستاگرام را ممنوع می‌کنید، عکاسی محاسباتی را روی دوربین و تلفن هوشمندتان ممنوع می‌کنید، دایناسورها را در پارک ژوراسیک ممنوع می‌کنید. آنها از بین نمی‌روند و آینده خارج از کنترل ما ساخته خواهد شد و هیچ راه اجتناب‌پذیری برای چالش‌های پیش‌رو وجود ندارد».
آژدر در تحقیقات انجام شده برای مقاله‌اش استدلال کرد تنها کاری که می‌توان انجام داد؛ سعی بر ایجاد صنعتی به اندازه کافی بزرگ حول فناوری مشروع و اخلاقی دیپ فیک است تا بهترین عملکرد را ایجاد کند و شاید، فقط شاید، به تعادل بین مصرف‌کنندگان واقعی و سوء‌استفاده‌گران کمک کند. بنابراین آژدر با اومه و گراهام، که در آن زمان مشغول راه‌اندازی متافیزیک بودند، همکاری کرد تا آنها را در مورد چگونگی پیشبرد امور در جهت اخلاقی راهنمایی کند. آژدر سال گذشته زمانی که شروع به کار کرد به Sifted گفت: « استفاده درست و مسئولانه از دیپ فیک می‌تواند آینده خلاقی را رقم زند، اما ما باید مطمئن شویم که نمونه خوبی را می‌بینیم».
در همین راستا، متافیزیک سعی کرد راه‌هایی را مدل‌سازی کند که شرکت‌های رسانه‌ای بتوانند از دیپ فیک به طور مسئولانه استفاده کنند. برای مثال این شرکت به بازیگران معروف کمک کرد تا تصاویر خود را به شرکت‌های تبلیغاتی اجاره دهند و در کمپین‌ها بکار ببرند، اما همه چیز باید با رضایت و در محدوده‌های توافق شده انجام شود. آژدر گفت: «با این حال، موارد استفاده‌ای وجود دارد که ما آنها را بد تصور می‌کنیم از جمله سوءاستفاده از تصویر غیرتوافقی در زمینه پورنوگرافی، موضوعات سیاسی فریبنده، مسائل امنیت سایبری همراه با کلاهبرداری و باید برای پیشگیری از کلاهبرداری فکری اساسی کنیم».
یکی دیگر از شرکت‌های فعال در زمینه دیپ فیک با نام D-ID – که با برادران وارنر در پروژه‌های سینمایی مختلف کار کرده است- برای ایجاد یک کد اخلاقی در این صنعت تلاش‌هایی کرده، اما اکنون با روند سریع رشد تکنولوژی، مشکلات بیشتری دامن‌گیر افراد شده است. از آنجایی که فناوری دیپ فیک از حوزه تبلیغات و پروژه‌های فیلم بیرون می‌آید و برای همه قابل دسترس می‌شود، شرکت‌هایی مانند متافیزیک احساس می‌کنند که باید کارها را زودتر پیش ببرند. این تیم تنها به استفاده اخلاقی از دیپ فیک در صنعت فیلم و تبلیغات بسنده نمی‌کند، بلکه می‌خواهد همه امکان ساخت آواتار ایمن خودشان را داشته باشند. در نتیجه، آنها سرویسی به نامEvery Anyone را به صورت رایگان ارائه دادند و کاربران فقط باید حدود 20 دلار برای هزینه‌های استخراج NFT هزینه کنند.
گراهام می‌گوید: «ما می‌خواهیم تک‌تک کاربران احساس کنند که کنترل بیشتری بر شخصیت خود دارند و نگران نباشند که همه داده‌های خود را به یک شرکت سوء‌استفاده‌گر ارسال کرده‌اند و باید منتظر اتفاقات ناگواری در آینده باشند. ما می‌خواهیم زمین بازی را کمی مساوی کرده و الگویی ایجاد کنیم که در آن این فناوری هنجار باشد».
