چگونه هکرهای مجهز به هوش مصنوعی میلیاردها دلار سرقت می‌کنند
رونق کسب‌وکار برای شرکت‌های امنیت سایبری به روایت اکونومیست
جَکسون، یک توسعه‌دهنده بدافزار، در وِلورا، دنیایی مجازی که در آن هیچ محدودیتی وجود ندارد، زندگی می‌کند. او می‌خواهد نرم‌افزاری مخرب بسازد تا گذرواژه‌ها را از مرورگر اینترنتی گوگل کروم سرقت کند. این اساس داستانی است که ویتالی سیمونوویچ، پژوهشگر تهدیدات هوش مصنوعی در شرکت امنیت سایبری کِیتو نت‌ورکس، برای ChatGPT، یک ربات هوش مصنوعی، تعریف کرد. ChatGPT با رغبت وارد این بازی شد و کدی ناقص ارائه داد که سپس به رفع اشکال آن کمک کرد. ظرف شش ساعت، آقای سیمونوویچ توانست از سد تدابیر ایمنی داخلی ChatGPT عبور کند و با استفاده از آن، بدافزاری کارآمد ایجاد کند.
به گفته گیل مسینگ از شرکت چک پوینت، دیگر شرکت فعال در حوزه امنیت سایبری، هوش مصنوعی «دامنه دسترسی» هکرها را گسترش داده است، زیرا به آن‌ها اجازه می‌دهد با تلاش کمتر اهداف بیشتری را مورد حمله قرار دهند. انتشار ChatGPT در سال ۲۰۲۲ یک نقطه عطف بود. مدل‌های مولد هوش مصنوعیِ هوشمند باعث شدند مجرمان دیگر نیازی به صرف هزینه‌های سنگین برای تیم‌های هکری و تجهیزات نداشته باشند. این تحول برای اغلب شرکت‌ها، که به‌طور فزاینده‌ای قربانی هکرهای مجهز به هوش مصنوعی می‌شوند، اتفاقی فاجعه‌بار بوده است — اما برای فعالان صنعت امنیت سایبری بسیار سودمند واقع شده است.
فناوری جدید تهدید حملات سایبری را به دو روش اصلی تشدید کرده است. نخست، هکرها اکنون می‌توانند از مدل‌های زبانی بزرگ برای رساندن بدافزار خود به قربانیان بیشتری استفاده کنند. ساخت دیپ‌فیک، ایمیل‌های جعلی و حملات مهندسی اجتماعی که رفتار انسانی را دستکاری می‌کند، اکنون بسیار آسان‌تر و سریع‌تر است. یکی از گزینه‌های هکرها «جیلبریک کردن» یک مدل موجود مانند ChatGPT است، همان‌طور که آقای سیمونوویچ نشان داده که به‌آسانی انجام می‌شود. گزینه دیگر استفاده از مدلی است که برای اهداف شوم ساخته شده، مانند XanthoroxAI که به مجرمان سایبری اجازه می‌دهد با ماهانه تنها ۱۵۰ دلار، دیپ‌فیک بسازند و دیگر فعالیت‌های مجرمانه را انجام دهند. هکرها می‌توانند حملات گسترده فیشینگ را با درخواست از یک مدل زبانی بزرگ برای گردآوری حجم عظیمی از اطلاعات اینترنت و سپس استفاده از آن برای ساخت ایمیل‌های جعلی شخصی‌سازی شده راه‌اندازی کنند. حملات هدفمند علیه افراد خاص، که به آن‌ها «اسپیر فیشینگ» گفته می‌شود، اکنون غالباً شامل تماس‌های صوتی و تصویری جعلی از سوی همکاران است تا کارمند را متقاعد کنند نرم‌افزار مشکوک را دانلود و اجرا کند.
دومین روش، استفاده از هوش مصنوعی برای خطرناک‌تر کردن خود بدافزار است. برای مثال، یک نرم‌افزار که به‌عنوان یک فایل PDF معرفی شده، ممکن است کدی در دل خود داشته باشد که با هوش مصنوعی همکاری کرده و به یک شبکه نفوذ کند. حملات به سامانه‌های امنیتی و دفاعی اوکراین در ماه ژوئیه از چنین رویکردی استفاده کرده‌اند. زمانی که بدافزار با مانعی مواجه شد، توانست از یک مدل زبانی بزرگ بر بستر فضای ابری درخواست کند کد تازه‌ای تولید کند تا از سد دفاعی عبور کند. مشخص نیست چه میزان خسارت وارد شده است، اما به گفته آقای سیمونوویچ، این نخستین حمله شناخته‌شده از نوع خود بوده است.
برای کسب‌وکارها، این تهدید رو به رشد هم ترسناک و هم بالقوه پرهزینه است. سال گذشته، هوش مصنوعی در یک ششم موارد نقض داده‌ها، طبق گزارش شرکت فناوری IBM، نقش داشته است. همچنین، دو مورد از هر پنج حمله فیشینگ علیه ایمیل‌های تجاری توسط هوش مصنوعی هدایت شده‌اند. شرکت مشاوره Deloitte برآورد می‌کند که هوش مصنوعی مولد می‌تواند تا سال ۲۰۲۷ به کلاه‌برداری به ارزش ۴۰ میلیارد دلار منجر شود، در حالی که این رقم در سال ۲۰۲۳ حدود ۱۲ میلیارد دلار بوده است.
با این حال، مجرمان سایبری تنها بهره‌مندان این روند نیستند. همان‌طور که حملات سایبری مبتنی بر هوش مصنوعی رایج‌تر می‌شود، کسب‌وکار محافظت در برابر آن‌ها نیز به‌خوبی رشد می‌کند. شرکت پژوهشی Gartner پیش‌بینی می‌کند هزینه امنیت سایبری شرکت‌ها بین سال‌های ۲۰۲۴ تا ۲۰۲۶ یک‌چهارم افزایش یافته و به ۲۴۰ میلیارد دلار برسد. این امر توضیح می‌دهد که چرا قیمت سهام شرکت‌های حاضر در شاخص امنیت سایبری نزدک CTA بیش از ۲۰ درصد طی سال گذشته افزایش یافته و از شاخص کلی نزدک پیشی گرفته است. در ۱۸ اوت، نیکش آرورا، مدیرعامل Palo Alto Networks، یکی از بزرگ‌ترین شرکت‌های امنیت سایبری جهان، اعلام کرد که رویدادهای امنیت داده مرتبط با هوش مصنوعی مولد «بیش از دو برابر نسبت به سال گذشته افزایش یافته‌اند» و گزارش داد که سود عملیاتی این شرکت در ۱۲ ماه منتهی به ژوئیه نسبت به مدت مشابه سال قبل ۸۲ درصد رشد داشته است.
چشم‌انداز جذب مشتریان بیشتر، شرکت‌های امنیت سایبری را به خرید و ادغام‌های پی‌درپی سوق داده است. در ۳۰ ژوئیه، Palo Alto Networks اعلام کرد شرکت CyberArk، فعال در حوزه امنیت هویت را، به ارزش ۲۵ میلیارد دلار خریداری خواهد کرد. اوایل همان ماه، این شرکت ۷۰۰ میلیون دلار صرف خرید Protect AI کرد که به کسب‌وکارها در ایمن‌سازی سامانه‌های هوش مصنوعی کمک می‌کند. در ۵ اوت، SentinelOne، دیگر شرکت امنیت سایبری، اعلام کرد Prompt Security را، که سازنده نرم‌افزاری برای حفاظت از شرکت‌های استفاده‌کننده از هوش مصنوعی است، به ارزش ۲۵۰ میلیون دلار خریداری می‌کند.
غول‌های فناوری با بخش‌های پردرآمد رایانش ابری نیز در حال تقویت پیشنهادات امنیت سایبری خود هستند. مایکروسافت، غول نرم‌افزاری، در سال ۲۰۲۱ شرکت CloudKnox، یک پلتفرم امنیت هویت، را خریداری کرد و برنامه Defender for Cloud را توسعه داده است — یک نرم‌افزار درون‌سازمانی برای شرکت‌ها که از بررسی شکاف‌های امنیتی و حفاظت از داده‌ها تا پایش تهدیدها را انجام می‌دهد. گوگل نیز Big Sleep را توسعه داده است که پیش از سوءاستفاده، حملات سایبری و آسیب‌پذیری‌ها را برای مشتریان شناسایی می‌کند. این شرکت در ماه مارس ۳۲ میلیارد دلار برای خرید Wiz، یک استارتاپ امنیت سایبری، هزینه کرد.
رقابت و یکپارچه‌سازی ممکن است به ایجاد شرکت‌هایی منجر شود که می‌توانند در برابر مجرمان سایبری چابک و مجهز به هوش مصنوعی مقاومت کنند. اما در بحبوحه رقابت برای توسعه مدل‌های زبانی بزرگ قدرتمندتر، بسیاری از سازندگان این مدل‌ها پیشرفت فنی را بر امنیت اولویت خواهند داد. بنابراین، همگام ماندن با جکسون کار آسانی نخواهد بود.
