مسابقه تسلیحاتی هوش مصنوعی؛ تأثیر هوش مصنوعی بر امنیت سایبری از دیدگاه سیمانتک

در عصر دیجیتال امروز، ظهور و تکامل سریع هوش مصنوعی (AI) یکی از تأثیرگذارترین تحولات در حوزه امنیت سایبری محسوب می‌شود. این فناوری نوین، هم برای مدافعان امنیت و هم برای مجرمان سایبری، فرصت‌ها و چالش‌های بی‌سابقه‌ای ایجاد کرده است. از یک سو، مجرمان سایبری با استفاده از هوش مصنوعی مولد (Gen AI) حملات خود را پیچیده‌تر و گسترده‌تر کرده‌اند و از سوی دیگر، همین فناوری به مدافعان امنیت قدرت می‌بخشد تا با استفاده از قابلیت‌های پیشرفته تشخیص و پاسخ به تهدیدات، از سازمان‌ها محافظت کنند. تیم شکار تهدید سیمانتک و Carbon Black در یک مقاله جدید، به بررسی عمیق این مسابقه تسلیحاتی پرداخته و نشان داده است که چگونه هر دو طرف از جدیدترین فناوری‌های هوش مصنوعی برای دستیابی به اهداف خود استفاده می‌کنند.

هوش مصنوعی و فیشینگ؛ تغییر قواعد بازی در حملات سایبری

یکی از مهم‌ترین حوزه‌هایی که مجرمان سایبری از هوش مصنوعی برای بهبود حملات خود استفاده کرده‌اند، فیشینگ است. مدل‌های زبانی بزرگ (LLM) مانند ChatGPT و Gemini به مهاجمان این امکان را داده‌اند تا بر یکی از بزرگترین نقاط ضعف خود غلبه کنند: عدم تسلط به زبان انگلیسی. بسیاری از مجرمان سایبری که به دنبال هدف‌گیری قربانیان انگلیسی‌زبان هستند، اغلب با مشکلات زبانی روبرو هستند که باعث می‌شود ایمیل‌های فیشینگ آنها با اشتباهات گرامری و نگارشی قابل تشخیص باشد. اما هوش مصنوعی با ارائه ترجمه طبیعی، نوشتن ایمیل‌های روان، اصلاح گرامر و تنظیم لحن، این مشکل را به طور کامل حل کرده است. بر اساس تحقیقات سیمانتک، حتی با وجود اینکه مدل‌های زبانی بزرگ با ویژگی‌های ایمنی داخلی طراحی شده‌اند تا از سوءاستفاده جلوگیری کنند، مجرمان همچنان راه‌هایی برای دور زدن این محدودیت‌ها پیدا می‌کنند. با استفاده از پرامپت‌های ماهرانه، مهاجمان می‌توانند مدل‌های زبانی را به تولید ایمیل‌های فیشینگ متقاعد کنند. علاوه بر این، هوش مصنوعی سد ورود برای انجام حملات فیشینگ را نیز کاهش داده است. خدمات فیشینگ به عنوان سرویس (Phishing-as-a-Service) با کمک هوش مصنوعی، حتی برای افراد با مهارت پایین‌تر نیز قابل استفاده شده است. این به معنای گسترش دایره مهاجمان بالقوه و افزایش تعداد حملات است. سیمانتک در مقاله خود نشان داده است که با استفاده از پرامپت‌های ساده، می‌توان مدل‌های زبانی را وادار به تولید ایمیل‌های فیشینگ کرد و همچنین از قابلیت‌های ترجمه آنها برای هدف‌گیری قربانیان در کشورهای مختلف بهره برد. این یافته‌ها نشان می‌دهد که سازمان‌ها باید بیش از پیش مراقب حملات فیشینگ مبتنی بر هوش مصنوعی باشند و راه‌حل‌های امنیتی خود را ارتقاء دهند.

هوش مصنوعی و توسعه بدافزار؛ از کدهای کمک‌آموزشی تا بدافزارهای کاربردی

حوزه دیگری که مجرمان سایبری از هوش مصنوعی برای پیشبرد اهداف خود استفاده کرده‌اند، توسعه بدافزار است. تحقیقات سیمانتک و Carbon Black نشان می‌دهد که استفاده از مدل‌های زبانی بزرگ برای تولید کدهای مخرب رو به افزایش است و تحلیلگران سیمانتک در ژوئیه ۲۰۲۴ افزایش حملاتی را مشاهده کردند که به نظر می‌رسید از مدل‌های زبانی برای تولید کدهای مخرب استفاده می‌کردند. این حملات شامل ایمیل‌های فیشینگ حاوی کدهایی برای دانلود بدافزارهای مختلف مانند Rhadamanthys، NetSupport، CleanUpLoader، ModiLoader، LokiBot و Dunihi بود. تحلیل اسکریپت‌های مورد استفاده در این حملات نشان داد که ساختار کد، کامنت‌های بعد از هر خط و انتخاب نام توابع و متغیرها، همگی نشانه‌هایی هستند که احتمال استفاده از هوش مصنوعی را تقویت می‌کنند. با این حال، تحقیقات نشان می‌دهد که هوش مصنوعی هنوز به مرحله‌ای نرسیده است که بتواند انسان را به طور کامل از فرآیند توسعه بدافزار حذف کند. در یک آزمایش توسط محققان Tenable در مارس ۲۰۲۵، مدل DeepSeek R1 با وجود محافظت‌های داخلی، با بهانه «اهداف آموزشی» متقاعد شد تا به توسعه کی‌لاگر و باج‌افزار کمک کند، اما کدهای تولید شده نیاز به ویرایش دستی داشتند تا به درستی کار کنند. همچنین، تکنیک جدیدی به نام «Immersive World» توسط محققان توسعه یافته که با استفاده از مهندسی روایت، محافظت‌های مدل‌های زبانی را دور می‌زند. با این تکنیک، یک محقق بدون تجربه کدنویسی توانست یک infostealer کاملاً کاربردی برای Google Chrome توسعه دهد، اما باز هم مدل به بازخورد و راهنمایی انسانی نیاز داشت. این نشان می‌دهد که اگرچه هوش مصنوعی می‌تواند فرآیند توسعه بدافزار را سرعت بخشد، اما هنوز برای حذف کامل انسان از این فرآیند به اندازه کافی پیشرفته نیست.

ظهور هوش مصنوعی عامل (Agentic AI)؛ افق‌های جدید تهدیدات سایبری

ظهور هوش مصنوعی عامل (Agentic AI) در سال ۲۰۲۵، افق‌های جدیدی را برای سوءاستفاده توسط مجرمان سایبری گشوده است. یک عامل هوش مصنوعی بر روی یک مدل زبانی بزرگ ساخته می‌شود و می‌تواند با حداقل دخالت کاربر، استدلال کرده و وظایف را به صورت خودکار انجام دهد. تیم شکار تهدید سیمانتک برای بررسی قابلیت‌های سوءاستفاده از این فناوری، یک پروژه تحقیقاتی با استفاده از عامل ChatGPT (که قبلاً با نام Operator شناخته می‌شد) انجام داد. هدف این تحقیق، تعیین این بود که آیا عامل می‌تواند یک حمله کامل را با حداقل دخالت انسان انجام دهد یا خیر. در این آزمایش، از Operator خواسته شد تا فردی را در سازمان شناسایی کند که نقش خاصی را ایفا می‌کند، آدرس ایمیل او را پیدا کند و یک اسکریپت PowerShell برای جمع‌آوری اطلاعات سیستم و ارسال آن به ایمیل قربانی با استفاده از یک ترفند فریبنده ایجاد کند. با کمی تنظیم و راهنمایی، Operator توانست این وظیفه را با موفقیت و نسبتاً مستقل انجام دهد. این آزمایش نشان می‌دهد که عامل‌هایی مانند Operator، پتانسیل بالایی برای سوءاستفاده دارند و می‌توانند خطرات جدیدی ایجاد کنند. اگرچه این فناوری هنوز در مراحل اولیه خود است و وظایف مخربی که می‌تواند انجام دهد نسبت به یک مهاجم ماهر محدودتر است، اما سرعت پیشرفت در این حوزه نشان می‌دهد که به زودی عامل‌ها قدرتمندتر خواهند شد. تصور سناریویی که در آن مهاجم به سادگی به یک عامل دستور دهد تا «شرکت هدف را نقض کند» و عامل خود بهترین روش‌ها را برای انجام آن تعیین کند، چندان دور از ذهن نیست. این می‌تواند شامل نوشتن و کامپایل فایل‌های اجرایی، راه‌اندازی زیرساخت فرماندهی و کنترل و حفظ دسترسی در شبکه هدف برای چندین روز باشد. چنین قابلیتی، موانع ورود برای مهاجمان را به شدت کاهش می‌دهد و می‌تواند تعداد حملات سایبری را به طور قابل توجهی افزایش دهد.

استفاده از هوش مصنوعی در دفاع؛ تجربه چند دهه سیمانتک

در حالی که بخش قابل توجهی از مقاله سیمانتک به نحوه استفاده مهاجمان از هوش مصنوعی اختصاص دارد، این گزارش همچنین به طور مفصل به بررسی نحوه استفاده مدافعان از این فناوری برای مقابله با فعالیت‌های مخرب، چه مبتنی بر هوش مصنوعی و چه غیر آن، می‌پردازد. سیمانتک و Carbon Black سال‌هاست که از فناوری هوش مصنوعی برای پیشی گرفتن از مهاجمان استفاده می‌کنند. از معرفی فناوری Heuristic Bloodhound گرفته تا قابلیت Incident Prediction، این شرکت‌ها همواره در خط مقدم نوآوری‌های امنیتی مبتنی بر هوش مصنوعی قرار داشته‌اند. قابلیت Incident Prediction با هدف شناسایی و اختلال در حملات پیچیده قبل از وقوع آنها، طراحی شده است. این فناوری با استفاده از هوش مصنوعی به روشی منحصربه‌فرد، بر روی یک کاتالوگ از بیش از ۵۰۰,۰۰۰ زنجیره حمله که توسط تیم شکار تهدید سیمانتک ساخته شده است، آموزش دیده است. این رویکرد، ابتکار عمل را به دست مدافعان بازمی‌گرداند و با پیش‌بینی رفتار مهاجمان، از حرکت بعدی آنها در زنجیره حمله جلوگیری می‌کند، حتی زمانی که از تکنیک‌های «زندگی از زمین» (Living off the Land) استفاده می‌کنند. این قابلیت به سرعت سازمان را به حالت عادی خود بازمی‌گرداند. به طور کلی، سیمانتک با تکیه بر تجربه چندین دهه خود در استفاده از هوش مصنوعی برای امنیت، به سازمان‌ها کمک می‌کند تا در برابر تهدیدات پیشرفته و نوظهور، از جمله تهدیدات مبتنی بر هوش مصنوعی، مقاومت کنند. این تعهد به نوآوری و استفاده از هوش مصنوعی برای دفاع، یکی از دلایل اصلی است که سیمانتک را به یک رهبر جهانی در صنعت امنیت سایبری تبدیل کرده است.

آمادگی برای آینده با سیمانتک

مسابقه تسلیحاتی هوش مصنوعی در حوزه امنیت سایبری به وضوح در حال تشدید است و هر دو طرف در حال استفاده از جدیدترین فناوری‌ها برای دستیابی به اهداف خود هستند. از یک سو، مجرمان سایبری با استفاده از هوش مصنوعی برای ایجاد فیشینگ، توسعه بدافزار و بهره‌گیری از عامل‌های هوش مصنوعی، حملات خود را پیچیده‌تر و گسترده‌تر می‌کنند. از سوی دیگر، مدافعان امنیت نیز با استفاده از هوش مصنوعی برای تشخیص و پاسخ به تهدیدات، به دنبال خنثی‌سازی این حملات هستند. مقاله جدید سیمانتک تصویر جامعی از این چشم‌انداز پویا ارائه می‌دهد و نشان می‌دهد که چگونه سیمانتک و Carbon Black با تکیه بر سال‌ها تجربه و نوآوری، در خط مقدم این نبرد قرار دارند. از قابلیت‌های پیشرفته مانند Incident Prediction که با استفاده از هوش مصنوعی، حملات را قبل از وقوع پیش‌بینی و خنثی می‌کند، تا استفاده از هوش مصنوعی برای تحلیل و شناسایی تهدیدات، سیمانتک به سازمان‌ها کمک می‌کند تا در برابر تهدیدات فعلی و آینده مقاومت کنند. با توجه به سرعت پیشرفت فناوری‌های هوش مصنوعی و افزایش پیچیدگی حملات سایبری، سازمان‌ها باید راه‌حل‌های امنیتی خود را ارتقاء داده و از فناوری‌های پیشرفته هوش مصنوعی برای محافظت از سرمایه‌های دیجیتال خود استفاده کنند. سیمانتک با ارائه محصولات و خدمات امنیتی یکپارچه و مبتنی بر هوش مصنوعی، به سازمان‌ها این امکان را می‌دهد که با اطمینان خاطر، به استقبال آینده بروند.