هوش مصنوعی در امنیت سایبری؛ وقتی AI خودش حمله می‌کند

تا چندی پیش، نقش هوش مصنوعی در امنیت سایبری بیشتر به نوشتن ایمیل‌های فیشینگ، تولید کد، تحلیل هشدارها یا جمع‌آوری اطلاعات محدود بود. مهاجم همچنان تصمیم‌گیرنده اصلی محسوب می‌شد و هوش مصنوعی فقط سرعت اجرای بعضی مراحل را افزایش می‌داد.

گزارش‌های امنیتی جدید از تغییر مهمی خبر می‌دهند: هوش مصنوعی به‌تدریج از یک ابزار کمکی به یک عامل اجرایی تبدیل شده است؛ عاملی که می‌تواند هدف را بررسی کند، فرمان اجرا کند، اطلاعات به‌دست‌آمده را تحلیل کند و برای مرحله بعدی عملیات تصمیم بگیرد.

در حملات سنتی، مهاجم برای اجرای هر مرحله باید ابزار مناسب را انتخاب می‌کرد، خروجی آن را بررسی می‌کرد و درباره اقدام بعدی تصمیم می‌گرفت. این فرایند به دانش فنی، نیروی انسانی و زمان قابل‌توجهی نیاز داشت.

عامل‌های هوش مصنوعی می‌توانند بخشی از این چرخه را خودکار کنند. یک عامل ممکن است به مرورگر، خط فرمان، سامانه‌های ابری، ایمیل، فایل‌ها یا رابط‌های برنامه‌نویسی دسترسی داشته باشد. در چنین شرایطی، مدل فقط پاسخ متنی تولید نمی‌کند؛ بلکه می‌تواند در محیط واقعی فعالیت کند.

گزارش AI Security Report 2026 شرکت Check Point این روند را عبور هوش مصنوعی از نقش دستیار به نقش اپراتور توصیف می‌کند.

حمله عامل‌محور نوعی عملیات سایبری است که در آن یک یا چند عامل هوش مصنوعی، مجموعه‌ای از اهداف، ابزارها و مجوزها را دریافت می‌کنند و بخشی از زنجیره حمله را با دخالت محدود انسان پیش می‌برند.

برای مثال، مهاجم می‌تواند هدفی مانند پیدا کردن حساب‌های دارای دسترسی مدیریتی را برای عامل تعریف کند. عامل اطلاعات موجود را بررسی می‌کند، ابزار مناسب را انتخاب می‌کند، نتایج را تحلیل می‌کند و در صورت دستیابی به اطلاعات معتبر، مرحله بعدی را آغاز می‌کند.

Anthropic فعالیت ۸۳۲ حساب مسدودشده به‌دلیل اقدامات سایبری مخرب را در فاصله مارس ۲۰۲۵ تا مارس ۲۰۲۶ بررسی و روش‌های استفاده مهاجمان از هوش مصنوعی را با چارچوب MITRE ATT&CK تطبیق داده است.

این داده‌ها نشان می‌دهند استفاده مهاجمان از هوش مصنوعی دیگر فقط به نوشتن پیام فیشینگ محدود نیست. مدل‌های هوش مصنوعی به‌تدریج در مراحل پیچیده‌تر پس از نفوذ، مانند شناسایی حساب‌ها، افزایش سطح دسترسی و حرکت جانبی نیز به کار گرفته می‌شوند.

جزئیات کامل این پژوهش در گزارش Anthropic درباره تهدیدهای سایبری مجهز به هوش مصنوعی منتشر شده است.

خطر این حملات فقط در توانایی تولید متن یا کد بهتر خلاصه نمی‌شود. عامل‌های هوش مصنوعی می‌توانند چند قابلیت را در یک فرایند پیوسته کنار هم قرار دهند.

در تزریق غیرمستقیم پرامپت، دستور مخرب داخل محتوایی قرار می‌گیرد که عامل هوش مصنوعی آن را پردازش می‌کند؛ برای مثال داخل یک صفحه وب، ایمیل، فایل PDF، سند اشتراکی یا توضیحات یک افزونه.

گزارش Check Point از افزایش تقریباً پنج‌برابری شناسایی پرامپت‌های مخرب طولانی بین مارس تا مه ۲۰۲۶ خبر می‌دهد. این نوع ورودی‌های طولانی بیشتر با حملات مبتنی بر محتوا و مسیرهای عامل‌محور ارتباط دارند.

خطر اصلی زمانی ایجاد می‌شود که عامل هم‌زمان به محتوای خارجی، اطلاعات داخلی و ابزارهای اجرایی دسترسی داشته باشد. در این معماری، یک ورودی غیرقابل‌اعتماد می‌تواند بر تصمیم‌ها و اقدامات عامل اثر بگذارد.

ریسک فقط از سمت مهاجمانی نیست که از هوش مصنوعی استفاده می‌کنند. ورود کنترل‌نشده ابزارهای هوش مصنوعی به محیط کاری نیز می‌تواند داده‌ها و دسترسی‌های داخلی را در معرض خطر قرار دهد.

براساس داده‌های Check Point، سازمان‌های بررسی‌شده به‌طور متوسط در هر ماه از ۱۰ برنامه هوش مصنوعی استفاده می‌کردند و سهم پرامپت‌های پرخطر دارای احتمال افشای اطلاعات حساس طی یک سال از ۲ درصد به ۴ درصد رسیده است.

کارکنان ممکن است بدون قصد قبلی، کد منبع، اطلاعات مشتریان، قراردادها، گزارش‌های مالی یا جزئیات زیرساخت سازمان را در اختیار یک ابزار عمومی قرار دهند. اگر عامل به ایمیل، فایل و برنامه‌های داخلی نیز متصل باشد، پیامد یک تصمیم اشتباه بسیار گسترده‌تر خواهد بود.

همان قابلیت‌هایی که سرعت حمله را افزایش می‌دهند، می‌توانند برای شناسایی آسیب‌پذیری، تحلیل هشدارها و پاسخ به تهدیدها نیز استفاده شوند. به همین دلیل، هوش مصنوعی در امنیت سایبری هم‌زمان یک ابزار دفاعی و یک منبع ریسک جدید محسوب می‌شود.

در مرکز عملیات امنیت، عامل‌های هوش مصنوعی می‌توانند هشدارها را دسته‌بندی کنند، اطلاعات تهدید را با رخدادهای شبکه تطبیق دهند، مسیر احتمالی حمله را بازسازی کنند و اقدامات اولیه پاسخ را به تحلیلگر پیشنهاد دهند.

مایکروسافت در پروژه Project Perception از سه گروه عامل تخصصی استفاده می‌کند: عامل‌های قرمز برای یافتن مسیرهای نفوذ، عامل‌های آبی برای تحلیل ریسک و عامل‌های سبز برای اصلاح و تقویت کنترل‌های دفاعی.

مقابله با تهدیدهای عامل‌محور الزاماً به خرید یک محصول جدید محدود نمی‌شود. نخستین گام، شناخت دقیق محل استفاده از هوش مصنوعی و دسترسی‌هایی است که در اختیار آن قرار گرفته است.

هوش مصنوعی قرار نیست جای تمام مهاجمان یا تحلیلگران امنیت را بگیرد. تغییر اصلی در نحوه تقسیم کار میان انسان و ماشین اتفاق می‌افتد.

در سمت مهاجم، انسان هدف و انگیزه عملیات را تعیین می‌کند و عامل هوش مصنوعی بخش بیشتری از شناسایی، تحلیل و اجرا را بر عهده می‌گیرد. در سمت مدافع نیز کارشناسان امنیت سیاست‌ها و اولویت‌ها را مشخص می‌کنند و عامل‌ها حجم بزرگی از هشدارها و داده‌ها را بررسی می‌کنند.

تحولات اخیر نشان می‌دهد هوش مصنوعی در امنیت سایبری هم‌زمان یک فرصت دفاعی و یک منبع تهدید جدید است. عامل‌های هوش مصنوعی می‌توانند تحلیل هشدارها و کشف آسیب‌پذیری‌ها را سریع‌تر کنند، اما در سمت مهاجم نیز قادرند بخشی از شناسایی، تصمیم‌گیری و اجرای عملیات نفوذ را بر عهده بگیرند.

اتصال عامل‌های سازمانی به ایمیل، فایل‌ها، برنامه‌های ابری و داده‌های حساس، سطح حمله جدیدی به وجود آورده است. کنترل هویت و دسترسی عامل‌ها، جلوگیری از نشت اطلاعات، پایش رفتار، آزمایش تزریق پرامپت و حفظ تأیید انسانی برای اقدامات حساس، از مهم‌ترین الزامات امنیت در این دوره هستند.