با وجود اینکه تنها ۳ سال از آغاز دهه میلادی جدید گذشته است، سال ۲۰۲۰ خود را بعنوان نقطه عطف پیدایش هوش مصنوعی نسل جدید تثبیت کرده است. از این میان می‌توان به ابزار مشهور ChatGPT ساخته شرکت OpenAI و نسل چهارم آن تا ظهور ابزارهای خلق تصاویر با دریافت متن مثل Midjourney و DALL-E و نمونه بیشمار دیگری اشاره کرد. در حقیقت ابزارهای هوش مصنوعی که به سرعت نیز در حال قدرتمند شدن هستند، انجام کارها را برای همه مشاغل از کدنویسی و ویرایش مقاله گرفته تا خلق تصاویر توسط هوش مصنوعی مولد آسان کرده‌اند و به صورت گسترده توسط عموم و متخصصان کسب‌و‌کارها در سراسر جهان مورد استفاده قرار می‌گیرند. در بخش تاریک دنیای تکنولوژی نیز مجرمان سایبری در حال استفاده و حتی بهینه‌سازی هوش مصنوعی هستند. حالا آنها با در اختیار داشتن مجموعه از ابزارهای قدرتمند و شرور که به سرعت نیز فعال می‌شوند، تهدید بزرگ و جدیدی برای بخش امنیت شبکه ایجاد کرده‌اند.
خطرات تهاجم‌های جدید با استفاده از هوش مصنوعی
با گذشت چند سال استفاده از هوش مصنوعی برای مبارزه جرایم سایبری بر پایه هوش مصنوعی، با هم برخی از خطرات تهاجم های جدید را بررسی می‌کنیم:
ممکن است مظنون حمله فیشینگ از سمت هوش مصنوعی باشد
کاربران مجموعه‌ای قربانی یک حمله فیشنیگ پیچیده شده‌اند. آنها فکر می‌کردند در حال مذاکره با یک خریدار واقعی (کاربر انسان) هستند، اما چه اتفاقی افتاده است؟
محبوب‌ترین نوع این خطرات، حمله فیشینگ است، یک روش مهندسی شده مخرب در شبکه‌های اجتماعی، ایمیل و… که با فریب دادن کاربر، او را مجبور میکند تا اطلاعات شناسایی شخصی مانند شماره حساب و اطلاعات کارت بانکی، بیمه و… را به اشتراک بگذارد. امروزه درخط مقدم نبرد سایبری، کلاهبرداری‌های آنلاین نسبت به گذشته از حمله های فیشینگ پیچیده‌تری بهره می‌برند که اغلب به شکل جعل هویت اکانت‌های شبکه‌های اجتماعی پدیدار می‌شوند (مانند حساب‌های شبکه‌های اجتماعی جعلی که خود را بجای یک شرکت یا کارمند سازمان جا می‌زنند). در بسیاری از موارد، این کلاهبرداری‌ها از طریق ارسال پیام به اکانت کاربران، آنها را وادار میکنند تا به یک وب‌سایت مخرب هدایت شوند یا کاربران را متقاعد میکنند که از طریق کارت بانکی خود خرید انجام داده یا اطلاعات خود را در فرمی وارد کنند.
طی سالهای اخیر، تعداد حملات فیشینگ به طرز چشمگیری افزایش یافته است و در حال حاضر در هر ۱۱ ثانیه یک حمله جدید رخ میدهد. مظنون اصلی آنها شاخه‌ای از هوش مصنوعی به نام Natural Language Processing (NLP) به معنی راه‌حل‌های پردازش زبان طبیعی است که وظیفه آن درک متن و تشخیص کلمات گفتاری است. با کمک قابلیت‌های کاربردی و قدرتمند ابزارهای مبتنی بر هوش مصنوعی مولد و در دسترس بودن و ارزان بودن آنها، ساخت یک وب سایت برای مقاصد کلاهبرداری حرفه‌ای که از نظر کاربر هدف، مشروع و قانونی به نظر برسد از همیشه آسان‌تر است. مدیران حوزه امنیت شبکه شاهد ظهور یک زرادخانه جدیدی از تسلیحات مخرب سایبری هستند که به خرابکاران اجازه میدهد علاوه بر اینکه به طور مکرر و مؤثرتری ارتباط برقرار کنند، برای فریب کاربران نهایی معتبرتر نیز به نظر برسند. علاوه بر این ابزارهای هوش مصنوعی مولد به کلاهبرداران امکان کدنویسی با سرعت بالا و بدون خطا را ارائه می‌دهند تا زیرساخت‌های کلاهبرداری‌های دیجیتال را با نرخ‌های بی‌سابقه رشد کنند.
به عنوان مثال، اواخر سال ۲۰۲۱ پایگاه هک روسیه FIN7 که بعنوان یکی از موفقترین گروه هکری دنیا شناخته میشود، یک راهکار جعلی امنیت سایبری برای فریب دادن فروشگاه‌ها، رستوران‌های زنجیره‌ای، بخش درمانی و سازمان‌هایی به دنبال ارتقاء بخش امنیت شبکه خود بودند، به صورت جذب استعدادهای واقعی ارائه داد. متاسفانه کاربران هدف متوجه نشدند که در حقیقت هدف گسترش یک عملیات باج‌افزار بزرگ هستند.
شبیه‌سازی صدا (Voice cloning)
مدل‌های قدرتمند هوش مصنوعی و ابزارهای هوش مصنوعی مولد، چارچوبی را برای طراحی و ایجاد کلاهبرداری با سرعت و دقت بی‌نظیر در اختیار کلاهبرداران قرار داده است. ابزارهای مولد مانند ChatGPT از شرکت OpenAI به دلیل توانایی آنها در ایجاد اسکریپت‌هایی که هم از نظر گرامری دقیق هستند و هم حرفه‌ای به نظر می‌رسند برای فریب دادن مصرف کنندگان در شبکه‌های اجتماعی یا از طریق ایمیل مورد توجه قرار گرفته‌اند. با این حال، قابلیت‌های هوش مصنوعی مدرن در تولید کلاهبرداری‌های موفق بسیار فراتر از تولید اسکریپت است.
یک ابزار محبوب هوش مصنوعی در زرادخانه خرابکاران سایبری، شبیه‌سازی صدا (Voice cloning) است. در این شیوه کلاهبرداری بدون دردسر، صدای یک فرد را با استفاده از یک فایل صوتی مختصر از شبکه‌های اجتماعی دریافت و شبیه‌سازی میکنند. سپس از این صدای ایجاد شده در یک تاکتیک سنتی مرسوم به نام “اورژانس خانوادگی” که اغلب بسیار موفق است استفاده میکنند. تصور کنید فرزند شما در یک پیام‌رسان اجتماعی برای شما پیامی صوتی فرستاده مبنی بر اینکه در این لحظه نیاز مالی دارد و از شما درخواست میکند تا پول به حساب شخص دیگری واریز کنید. شبیه‌سازی صوتی (Voice cloning) تنها یکی از نمونه‌های متعدد کلاهبرداری‌های مبتنی بر هوش مصنوعی است.
آینده کلاهبرداری‌های مبتنی بر هوش مصنوعی
اکنون که متوجه شدیم پیشرفت‌های دنیای هوش مصنوعی به طور موثری فضای امنیت دیجیتال را تحت تاثیر قرار داده است، به‌گونه‌ای که مجرمان سایبری می‌توانند تهدیدات را سریعتر و با ضریب موفقیت بالاتری ایجاد و اجرا کنند، زمان آن فرا رسیده است که متخصصان امنیت سایبری یا وارد مبارزه شوند یا ریسک کنند و در معرض تهدیدات جدید قرار بگیرند.
استفاده درست از راه‌حل‌های ترکیبی امنیت سایبری مبتنی بر هوش مصنوعی و روش‌های پیشین، به مدیران حوزه امنیت شبکه، این امکان را میدهد که یک قدم جلوتر قرار بگیرند. ابزارهای مبتنی بر هوش مصنوعی AI Security، از شناسایی جعل هویت در رسانه‌های اجتماعی تا شناسایی وب‌سایت‌های کلاهبرداری، می‌توانند جریان‌های کاری کارآمدتر و تاکتیک های قوی‌تری را ایجاد کنند که منجر به افزایش ضریب موفقیت میشود. در اینجا چند یادآوری ساده وجود دارد که مدیران ارشد امنیت اطلاعات (CISO: chief information security officer) هر سازمان باید رعایت کنند:
- راه‌حل‌های امنیتی کامل و جامعی را اتخاذ کنید که تمام تهدیدات دیجیتال از جمله جعل هویت، حملات فیشینگ، جعل و غیره را بتواند پوشش دهد.
- راه‌حل‌هایی را بررسی کنید که از هوش مصنوعی برای بهبود تلاش‌های شناسایی و ردیابی استفاده میکنند که به شناسایی شبکه‌ها و مسیرهای پنهان کمک میکند.
- در بحث امنیت سایبری رویکردی فعالانه همراه با ابتکار عمل برای شناسایی زودهنگام و اصلاح داشته باشید. هر چقدر مدیران حوزه امنیت شبکه برای رسیدگی به تهدیدات تعلل کنند، بیشتر مجموعه را در معرض خطر جدی و بیشتری قرار می‌دهند.
اجرای این مراحل نسبتاً آسان در حال حاضر می‌تواند رهبران امنیتی را برای رویدادهای فعلی و آینده آماده کند و به تغییر روند در برابر کلاهبرداری‌های مرتبط با هوش مصنوعی کمک کند. از آنجایی که سرمایه‌گذاران و شرکت‌های بزرگ با تمایل بیشتری سالانه صدها میلیارد دلار در بازار هوش مصنوعی سرمایه‌گذاری میکنند، در نهایت ما باید خود را برای جهانی آماده کنیم که در آن تشخیص رفتار انسان و هوش مصنوعی از یکدیگر قابل تشخیص نیست.
