هیچ شرکت یا نهادی هنوز به قضاوت در خصوص آینده هوش مصنوعی نپرداخته است. برخی از رهبران شرکت‌های بزرگ برای استفاده‌های نوظهور از این فناوری جشن گرفته‌اند و توضیح می‌دهند که چگونه هوش مصنوعی می‌تواند امنیت سایبری را متحول کند. برخی دیگر از شرکت‌ها، رویکردی بیش از حد محتاطانه و ریسک گریز دارند و از کشف ناشناخته‌ها دوری می‌کنند. اما یک چیز قطعی است: تأثیر هوش مصنوعی بر امنیت داده‌ها، روشی را که هم اکنون مدیران ارشد امنیت شبکه در حوزه استراتژی امنیت سایبری شکل می‌دهند، برای سال‌های آینده تغییر خواهد داد. با توجه به اینکه قطار پیشرفت نوآوری‌های هوش مصنوعی با حداکثر سرعت در حال حرکت است در اینجا سه نکته کلیدی وجود دارد که رهبران امنیتی باید در نظر داشته باشند.
انقلاب هوش مصنوعی تازه شروع شده است
با وجود اینکه فن‌آوری هوش مصنوعی برای سال‌های متمادی در حال رشد و بروزرسانی بوده است، هنوز در مراحل اولیه درک طیف کاملی از کارهایی هستیم که این فناوری می‌تواند انجام دهد. از جمله موارد مورد بحث، پیامدهای طولانی‌مدت استفاده از هوش مصنوعی است در صورتی که پدیدآورندگان این تکنولوژی مسئولیت آن را نپذیرفته یا درکی از عواقب آن نداشته باشند. با اطلاع‌رسانی سریع و روزانه پیشرفت‌های جدید هوش مصنوعی، کارشناسان و مردم عادی همزمان از گسترش مرزهای آن مطلع می‌شوند. در نتیجه، این مسئولیت سنگین‌تری برای مدیران امنیت شبکه ایجاد می‌کند که به یادگیری بیشتر و عمیق‌تری در زمینه نوآوری هوش مصنوعی ادامه دهند تا بتوانند در زمان بروز تغییرات سریع مسیر را به درستی هدایت کنند.
مدیران هر مجموعه همچنین باید کارمندان‌های خود را، به ویژه آنهایی که در فضای امنیت شبکه و حفاظت داده‌ها هستند، تشویق کنند تا آنجا که می‌توانند درباره هوش مصنوعی بیاموزند تا با تمام فرصت‌هایی که که هکرها بدون شک از آن به نفع خود استفاده می‌کنند، همگام باشند. برای رویارویی با مواردی که ممکن است در یک هنگام تهدید مبتنی بر هوش مصنوعی اتفاق بیافتد، یک رویکرد همه فن حریف عملی و آمادگی کامل قبل از واقعه مورد نیاز است. در ادامه به توضیح این سه روند می‌پردازیم:
همگانی شدن هوش مصنوعی به خرابکاران فرصت‌های جدید می‌دهد
در هنگام رشد و تکامل هوش مصنوعی، یک چالش کلیدی در ادارات و سازمان‌ها، توسعه و اجرای موثر سیاست‌ها و دستورالعمل‌های استفاده مسئولانه از این فناوری است. در منشور رفتارهای سازمانی برای کارکنان یک سازمان باید مشخص شود که بعنوان مثال در چه مواردی استفاده از چت ربات‌ها مانند ChatGPT مجاز است و چه نوع داده‌هایی قابل اشتراک‌گذاری است. استفاده نادرست سازمانی از این فناوری می‌تواند منجر به پیامدهای زیانباری مانند افشای اطلاعات محرمانه یا رخنه به شبکه شود. واضح است که کارمندان سازمان‌ها ملزم به رعایت منشورها و دستورالعمل‌ها هستند و هرگونه تخلف تاوانی خواهد داشت.
متأسفانه در طرف دیگر ماجرا، هکرها تعهد مشابهی برای رعایت دستورالعمل‌های اخلاقی ندارند. در نتیجه، دسترسی آسان و همگانی به این ابزارهای نوین می‌تواند به هکرها کمک کند تا در آسیب زدن، از موقعیت بهتری برخوردار باشند. استفاده از هوش مصنوعی مولد برای ایجاد نمی‌یاب افزارهای کارآمدتر یا استفاده از LLMهای نامحدود مانند WormGPT برای ایجاد حملات فیشینگ پیچیده‌تر نمونه‌هایی از آن می‌باشد.
تهدیدات بر پایه هوش مصنوعی باعث می‌شود تا تشخیص حملات به کندی صورت پذیرد
بدون استفاده از هوشمصنوعی، پایه ریزی حملات باج افزار، نیازمند دانش بالای مهاجم در Network enumeration برای یافتن اهداف بیشتر و گسترش حمله است. Network enumeration فرایندی است که طی آن با اسکن شبکه به اطلاعاتی از جمله بازیابی نام‌های کاربری و اطلاعات گروه‌ها، موارد به اشتراک گذاشته شده و سایر اطلاعات شبکه‌ای دست می‌یابند. در اغلب موارد شخص مهاجم یک هکر حرفه است. با این وجود خطای انسانی در این حملات نیز اجنتاب ناپذیر بوده و باعث کند شدن فرایند می‌شود. همچنین این تهدیدها توسط متخصصان حوزه امنیت شبکه در اکثر مواقع قابل تشخیص است و با دستورالعمل‌های از پیش تعیین شده می‌توان آن‌ها را شناسایی یا متوقف نمود.
در مقابل، همین تهدیدها اگر توسط هوش مصنوعی مولد خلق شوند، راحت‌تر می‌توانند از فرایند شناسایی فرار کنند و با سرعت و دقت بیشتری در شبکه حرکت کرده و به اطلاعات مورد نیاز دستیابی خواهد داشت. چت‌بات‌های هوشمصنوعی مولد همچنین می‌توانند حملات فیشینگ حرفه‌ای‌تری ایجاد کنند که بیشتر شبیه به کاربر انسانی به نظر می‌رسند، بنابراین کارکنان را با سرعت و دقت بالاتری فریب می‌دهند و دسترسی هکرها را به شبکه‌هایشان را فراهم کنند.
CISOها می‌توانند از هوش مصنوعی برای ساختن آینده‌ای امن‌تر استفاده کنند
هوش مصنوعی آرام آرام چشم‌انداز تهدیدات آینده سایبری را تغییر می‌دهد. در حالی که مهاجمین از این فناوری‌های نوظهور به نفع خود استفاده می‌کنند، هوش مصنوعی همچنین می‌تواند انقلابی در شیوه‌های امنیتی ایجاد کند. CISO (Chief Information Security Officer) که رهبران ارشد امنیت داده‌ها محسوب می‌شوند، می‌توانند تیم‌های خود را برای پیاده‌سازی هوش مصنوعی و راه‌حل‌های مستقل نظارت بر نشانه‌های حمله سایبری راهنمایی کنند، به این ترتیب حتی قبل از اینکه نیروی انسانی فرصتی برای یافتن و درگیر شدن با تهدید را داشته باشد، پاسخ هوشمندانه به آن داده شده باشد. مهندسان امنیت همچنین می‌توانند از آن برای توسعه کدی استفاده کنند که به طور خودکار آسیب پذیری‌ها را بررسی می‌کند و در نتیجه یک لایه امنیتی اضافه می‌شود که خطای انسانی را پوشش می‌دهد.
هر فناوری در حال ظهور، نیاز به احتیاط و محافظت و مراقبت دارد. اگر مدیران حوزه امنیت داده و شبکه، آموزش مداوم را در اولویت قرار بدهند، درک اینکه چگونه می‌توان در برابر مجموعه‌ای از تهدیدات در حال توسعه محافظت کرد به یک استاندارد تبدیل می‌شود. فناوری جدید در صورتی که برای امنیت سایبری قوی‌تر و راه حل‌های حفاظت از داده‌ها استفاده شوند، می‌توانند به نسخه‌های مثبت آینده حوزه امنیت کمک کنند.
