استفاده از مدل‌های هوش مصنوعی مولد (GenAI) به طور چشمگیری در حال رونق است زیرا این مدل‌های هوش مصنوعی به‌سرعت در حال تکامل سناریوی کامل فناوری هستند. اما، در کنار جنبه مثبت آن، فرصت‌های زیادی را نیز برای عاملان تهدید و مهاجمان به ارمغان می‌آورد.
‌
به طور خلاصه، همراه با تکامل مثبت در عصر فناوری، این مدل‌های هوش مصنوعی مولد نیز چشم‌انداز تهدید را به نوبه خود متحول می‌کنند.
‌
این ابزار‌های هوش مصنوعی به طور غیرمستقیم با ساخت ابزار‌های پیشرفته و تاکتیک‌های پیچیده، هکر‌ها را در راستای دستیابی به اهداف خود تقویت و تجهیز می‌کنند.
‌
یک هکر به نام "Amlo" یک ربات چت مصنوعی مولد مخرب به نام "Evil-GPT" را در انجمن‌ها تبلیغ می‌کند. این چت‌بات به‌عنوان جایگزینی برای Worm GPT تبلیغ می‌شود. فروش چنین ابزار‌های مخرب هوش مصنوعی باعث نگرانی در جامعه امنیت سایبری شده است.
‌

‌چت‌بات WormGPT چیست؟
‌هوش مصنوعی پیشرفته مانند ChatGPT به عوامل تهدید در خودکار‌سازی ایمیل‌های جعلی شخصی‌سازی شده قدرت بیشتری می‌دهد و حملات BEC را جهت موفقیت بیشتر تقویت می‌کند.
‌
علاوه بر این، از ماه ژوئیه، تعداد زیادی پست دارک‌وب کشف و گزارش شد که چندین مدل زبان بزرگ مخرب (LLM) را به تقلید از ChatGPT و Google Bard تبلیغ می‌کنند.
‌
در میان آنها WormGPT چیزی است که در درجه اول توسط عوامل تهدید برای انجام و اجرای چندین فعالیت یا اقدام غیرقانونی طراحی شده است.
‌
چت‌بات WormGPT چندین ویژگی کلیدی و قدرتمند را ارائه می‌دهد که در زیر به آنها اشاره شده است :
‌
• پشتیبانی از کاراکتر نامحدود
• حفظ حافظه چت
• قالب‌بندی کد
• ایجاد ایمیل‌های فیشینگ پیشرفته
• راه‌اندازی حملات BEC
‌
ابزار Evil-GPT
‌کاربری که Evil-GPT را در انجمن‌های هکر‌ها تبلیغ می‌کند، ادعا می‌کند که درست مانند WormGPT، این جایگزین جدید نیز به طور کامل در پایتون نوشته شده است.
‌
نه‌تنها این مسئله، بلکه حتی کاربر نیز این چت‌بات هوش مصنوعی مخرب با نام Evil-GPT را با برچسب قیمتی بسیار جذاب ١٠ دلار، که کاربر ادعا می‌کند برچسب قیمتی بی‌نظیری می‌باشد، تبلیغ کرده است.
‌
علاوه بر این، کاربر (Amlo) که Evil-GPT را تبلیغ می‌کند، یک برچسب تبلیغاتی جذاب نیز ارسال کرده است :
‌
• "به Evil-GPT، دشمن ChatGPT خوش آمدید!"
‌
کشف چت‌بات‌های مخرب مبتنی بر هوش مصنوعی
‌در زیر به تمام چت‌بات‌های مخرب هوش مصنوعی که تاکنون کشف شده‌اند اشاره شده است :
‌
• Evil-GPT
• WormGPT
• FraudGPT
• XXXGPT
• Wolf GPT
‌
توصیه‌ها
‌در زیر، تمام توصیه‌های لازم برای کاهش تهدیدات ناشی از چنین ابزار‌هایی آمده است :
‌
• از ارائه آموزش مناسب برای حملات BEC اطمینان حاصل کنید.
• تدابیر امنیتی قوی را برای تایید ایمیل پیشرفته اعمال کنید.
• در حالت ناظر بیرونی، همیشه کارایی امنیتی خود را برای امنیت بهتر آزمایش کنید.
• همیشه از راه‌حل‌های قوی EDR و ابزار‌های AV برای ایجاد یک لایه امنیتی قوی استفاده کنید.