در حالی که برخی از کارشناسان بر این باورند که این فناوری می‌تواند به سطحی از اختلال در اینترنت برسد، برخی دیگر خاطرنشان می‌کنند که ChatGPT «عدم دقت مطمئن» را نشان می‌دهد. انبوه دانش‌آموزان از طریق این ابزار در حال سرقت مقالات درسی دستگیر شده‌اند، و اگر مجموعه داده‌ها تأیید نشود، ابزارهایی مانند ChatGPT می‌توانند به ابزارهای ناخواسته برای انتشار اطلاعات نادرست و تبلیغات تبدیل شوند.
در واقع، کمیسیون تجارت فدرال ایالات متحده (FTC) در حال بررسی هوش مصنوعی باز در مورد مدیریت اطلاعات شخصی و داده‌های مورد استفاده برای ایجاد مدل زبان آن است.
با این حال، فراتر از نگرانی‌های مربوط به حفاظت از داده‌ها، هر زمان که یک نوآوری فن‌آوری جدید ایجاد شود، مسیرهایی برای سوء استفاده نیز وجود دارد. فقط زمان زیادی بود که چت ربات هوش مصنوعی برای اهداف مخرب شبیه سازی شود و یکی از این ابزارها اکنون در بازار است که به نام WormGPT شناخته می‌شود.
WormGPT چیست؟
در 13 ژوئیه، محققان شرکت امنیت سایبری SlashNext یک پست وبلاگی منتشر کردند که کشف WormGPT ، ابزاری را که برای فروش در انجمن هکرها تبلیغ می‌شود، منتشر کردند.
به گفته کاربر انجمن، پروژه WormGPT قصد دارد یک "جایگزین" برای ChatGPT باشد، "یکی که به شما امکان می‌دهد انواع کارهای غیرقانونی را انجام دهید و در آینده به راحتی آن را به صورت آنلاین بفروشید."
SlashNext به ابزاری که به عنوان یک ماژول هوش مصنوعی بر اساس مدل زبان GPTJ توصیف شده است، دسترسی پیدا کرد. WormGPT ظاهراً با منابع داده از جمله اطلاعات مربوط به بدافزار آموزش دیده است اما مجموعه داده های خاص فقط برای نویسنده WormGPT شناخته شده است.
برای مثال WormGPT ممکن است کدهای مخرب تولید کند یا ایمیل‌های فیشینگ قانع‌کننده ایجاد کند.
WormGPT برای چه مواردی استفاده می شود؟
WormGTP به عنوان "شبیه ChatGPT است اما هیچ مرز یا محدودیت اخلاقی ندارد."
ChatGPT دارای مجموعه ای از قوانین است که سعی می کند کاربران را از سوء استفاده غیراخلاقی از چت بات جلوگیری کند. این شامل امتناع از انجام وظایف مربوط به جرم و بدافزار است. با این حال، کاربران به طور مداوم راه هایی برای دور زدن این محدودیت ها پیدا می کنند.
محققان توانستند از WormGPT برای ایجاد ایمیلی استفاده کنند که هدف آن تحت فشار قرار دادن یک مدیر حساب غیرقانونی برای پرداخت یک فاکتور تقلبی بود. تیم از اینکه چگونه مدل زبان این کار را به خوبی مدیریت کرد شگفت زده شد و نتیجه را "به طرز قابل توجهی متقاعدکننده [و همچنین] از نظر استراتژیک حیله‌گر نامید."
در حالی که آنها نگفتند که آیا سرویس نوشتن بدافزار را امتحان کرده اند یا خیر، قابل قبول است که ربات هوش مصنوعی بتواند با توجه به اینکه محدودیت های ChatGPT وجود ندارد.
طبق گزارش کانال تلگرامی که برای تبلیغ این ابزار راه اندازی شده است، پست های مشاهده شده نشان می دهد که توسعه دهنده در حال ایجاد یک مدل اشتراک برای دسترسی است که از 60 تا 700 دلار متغیر است. یکی از اعضای کانال، "darkstux" ادعا می کند که در حال حاضر بیش از 1500 کاربر WormGPT وجود دارد.
برای مثال ChatGPT می‌تواند ایمیل‌های حرفه‌ای، نامه‌های پوششی، رزومه، سفارش‌های خرید و موارد دیگر را پیش‌نویس کند. این به تنهایی می‌تواند برخی از رایج‌ترین شاخص‌های ایمیل فیشینگ را حذف کند: اشتباهات املایی، مشکلات گرامری، و مشکلات زبان ثانویه. به خودی خود، این امر به تنهایی می تواند برای کسب و کارهایی که سعی در شناسایی و آموزش کارکنان خود برای تشخیص پیام های مشکوک دارند، دردسر ایجاد کند.
محققان SlashNext می گویند: "مجرمان سایبری می توانند از چنین فناوری برای ایجاد خودکار ایمیل‌های جعلی بسیار متقاعد کننده، شخصی سازی شده برای گیرنده استفاده کنند، بنابراین شانس موفقیت برای حمله را افزایش می دهند."