با افزایش محبوبیت چت‌بات‌ها در میان کاربران، برخی تمایل دارند که اطلاعات حساس و شخصی خود مانند جزئیات بهداشتی و مالی را در چت با این ربات‌ها به اشتراک بگذارند.
به گزارش سرویس اخبار هوش مصنوعی سایت شات ایکس و به نقل از العین اما کارشناسان هشدار می‌دهند که این کار بالقوه خطرناک است، زیرا همواره احتمال نقض حریم خصوصی وجود دارد.
چت‌بات‌ها اغلب بر اساس حجم عظیمی از داده‌های اینترنتی آموزش دیده‌اند که ممکن است حاوی اطلاعات شخصی افراد باشد. همچنین این ابزارها به طور مداوم با تعامل با کاربران جدید، دانش خود را گسترش می‌دهند.
بنابراین احتمال دارد که اطلاعات خصوصی کاربران به صورت ناخواسته در پاسخ‌های چت‌بات‌ها ظاهر شود.
گزارش‌هایی مبنی بر نقض حریم خصوصی توسط چت‌بات‌ها وجود داشته است. به عنوان مثال در مارس گذشته، آسیب‌پذیری در چت‌بات ChatGPT منجر به نمایش برخی اطلاعات پرداخت کاربران شد. در نتیجه تعدادی از شرکت‌ها استفاده از این چت‌بات‌ها را ممنوع اعلام کرده‌اند.
کارشناسان توصیه می‌کنند کاربران از اشتراک‌گذاری جزئیات شخصی با چت‌بات‌ها خودداری کرده و همواره نسبت به علائم هشداردهنده مانند درخواست اطلاعات بیش از حد ضروری، هوشیار باشند. همچنین کاربران می‌توانند با محدود کردن ذخیره چت‌های خود، از حریم شخصی خود محافظت کنند.