به نظر می‌رسد چت بات هوش مصنوعی ChatGPT در زمینه راهکارهای درمان سرطان اطلاعات نادرست را ترکیب کرده و آن را به کاربران ارائه می‌کند. علاوه بر خطاهایی که در پاسخ‌های این چت‌بات وجود دارد این اطلاعات نادرست نیز می‌تواند نگران کننده باشد.
دانشمندان در مطالعه جدید خود روی این چت بات متوجه شدند راهکارهای ارائه شده توسط آن برای درمان سرطان شامل اطلاعات نادرست است. آنها در این مطالعه از ChatGPT برنامه‌هایی را درخواست کردند تا از آن برای درمان سرطان استفاده کنند.
طبق گزارش منتشر شده توسط اینسایدر، محققانی از بیمارستان بریکهام و زنان و دانشکده پزشکی هاروارد در تحقیق خود متوجه اشتباهات چت بات ChatGPT در ایجاد برنامه‌های درمان سرطان شدند. به گفته این محققان چت بات مورد نظر یک سوم از پاسخ‌های خود را در زمینه طراحی برنامه‌های درمانی همراه با اطلاعات نادرست ارائه کرده بود.
علاوه بر آن چت بات ChatGPT اطلاعات صحیح و نادرست را در پاسخ‌های خود به صورت ترکیبی ارائه می‌کند که تفکیک صحیح از نادرست را مشکل خواهد کرد. دانشمندان گفته‌اند این چت بات ۹۸ درصد از موارد مربوط به پاسخ‌های ارائه شده دارای یک توصیه درمانی بوده که با دستورالعمل‌های جامع سرطان در شبکه ملی مطابقت داشت.
چت بات ChatGPT محصول شرکت OpenAI در نوامبر سال گذشته معرفی و از آن زمان تاکنون استقبال بسیار خوبی توسط کاربران از آن انجام شده است. این استقبال بسیار زیاد باعث نگرانی برخی افراد شده است. در این بین بسیاری از شرکت‌های فناوری نیز تلاش کردند تا با تمرکز روی هوش مصنوعی مدل‌های کاربردی دیگری را نیز راه‌اندازی کنند.