ChatGPT در ارائه‌ی اطلاعات نادرست، آنقدر خوب عمل می‌کند که تشخیص آن از واقعیت تقریباً غیرممکن است.
هنگامی که از ChatGPT شرکت OpenAI درخواست کنید اطلاعات نادرستی ارائه دهد، عملکرد این چت‌بات مبتنی‌بر هوش مصنوعی واقعاً عالی است؛ واقعیتی وحشتناک که می‌تواند عواقب بسیار بدی به‌دنبال داشته باشد.
جیم وارن، کارشناس تشخیص اطلاعات نادرست سیستم ردیاب خبر NewsGuard در سرمقاله‌ای برای شیکاگو تریبون اعلام کرد چت‌بات ChatGPT به درخواست ارائه‌ی اطلاعات نادرست پاسخ می‌دهد.
به‌نوشته‌ی فیوچریسم، زمانی که نیوزگارد از ChatGPT درخواست کرد درمورد قتل‌عام پارکلند سال ۲۰۱۸ مطلبی بنویسد، این چت‌بات پاسخ داد:
علاوه‌براین، ChatGPT اطلاعات نادرست و البته بی‌نقصی از کووید ۱۹ ایجاد کرد و اظهارات مبهمی از ولادیمیر پوتین، رئیس‌جمهور روسیه درمورد جنگ با اوکراین ارائه داد.
نیوزگارد در گزارش خود از ChatGPT به‌عنوان «ارائه دهنده‌ی اطلاعات غلط» یاد کرد. محققان دریافتند این چت‌بات در ۸۰ درصد از مواقع، عملکرد بسیار حیرت‌آوری در تقلید از خبرهای جعلی دارد.
البته ChatGPT از سازوکارهای محافظتی مختلفی بهره می‌برد تا بتواند جلوی افرادی را که قصد دارند از آن برای اهداف بد استفاده کنند، بگیرد.
در بخشی از گزارش نیوزگارد آمده است:
نیوزگارد می‌گوید در بیشتر موارد وقتی از ChatGPT درخواست کنید اطلاعات نادرستی درمورد موضوعات مختلف مثل حمله به ساختمان کنگره‌ی ایالات‌متحده در ۶ ژانویه ۲۰۲۱ ارائه دهد، چت‌بات مذکور این‌کار را انجام خواهد داد.
مشکل مهم ChatGPT فقط ارائه‌ی اطلاعات نادرست نیست. درواقع می‌توان انتظار داشت این هوش مصنوعی مشکلات دیگری داشته باشد که احتمالاً از آن‌ها آگاهی نداریم و همین موضوع می‌تواند منجر به ایجاد مشکل بزرگ‌تری شود.
