ایک نئی تحقیق میں انکشاف ہوا ہے کہ چیٹ جی پی ٹی سمیت تمام بڑے اے آئی چیٹ بوٹس صحیح اور غلط معلومات کے درمیان واضح طور پر فرق کرنے میں ناکام رہتے ہیں۔ اسٹینفورڈ یونیورسٹی کے محققین کی جانب سے کی گئی اس تحقیق میں بتایا گیا ہے کہ موجودہ دور کے تقریباً تمام بڑے لارج لینگوئج ماڈلز (LLMs) مسلسل غلط خبروں یا جعلی معلومات کی نشاندہی درست طریقے سے کرنے میں بری طرح ناکام ثابت ہوئے۔
تحقیق کے مطابق چونکہ اے آئی ماڈلز کا استعمال طب، قانون، صحافت اور سائنسی تحقیق جیسے حساس شعبوں میں تیزی سے بڑھ رہا ہے، اس لیے یہ مسئلہ مزید سنگین صورت اختیار کر سکتا ہے۔ ماہرین کا کہنا ہے کہ اگر اے آئی حقیقت اور افسانے کے درمیان مؤثر فرق نہ کر سکے تو یہ غلط تشخیص، غلط قانونی فیصلوں اور گمراہ کن معلومات کے پھیلاؤ کا سبب بن سکتا ہے۔
اس تحقیق میں 24 مختلف LLMs کو پرکھا گیا، اور حیران کن طور پر کوئی بھی ماڈل مستقل بنیادوں پر غلط خبر یا جھوٹے دعوے کی درست نشاندہی نہیں کر سکا۔ محققین نے اسے اے آئی کے بڑھتے ہوئے استعمال کے تناظر میں ایک پریشان کن اور قابلِ توجہ مسئلہ قرار دیا ہے۔
