اے آئی کے دھوکے
اے آئی کو لوگ ہمیشہ سچ بولنے والی مشین سمجھ لیتے ہیں، لیکن حقیقت یہ ہے کہ اس کی بہت سی باتیں محض اعتماد کے ساتھ کی گئی غلطیاں ہوتی ہیں۔ اسے ہیلوسینیشن کہا جاتا ہے۔ ہیلوسینیشن وہ لمحہ ہے جب ماڈل پورے یقین کے ساتھ غلط بات کو سچ بنا کر پیش کرتا ہے۔ مسئلہ یہ نہیں کہ اس کے پاس معلومات کم ہیں، اصل وجہ یہ ہے کہ زیادہ تر ماڈلز کو ایسے سسٹمز پر تربیت دی گئی ہے جو اندازہ لگانے پر انعام دیتے ہیں، خاموش رہنے پر نہیں۔ جس طرح ملٹی پل چوائس امتحان میں اندھا اندازہ لگانے سے بھی کبھی کبھی نمبر مل جاتے ہیں، اے آئی بھی ایسا ہی کرتی ہے۔
ایک تازہ تحقیق میں مختلف بڑے سرچ اور چیٹ ماڈلز کو خبریں دی گئیں اور ان سے اصل آرٹیکل، پبلشر اور درست لنک نکالنے کو کہا گیا۔ محققین نے جان بوجھ کر وہ ٹکڑے چنے جنہیں اگر انسان گوگل سرچ میں ڈالے تو پہلے تین نتائج میں اصل خبر فوراً مل جائے۔ لیکن جب وہی ٹکڑے ماڈلز کو دیے گئے تو حیران کن نتائج سامنے آئے۔ کئی ماڈلز پورے اعتماد کے ساتھ غلط پبلشر بتاتے رہے، غلط URL دیتے رہے، یا ایسے دعوے کرتے رہے جن کا حقیقت سے کوئی تعلق نہیں تھا۔ کچھ ماڈلز تو نوے فیصد سے زیادہ بار غلط نکلے، جبکہ چند جیسے Perplexity قدرے بہتر رہے اور بہت کم غلطیاں کیں۔ دلچسپ بات یہ ہے کہ مفت ماڈلز نے کئی جگہ اپنے مہنگے ورژنز سے بہتر کارکردگی دکھائی، جس نے یہ بحث دوبارہ زندہ کردی کہ قیمت بڑھانے سے ضروری نہیں سچائی بھی بڑھ جائے۔
ایک چیز اس تحقیق میں بہت واضح نظر آئی۔ زیادہ تر ماڈلز نے کہیں بھی یہ نہیں بتایا کہ وہ غیر یقینی ہیں۔ وہ غلط جواب کو بھی پورے یقین کے ساتھ پیش کرتے رہے۔ یہی رویہ سب سے زیادہ خطرناک ہے، کیونکہ اعتماد کے ساتھ بولا گیا غلط جواب سچ کی طرح محسوس ہوتا ہے اور اگر کوئی شخص اسے بغیر سوچے آگے بڑھا دے، تو نقصان کئی گنا بڑھ جاتا ہے۔
کاروباری دنیا میں یہ مسئلہ اور بھی سنگین ہو جاتا ہے۔ اگر کوئی لیڈر یا ایگزیکٹیو اے آئی کے جواب کو بغیر تصدیق آگے بڑھا دے تو نتیجے میں ساکھ خراب ہو سکتی ہے، مالی نقصان ہو سکتا ہے، حتیٰ کہ قانونی مسائل بھی پیدا ہوسکتے ہیں۔ اے آئی ایجنٹس میں تو خطرہ اور بڑھ جاتا ہے، کیونکہ یہ مسلسل فیصلے لیتے ہیں اور ایک غلط قدم پورے عمل کو غلط راستے پر ڈال سکتا ہے۔
حقیقت یہ ہے کہ اے آئی آج بھی مفید ہے مگر مکمل بھروسے کے قابل نہیں۔ اس کی طاقت کا فائدہ تبھی مل سکتا ہے جب انسان درمیان میں موجود رہے، معلومات کی تصدیق کرے اور فیصلوں سے پہلے حقائق کی جانچ لازمی کرے۔ مستقبل میں بہتر تربیت، مضبوط ڈیٹا سورسز اور زیادہ شفاف سسٹمز شاید ہیلوسینیشن کو کم کردیں، لیکن ابھی کے لئے احتیاط اور تصدیق ہی سب سے مضبوط ڈھال ہے۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر شیئر کی گئی ہے۔
