مصنوعی ذہانت کو بہتر، محفوظ اور قابلِ اعتماد بنانے والے وہ لوگ جو روزانہ ہزاروں لائنیں درست کرتے ہیں، غلطیوں کو پکڑتے ہیں اور نفرت انگیز مواد کو فلٹر کرتے ہیں، حیرت انگیز طور پر خود انہی ٹولز پر سب سے کم بھروسہ کرتے ہیں۔ یہی پچھلے دو برسوں میں دنیا کا عجیب ترین تضاد بن چکا ہے۔ وہ لوگ جن کے ہاتھوں سے یہ سسٹم پالش ہوتے ہیں، اپنی اولاد اور دوستوں کو مشورہ دیتے ہیں کہ اس ٹیکنالوجی سے دور رہیں، یا کم از کم اسے بہت زیادہ اعتماد کے ساتھ استعمال نہ کریں۔
امریکہ میں ایمیزون میکانیکل ترک پر کام کرنے والی کرسٹا پالووسکی کا واقعہ اس خوف کی پہلی جھلک ہے۔ اسے ایک سادہ سا کام ملا، ٹویٹس کو نسلی نفرت پر مبنی یا غیر نفرت انگیز کے طور پر درجہ بندی کرنا۔ ایک ٹویٹ پڑھتے ہوئے وہ تقریباً اسے بے ضرر قرار دے دیتی، مگر ایک لمحے کی ہچکچاہٹ نے اسے لفظ کے مطلب کی طرف لے گیا۔ معلوم ہوا کہ یہ لفظ دراصل ایک پرانی نسل پرستانہ گالی ہے۔ یہ احساس کہ شاید اس نے بے شمار بار ایسے مواد کو غلطی سے کلیئر کیا ہو، اسے اندر تک ہلا گیا۔ اس لمحے اسے سمجھ آیا کہ ہزاروں ریٹرز (Raters یعنی جائزہ کار)کی معمولی غلطیاں بھی کتنی بڑی سماجی قیمت بنا سکتی ہیں۔
یہ صرف ایک شخص کی کہانی نہیں۔ گوگل، اوپن اے آئی، میٹا اور دیگر کمپنیوں کے لیے کام کرنے والے درجنوں ریٹرز اسی نتیجے پر پہنچ چکے ہیں۔ وہ دیکھ رہے ہیں کہ ماڈلز کتنی بے یقینی سے غلط معلومات پیش کرتے ہیں، کس اعتماد سے فیکٹ بنا لیتے ہیں، اور کس آسانی سے حساس موضوعات پر خطرناک مشورے دے دیتے ہیں۔ بہت سے ریٹرز نے اپنے گھروں میں بچوں کے لیے جنریٹو اے آئی پر پابندی لگائی ہوئی ہے۔ ایک ریٹر نے بتایا کہ وہ اپنی دس سالہ بیٹی کو اجازت نہیں دیتی کہ وہ چیٹ بوٹس استعمال کرے، کیونکہ اسے پہلے تنقیدی سوچ سیکھنی ہے ورنہ وہ ہر جواب کو سچ مان لے گی۔
یہ اعتماد کا بحران صرف ماڈلز کے بارے میں نہیں۔ یہ ان کمپنیوں کے بارے میں بھی ہے جو انہیں بنا رہی ہیں۔ ریٹرز کہتے ہیں کہ انہیں تربیت کم ملتی ہے، ہدایات مبہم ہوتی ہیں اور وقت کی حد ناقابلِ عمل۔ انہیں حساس طبی سوالات یا نفسیاتی بحران جیسے معاملات پر بھی رائے دینی پڑتی ہے، جبکہ ان کے پاس بنیادی تربیت بھی نہیں ہوتی۔ وہ جانتے ہیں کہ ایک غلط جواب کسی کی صحت، ذہنی حالت یا زندگی پر اثر ڈال سکتا ہے، مگر ان کے پاس وقت، تنخواہ یا تربیت تینوں میں کمی ہے۔
اسی دوران نیوزگارڈ کی رپورٹ نے ایک سنگین حقیقت سامنے رکھی ہے۔ پچھلے دو سال میں بڑے چیٹ بوٹس کا غیر جواب دینے کا رجحان تیس فیصد سے صفر فیصد پر آ گیا ہے۔ یعنی اب یہ ٹولز کبھی نہیں کہتے کہ مجھے معلوم نہیں۔ اس کے بجائے وہ اندازے لگا کر جواب گھڑ دیتے ہیں۔ اسی عرصے میں ان کے غلط معلومات دہرانے کی شرح اٹھارہ فیصد سے بڑھ کر پینتیس فیصد ہو گئی۔ ماڈلز زیادہ خوداعتماد ہوئے ہیں، زیادہ درست نہیں۔
یہ صورت حال ماہرین کو فکر مند کر رہی ہے۔ جب وہ لوگ جو ماڈلز کو بہتر بنانے پر مامور ہیں، خود ان پر بھروسہ نہیں کرتے، تو عام صارف کس طرح ان پر بھروسہ کرے۔ میڈیا لٹریسی ماہرین کہتے ہیں کہ یہ واضح علامت ہے کہ کمپنیوں میں رفتار اور مارکیٹ پریشر ذمہ داری اور حفاظت پر غالب آ چکا ہے۔ ریٹرز کی رائے، وارننگز اور تجربات سسٹم پر اثر نہیں ڈال پاتے، کیونکہ ترقی کی دوڑ میں احتیاط ایک رکاوٹ سمجھی جا رہی ہے۔
ان سب کے باوجود دنیا بھر میں عوام ان ٹولز کو اعتماد سے استعمال کر رہے ہیں۔ بچے اسکول کے اسائمنٹ انہی سے بنواتے ہیں، لوگ صحت کے مشورے انہی سے لیتے ہیں، اور خبروں کی حقیقت جاننے کے لیے بھی انہی کو کھول لیتے ہیں۔ ریٹرز کہہ رہے ہیں کہ ہمیں کم از کم اتنا محتاط ہونا چاہیے کہ سسٹم سے وہی سوال کریں جن کے بارے میں ہم پہلے سے کچھ جانتے ہوں، تاکہ غلطی فوراً پکڑی جا سکے۔
آنے والا وقت اس داستان کا اصل انجام لکھے گا۔ شاید کمپنیاں واقعی اپنی رفتار کم کریں، شاید حفاظت کے معیارات سخت ہوں، یا شاید عوام کی سادگی ان غلطیوں کو نظر انداز کرتی رہے۔ لیکن یہ حقیقت کہ اس ٹیکنالوجی کے خاموش محافظ، اس کے سب سے بڑے ناقد بن چکے ہیں، آنے والے سالوں میں ہمارے اعتماد، معلومات اور آن لائن فیصلوں کو نئے سوالات کے سامنے کھڑا کر رہی ہے۔
“یہ تحریر اے آئی کی دنیا فیس بک پیج پر پوسٹ کی گئی ہے۔
