نیچر میڈیسن میں شائع ہونے والی ایک نئی تحقیق میں اوپن اے آئی کے چیٹ جی پی ٹی ہیلتھ ٹول کو 960 مختلف کلینیکل صورتحال میں آزمایا گیا۔ نتائج نے تشویش پیدا کر دی، کیونکہ سنگین طبی کیسز میں سے آدھے سے زیادہ میں یہ ٹول صارفین کو ایمرجنسی کیئر کی درست ہدایت دینے میں ناکام رہا۔
ماؤنٹ سائنائی کے محققین کے مطابق خودکشی سے متعلق الرٹس بھی غیر متوازن انداز میں سامنے آئے۔ کم خطرے والے کیسز میں الرٹ زیادہ بار فعال ہوا، جبکہ جب صارفین نے واضح طور پر خود کو نقصان پہنچانے کے ارادے بیان کیے تو بعض اوقات مناسب شدت سے ردعمل نہیں دیا گیا۔
اوپن اے آئی کے مطابق تقریباً 4 کروڑ افراد روزانہ صحت سے متعلق سوالات کے لیے چیٹ جی پی ٹی استعمال کرتے ہیں۔ اسی تناظر میں ای سی آر آئی نے 2026 کے لیے اے آئی چیٹ بوٹس کے غلط استعمال کو صحت کے شعبے کا سب سے بڑا ٹیکنالوجی خطرہ قرار دیا ہے۔
یہ تحقیق ایک اہم سوال اٹھاتی ہے۔ کیا عوامی سطح پر بڑے پیمانے پر استعمال ہونے والے اے آئی ہیلتھ ٹولز کو سخت ریگولیٹری نگرانی اور واضح وارننگ سسٹمز کی ضرورت ہے؟ کیونکہ صحت کے شعبے میں ایک چھوٹی غلطی بھی جان لیوا ثابت ہو سکتی ہے۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
