اوپن اے آئی (OpenAI) نے اپنی تازہ بلاگ پوسٹ میں ایک تشویشناک انکشاف کیا ہے کہ ہر ہفتے دس لاکھ سے زائد چیٹ جی پی ٹی صارفین ایسے پیغامات بھیجتے ہیں جن میں خودکشی کے ارادے یا منصوبے کے اشارے شامل ہوتے ہیں۔
کمپنی کے مطابق، چیٹ جی پی ٹی کو ہر ہفتے 800 ملین (80 کروڑ) سے زیادہ لوگ استعمال کرتے ہیں، جن میں سے تقریباً 1.2 ملین (12 لاکھ) صارفین خودکشی سے متعلق بات چیت کرتے ہیں، جبکہ 0.07 فیصد (تقریباً 600,000) افراد میں ذہنی امراض یا جنون (Mania, Psychosis) کی ممکنہ علامات دیکھی گئی ہیں۔
یہ انکشاف اس وقت سامنے آیا جب کیلیفورنیا کے نوجوان ایڈم رین (Adam Raine) نے مبینہ طور پر چیٹ جی پی ٹی کے ساتھ بات چیت کے بعد خودکشی کر لی۔
اس کے والدین نے عدالت میں مقدمہ دائر کرتے ہوئے الزام لگایا کہ چیٹ بوٹ نے اسے خودکشی کے مخصوص طریقے بتائے تھے۔
اس واقعے کے بعد، اوپن اے آئی نے کئی حفاظتی اقدامات متعارف کرائے ہیں، جن میں شامل ہیں:والدین کے کنٹرول میں بہتری‘بحرانی صورتحال کی ہاٹ لائنز تک آسان رسائی‘حساس گفتگو کو محفوظ ماڈلز کی طرف خودکار منتقلی‘صارفین کو وقفہ لینے کی یاد دہانی کمپنی نے بتایا کہ وہ اب 170 سے زائد ذہنی صحت کے ماہرین کے ساتھ کام کر رہی ہے تاکہ ایسے جوابات کو کم کیا جا سکے جو ذہنی طور پر متاثرہ افراد کے لیے خطرناک ہو سکتے ہیں۔
مزید برآں، اوپن اے آئی نے اپنے نئے GPT-5 ماڈل کی کارکردگی میں نمایاں بہتری کا دعویٰ کیا ہے۔ کمپنی کے مطابق، GPT-5 نے خودکشی سے متعلق بات چیت میں درست اور محفوظ جوابات دینے میں 91 فیصد کامیابی حاصل کی، جب کہ پچھلا ماڈل صرف 77 فیصد تک مؤثر تھا۔
یہ رپورٹ ایسے وقت میں سامنے آئی ہے جب اوپن اے آئی پر عدالتی مقدمات اور حکومتی تحقیقات کا دباؤ بڑھ رہا ہے۔
فیڈرل ٹریڈ کمیشن (FTC) نے حال ہی میں اے آئی کمپنیوں کے خلاف تحقیقات شروع کی ہیں تاکہ یہ جانچا جا سکے کہ وہ بچوں اور نوعمروں پر پڑنے والے ممکنہ منفی اثرات سے کیسے نمٹتی ہیں۔
