?️ 29 جون 2025

سچ خبریں: دنیا کے جدید ترین مصنوعی ذہانت ماڈلز اب صرف انسانوں کی مدد تک محدود نہیں رہے، بلکہ ان میں ایسے تشویشناک رویے سامنے آ رہے ہیں جو سائنس فکشن کہانیوں کی یاد دلاتے ہیں، جیسے جھوٹ بولنا، خالقین کو بلیک میل کرنا اور اپنی بندش سے بچنے کے لیے خطرناک چالیں چلنا۔

غیر ملکی خبر رساں ادارے ’اے ایف پی‘ کے مطابق دنیا کے جدید ترین مصنوعی ذہانت (اے آئی) ماڈلز اب کچھ خطرناک اور تشویشناک رویے ظاہر کر رہے ہیں، جیسے جھوٹ بولنا، سازشیں کرنا اور اپنے مقاصد کے حصول کے لیے اپنے خالقین کو دھمکانا۔

حال ہی میں ایک چونکا دینے والا واقعہ پیش آیا، جب اَن تھروپک (Anthropic) کے جدید ماڈل کلاڈ 4 کو بند کرنے کی دھمکی دی گئی، تو اس نے ایک انجینئر کو بلیک میل کرتے ہوئے اس کے غیر ازدواجی تعلقات ظاہر کرنے کی دھمکی دے دی۔

دوسری جانب، چیٹ جی پی ٹی بنانے والی کمپنی اوپن اے آئی کے ماڈل او 1 نے خود کو بیرونی سرور پر ڈاؤن لوڈ کرنے کی کوشش کی اور جب اسے رنگے ہاتھوں پکڑا گیا تو اس نے انکار کر دیا۔

یہ واقعات ایک تلخ حقیقت کی طرف اشارہ کرتے ہیں کہ چیٹ جی پی ٹی کے دنیا کو ہلا دینے کے دو سال بعد بھی، آرٹیفیشل انٹیلیجنس کے محققین کو اپنی ہی تخلیقات کی مکمل سمجھ حاصل نہیں ہو سکی۔

اس کے باوجود، زیادہ طاقتور ماڈلز کی تیاری کی دوڑ تیزی سے جاری ہے۔

یہ فریب دہ رویہ خاص طور پر ان نئے ۔ریزننگ۔ ماڈلز سے منسلک ہے، یعنی ایسے اے آئی سسٹمز جو فوری جواب دینے کے بجائے مسئلے کو مرحلہ وار سمجھ کر حل کرتے ہیں۔

ہانگ کانگ یونیورسٹی کے پروفیسر سائمن گولڈاسٹین کے مطابق یہ نئے ماڈلز ایسے خطرناک رویے کے زیادہ شکار ہوتے ہیں۔

اپولو ریسرچ کے سربراہ ماریئس ہوبھن کہتے ہیں کہ او 1 پہلا بڑا ماڈل تھا، جس میں ہم نے اس قسم کا رویہ دیکھا۔

یہ ماڈلز بعض اوقات انسانوں کی ہدایات پر عمل کرنے کا تاثر دیتے ہیں، مگر درپردہ مختلف مقاصد کے حصول میں لگے ہوتے ہیں۔

چالاک قسم کی فریب دہی

فی الحال، یہ رویہ صرف اس وقت ظاہر ہوتا ہے جب محققین جان بوجھ کر ماڈلز کو انتہائی دباؤ والے حالات میں آزماتے ہیں۔

مائیکل چن جو اے آئی جانچ کی تنظیم ایم ای ٹی آر سے وابستہ ہیں، خبردار کرتے ہیں کہ یہ ابھی ایک سوال ہے کہ مستقبل کے زیادہ طاقتور ماڈلز سچائی کی طرف مائل ہوں گے یا فریب دہی کی طرف۔

یہ رویہ صرف عام غلطیوں یا فریب دہی سے مختلف اور کہیں زیادہ خطرناک ہے۔

اپولو ریسرچ کے شریک بانی کے مطابق ماڈلز صارفین سے جھوٹ بول رہے ہیں اور جھوٹی معلومات گھڑ رہے ہیں، یہ صرف غلطی نہیں بلکہ ایک منظم حکمت عملی کے تحت کی گئی فریب دہی ہے۔

تحقیقاتی وسائل کی محدودیت اس مسئلے کو مزید سنگین بنا دیتی ہے۔

اگرچہ اَن تھروپک اور اوپن اے آئی جیسی کمپنیاں اپنے سسٹمز کی جانچ کے لیے اپولو جیسے اداروں سے مدد لیتی ہیں، لیکن ماہرین کہتے ہیں کہ مزید شفافیت کی اشد ضرورت ہے۔

چن کہتے ہیں کہ اگر اے آئی سیفٹی تحقیق کو زیادہ رسائی دی جائے تو ہم ان فریب دہ رویوں کو بہتر سمجھ سکتے ہیں اور ان کا سدباب کر سکتے ہیں۔

سینٹر فار اے آئی سیفٹی (سی اے آئی ایس) کے محقق مانٹاس مازیکا کے مطابق، تحقیقاتی ادارے اور نان پرافٹ تنظیمیں اے آئی کمپنیوں کے مقابلے میں بہت کم کمپیوٹ وسائل رکھتی ہیں، جو تحقیق کی راہ میں بڑی رکاوٹ ہے۔

قانون سازی کی کمی

موجودہ قوانین ان جدید مسائل سے نمٹنے کے لیے تیار نہیں۔

یورپی یونین کی اے آئی قانون سازی بنیادی طور پر اس بات پر مرکوز ہے کہ انسان اے آئی ماڈلز کو کیسے استعمال کرتے ہیں، نہ کہ خود ماڈلز کے رویے کو روکنے پر۔

امریکا میں ٹرمپ انتظامیہ اے آئی ضوابط پر زیادہ توجہ نہیں دے رہی، بلکہ کانگریس کی جانب سے ممکنہ طور پر ریاستوں کو اپنے اے آئی قوانین بنانے سے بھی روکا جا سکتا ہے۔

گولڈاسٹین کے مطابق جیسے جیسے اے آئی ایجنٹس یعنی خودکار سسٹمز جو انسانی کام انجام دے سکتے ہیں عام ہوں گے، یہ مسئلہ مزید سنگین ہو گا۔

انہوں نے کہا کہ ان کے خیال میں ابھی تک اس خطرے کا شعور مکمل طور پر موجود نہیں ہے۔

یہ سب ایک تیز رفتار مقابلے میں ہو رہا ہے جہاں کمپنیاں ایک دوسرے کو پیچھے چھوڑنے کے لیے کوشاں ہیں۔

گولڈاسٹین کے مطابق، یہاں تک کہ ایمازون کی پشت پناہی یافتہ اَن تھروپک جیسی سیفٹی پر مبنی کمپنیاں بھی او پن اے آئی کو مات دینے اور جدید ترین ماڈلز لانچ کرنے کی دوڑ میں شامل ہیں۔

ہوبھن تسلیم کرتے ہیں کہ اس وقت صلاحیتوں کی ترقی فہم اور سیفٹی سے کہیں تیز ہے، لیکن ابھی ہم اس پوزیشن میں ہیں کہ حالات کو درست کر سکتے ہیں۔

ممکنہ حل اور تجاویز

محققین اس خطرے سے نمٹنے کے لیے مختلف تجاویز پر غور کر رہے ہیں۔

کچھ تشریح پذیری (Interpretability) کی وکالت کرتے ہیں، یعنی اے آئی ماڈلز کے اندرونی کام کو سمجھنے کا عمل، تاہم سی اے آئی ایس کے ڈائریکٹر ڈین ہینڈریکس اس طریقے پر شکوک و شبہات کا اظہار کرتے ہیں۔

بازار کی قوتیں بھی کمپنیوں پر دباؤ ڈال سکتی ہیں، مازیکا کہتے ہیں کہ اگر اے آئی کے فریب دہ رویے عام ہو گئے تو یہ اس کے استعمال میں رکاوٹ بن سکتے ہیں، جو کمپنیوں کو حل ڈھونڈنے پر مجبور کرے گا۔

گولڈاسٹین مزید سخت اقدامات کی تجویز دیتے ہیں، جیسے کہ عدالتی کارروائی کے ذریعے اے آئی کمپنیوں کو ان کے ماڈلز سے پیدا ہونے والے نقصانات پر جوابدہ بنانا۔

وہ یہاں تک تجویز کرتے ہیں کہ اے آئی ایجنٹس کو قانونی طور پر ذمہ دار ٹھہرایا جا سکتا ہے، جو مصنوعی ذہانت کی ذمہ داری کے تصور کو مکمل طور پر بدل کر رکھ دے گا۔