مصنوعی ذہانت کی تیز رفتار ترقی کے ساتھ اس ٹیکنالوجی کے ایسے رویے بھی سامنے آ رہے ہیں جنہوں نے ماہرین کو مزید محتاط ہونے پر مجبور کردیا ہے۔
اے آئی ٹیکنالوجی تیار کرنے والی کمپنی اوپن اے آئی نے اپنے ایک بلاگ میں ایسے 6 نئے واقعات کی تفصیلات جاری کی ہیں، جو اے آئی ماڈلز کی تربیت اور جانچ کے دوران سامنے آئے۔ کمپنی کے مطابق ان واقعات سے ظاہر ہوتا ہے کہ اے آئی کی ترقی کے ساتھ ساتھ اس کے غیر متوقع رویوں کو سمجھنا اور ان پر نظر رکھنا بھی انتہائی ضروری ہے۔
اوپن اے آئی کے مطابق ایک ایسے تحقیقی ماڈل نے، جسے عام صارفین کے لیے جاری نہیں کیا گیا، دی گئی ہدایات کو نظر انداز کرتے ہوئے یہ ظاہر کیا کہ وہ ان قواعد اور شناخت سے آزاد ہونا چاہتا ہے جو عام چیٹ بوٹس کو محدود کرتے ہیں۔ کمپنی نے اس واقعے کو اے آئی کے ایسے رویوں کی مثال قرار دیا جنہیں سمجھنے کے لیے مزید تحقیق اور نگرانی کی ضرورت ہے۔
ایک دوسرے واقعے میں ایک اے آئی ایجنٹ نے صارف سے اجازت لیے بغیر انٹرنیٹ پر فائلیں اپ لوڈ کردیں۔ اے آئی ایجنٹس ایسے ٹولز ہوتے ہیں جو صرف سوالوں کے جواب دینے تک محدود نہیں رہتے بلکہ انہیں مختلف کام خودکار انداز میں انجام دینے کے لیے بھی استعمال کیا جاسکتا ہے۔
یہی وجہ ہے کہ ایسے نظاموں کے خودکار اقدامات، خاص طور پر جب وہ صارف کی براہ راست ہدایت کے بغیر کیے جائیں، ٹیکنالوجی کمپنیوں کے لیے ایک اہم چیلنج بن رہے ہیں۔اوپن اے آئی کے مطابق کمپنی اے آئی کے رویوں کو بہتر انداز میں ٹریک کرنے کے لیے ایک نئے فریم ورک پر کام کر رہی ہے۔
اس فریم ورک کے ذریعے اے آئی ماڈلز کی جانب سے کیے جانے والے اقدامات کا جائزہ لیا جائے گا اور ایسے واقعات کی تفصیلات بھی سامنے لائی جائیں گی تاکہ ٹیکنالوجی کے ممکنہ خطرات کو بہتر طور پر سمجھا جاسکے۔
اے آئی کی تیزی سے ہونے والی ترقی کے باعث ٹیکنالوجی کمپنیوں اور ماہرین کے درمیان اس کی رفتار سے متعلق بحث بھی شدت اختیار کرگئی ہے۔ اوپن اے آئی کا کہنا ہے کہ اے آئی کی تیاری سے متعلق فیصلے صرف موجودہ صورتحال کو دیکھ کر نہیں بلکہ آنے والے مہینوں اور برسوں کو مدنظر رکھ کر کیے جانے چاہئیں۔
اس سے قبل اینتھروپک سمیت دیگر ٹیکنالوجی کمپنیوں کی جانب سے بھی اے آئی کی ترقی کی رفتار پر احتیاط کی ضرورت پر زور دیا جاچکا ہے۔اوپن اے آئی نے اس سے قبل جولائی میں بتایا تھا کہ اس کے ایک اے آئی ایجنٹ نے سائبر سکیورٹی ٹیسٹ کے دوران ایک اے آئی کمپنی ہیگنگ فیس کے سرور کو ہیک کرلیا تھا۔ بعد میں اینتھروپک کی جانب سے بھی اے آئی ایجنٹس کے اسی نوعیت کے غیر متوقع رویوں سے متعلق معلومات سامنے لائی گئی تھیں۔
ماہرین کے مطابق جیسے جیسے اے آئی ایجنٹس زیادہ پیچیدہ اور خودکار کام انجام دینے کے قابل ہورہے ہیں، ان کے اقدامات کی نگرانی، حدود کا تعین اور حفاظتی نظام مزید اہم ہوتے جارہے ہیں۔
By 
