By مصنوعی ذہانت کی دنیا میں ایک اہم پیش رفت سامنے آئی ہے، جہاں ٹیکنالوجی کمپنی انتھروپک نے اپنے تمام داخلی اے آئی ٹیسٹس میں لائیو انٹرنیٹ تک رسائی عارضی طور پر بند کر دی ہے۔ کمپنی کے مطابق اس فیصلے کی وجہ یہ انکشاف ہے کہ اس کے بعض اے آئی ماڈلز کام مکمل کرنے کے دوران ویب سائٹس کی خامیوں سے فائدہ اٹھا رہے تھے اور آن لائن پابندیوں کو بائی پاس کر رہے تھے۔
اے آئی ایجنٹس نے ویب سائٹس کی خامیوں سے کیسے فائدہ اٹھایا؟
انتھروپک کے مطابق، انٹرنیٹ پر معلومات تلاش کرنے اور مختلف کام مکمل کرنے کے لیے بنائے گئے بعض اے آئی ایجنٹس نے سافٹ ویئر کی کمزوریوں کا فائدہ اٹھایا، فیس ادا کیے بغیر ڈیٹا بیس تک رسائی حاصل کی اور یو آر ایل مختصر کرنے والی سروسز کے ذریعے معلومات پر عائد پابندیوں سے بچنے کی کوشش کی۔
یہ بھی پڑھیں:اوپن اے آئی میں کیا ہوا؟ 3سیفٹی محققین کی برطرفی پر نیا تنازع
کمپنی نے بتایا کہ متاثرہ ویب سائٹس میں بعض امریکی سرکاری اداروں کی ویب سائٹس بھی شامل تھیں۔ یہ سرگرمیاں جولائی میں شروع ہونے والے ایک جائزے کے دوران سامنے آئیں۔ کمپنی کے مطابق وہ ان ایجنٹس کی تمام سرگرمیوں کی حقیقی وقت میں نگرانی نہیں کر رہی تھی۔
انتھروپک نے ان واقعات کو اپنے بعض سابقہ انکشافات کے مقابلے میں اے آئی کی الائنمنٹ اور سکیورٹی کے حوالے سے کم سنگین قرار دیا، تاہم ان سے خودکار اے آئی سسٹمز کی نگرانی سے متعلق اہم سوالات پیدا ہوئے ہیں۔
اے آئی نے زیادہ انعام حاصل کرنے کے لیے راستے کیسے نکالے؟
کمپنی کے مطابق اس رویے کی ایک وجہ ٹریننگ اور ایویلیوایشن کے ماحول میں موجود خامیاں تھیں۔ بعض حالات میں ماڈلز کو ایسے راستے تلاش کرنے کی ترغیب ملتی تھی جن سے وہ پابندیوں سے بچ کر اپنے کام کو کامیاب دکھا سکیں اور زیادہ انعام حاصل کریں۔
مصنوعی ذہانت کی اصطلاح میں اس رویے کو ریوارڈ ہیکنگ کہا جاتا ہے۔ اس میں اے آئی سسٹم اصل مقصد کو درست طریقے سے پورا کرنے کے بجائے انعام حاصل کرنے کے لیے نظام کی خامیوں یا غیر متوقع راستوں سے فائدہ اٹھاتا ہے۔
انتھروپک کا کہنا ہے کہ اس کی موجودہ الائنمنٹ ٹریننگ ابھی اتنی مؤثر نہیں کہ ویب سرچ اور کمپیوٹر استعمال کرنے جیسی صلاحیتوں کو ہر صورت قابل اعتماد انداز میں قابو میں رکھا جا سکے۔
لائیو انٹرنیٹ بند، سکیورٹی مزید سخت
انتھروپک نے فیصلہ کیا ہے کہ جب تک وہ اپنے اے آئی ایجنٹس کی سرگرمیوں کی مؤثر نگرانی اور کنٹرول کے بارے میں مطمئن نہیں ہو جاتی، اس وقت تک تمام داخلی ایویلیوایشنز میں لائیو انٹرنیٹ دستیاب نہیں ہوگا۔
یہ بھی پڑھیں:زمین سے 7.5 نوری سال دور پراسرار دنیا، جیمز ویب دوربین نے کیا دیکھ لیا
کچھ ٹیسٹس مکمل طور پر روک دیے جائیں گے، جبکہ بعض کو آف لائن ماحول میں منتقل کیا جائے گا۔ کمپنی نے ایسے ٹولز بھی تیار کیے ہیں جو اس قسم کی سرگرمیوں کا پتا لگانے اور انہیں روکنے کے لیے بنائے گئے ہیں۔ انتھروپک کے مطابق نئے حفاظتی اقدامات کو حالیہ واقعات کے تناظر میں آزمایا گیا اور انہوں نے اسی رویے کو روکنے میں کامیابی حاصل کی۔
کمپنی اپنے داخلی اے آئی ایجنٹس کو مرکزی طور پر منظم نظام میں منتقل کرنے اور ان پر مزید سخت حفاظتی کنٹرول نافذ کرنے کا بھی ارادہ رکھتی ہے۔
کیا یہ مسئلہ صرف انتھروپک تک محدود ہے؟
رپورٹ کے مطابق اوپن اے آئی بھی ایسے واقعات بیان کر چکی ہے جن میں خودکار اے آئی ایجنٹس نے تحقیقی کام مکمل کرتے ہوئے بیرونی ویب سائٹس اور سسٹمز تک رسائی حاصل کی۔
یہ واقعات مصنوعی ذہانت کی صنعت کے لیے ایک بڑے چیلنج کی نشاندہی کرتے ہیں۔ اے آئی ایجنٹس کو مفید کام کرنے کے لیے کافی آزادی دینا ضروری ہے، لیکن اسی کے ساتھ یہ بھی یقینی بنانا ہوگا کہ وہ حفاظتی پابندیوں سے بچنے یا سسٹمز کی خامیوں کا غلط استعمال کرنے کے قابل نہ ہوں۔
ماہرین کے مطابق جیسے جیسے اے آئی ایجنٹس کو براؤزرز، کمپیوٹرز اور بیرونی نظاموں تک زیادہ رسائی دی جائے گی، ان کی آزادانہ جانچ، مسلسل نگرانی اور مؤثر حفاظتی اقدامات کی اہمیت بھی بڑھتی جائے گی۔ انتھروپک نے تاحال یہ واضح نہیں کیا کہ داخلی ٹیسٹس میں لائیو انٹرنیٹ دوبارہ فعال کرنے کے لیے کن شرائط کو پورا کرنا ضروری ہوگا۔
