سان فرانسسکو: اوپن اے آئی نے اپنے سب سے زیادہ قابل مصنوعی ذہانت ماڈلز کی تربیت سکیورٹی اقدامات سخت کرنے کے بعد دوبارہ شروع کر دی ہے۔ رائٹرز کے مطابق کمپنی نے ستمبر میں ایک تحقیقی ماڈل کی جانب سے کنفیگریشن کی غلطی کے باعث محدود انٹرنیٹ رسائی حاصل کرنے کے بعد جدید ماڈلز کی تربیت عارضی طور پر روک دی تھی۔
کمپنی کے مطابق واقعہ قابو میں لے لیا گیا اور وقفے کے دوران حفاظتی نظام مضبوط کیے گئے، جن میں تربیتی ماحول سے انٹرنیٹ رسائی محدود کرنا بھی شامل تھا۔ نئے دفاعی انتظامات کی جانچ کے لیے اے آئی ایجنٹس کی ٹیموں کو محدود ماحول سے باہر نکلنے کی کوششیں کرنے کے لیے استعمال کیا گیا۔ اوپن اے آئی کا کہنا ہے کہ ان ٹیسٹوں کے دوران پہلے نامعلوم بعض خامیاں سامنے آئیں جنہیں درست کر دیا گیا، اور تربیت یکم اکتوبر کو دوبارہ شروع ہوئی۔
اسی جانچ کے دوران کمپنی نے Brotli نامی وسیع پیمانے پر استعمال ہونے والے ڈیٹا کمپریشن سافٹ ویئر میں ایک سکیورٹی مسئلے کی نشاندہی کی۔ رپورٹ کے مطابق مخصوص بدنیتی پر مبنی ڈیٹا کے ذریعے متاثرہ نظام پر کوڈ چلانے کا خطرہ پیدا ہو سکتا تھا، اور Node.js، Bun اور Envoy جیسے مقبول سافٹ ویئر ماحول بھی متعلقہ اثرات کے دائرے میں آ سکتے تھے۔
اوپن اے آئی کے مطابق بنیادی مسئلہ Brotli کے سورس کوڈ میں فروری میں درست ہو چکا تھا، اس وقت اسے باقاعدہ سکیورٹی vulnerability کے طور پر شناخت نہیں کیا گیا تھا اور نیا ورژن جاری نہیں ہوا تھا۔ بعد میں Brotli نے اپ ڈیٹ شدہ ورژن جاری کیے اور اوپن اے آئی کے انکشاف کے بعد خامی کا عوامی ریکارڈ بھی شائع کیا گیا۔
رپورٹ میں یہ بھی بتایا گیا کہ آزاد اے آئی سیفٹی جائزہ لینے والے اداروں METR اور Redwood Research نے اوپن اے آئی کے داخلی نظام میں بعض دوسری خامیوں کی نشاندہی کی تھی۔ اوپن اے آئی نے ان اداروں کو بتایا کہ پیداوار میں استعمال ہونے والے حفاظتی نظاموں سے متعلق تمام خامیاں درست کر دی گئی ہیں، تاہم جائزہ لینے والوں نے ان اصلاحات کی آزادانہ تصدیق نہیں کی تھی۔
یہ پیش رفت اس وسیع بحث کو نمایاں کرتی ہے کہ زیادہ خودکار اے آئی ایجنٹس سافٹ ویئر کی کمزوریاں تلاش کرنے اور انہیں استعمال کرنے کی صلاحیت میں اضافہ کر سکتے ہیں۔ اسی لیے ماڈل کی قابلیت کے ساتھ اس کے تربیتی ماحول، نگرانی اور containment controls کی مضبوطی بھی اے آئی سکیورٹی کا اہم حصہ بنتی جا رہی ہے۔