بیجنگ: چینی اسٹارٹ اپ مون شاٹ اے آئی نے اپنے نئے Kimi K3.1 Pro ماڈل کی جارحانہ سائبر صلاحیتوں کو جان بوجھ کر محدود کرنے کا اعلان کیا ہے، کیونکہ زیادہ خودکار مصنوعی ذہانت کے ذریعے ہیکنگ آسان اور تیز ہونے کے خدشات بڑھ رہے ہیں۔
رائٹرز کی رپورٹ، جو ایکسپریس ٹریبیون نے شائع کی، کے مطابق کمپنی نے ماڈل کی تربیت کے مواد اور reinforcement-learning ماحول سے سائبر حملوں سے متعلق مخصوص ڈیٹا نکال دیا، تاہم عمومی پروگرامنگ اور کوڈنگ کی صلاحیت برقرار رکھنے کی کوشش کی گئی۔ مون شاٹ کا کہنا ہے کہ اس کا مقصد ایسا اوپن ویٹ ماڈل جاری نہ کرنا ہے جو جارحانہ سائبر صلاحیت کی موجودہ حد کو مزید آگے بڑھا دے۔
کمپنی Kimi K3.1 Pro کو تین ٹریلین پیرامیٹر کلاس کا اپنا سب سے زیادہ قابل اوپن ویٹ ماڈل قرار دیتی ہے اور اس کے ویٹس 4 نومبر تک جاری کرنے کا منصوبہ رکھتی ہے۔ اوپن ویٹ ماڈل میں ڈویلپرز ماڈل فائلیں اپنے سسٹمز پر چلا اور تبدیل کر سکتے ہیں، جس سے تحقیق اور مقامی استعمال کے امکانات بڑھتے ہیں، لیکن مرکزی نگرانی اور بعد از اجرا حفاظتی کنٹرول نسبتاً مشکل ہو سکتے ہیں۔
مون شاٹ کے داخلی سائبر بینچ مارک پر حفاظتی تبدیلیوں والے K3.1 Pro نے 81 فیصد اسکور کیا، جبکہ اسی نوعیت کے ایسے ورژن نے 90.5 فیصد اسکور کیا جس پر خطرہ کم کرنے والی یہ پابندیاں لاگو نہیں تھیں۔ کمپنی نے اس فرق کو اس بات کا اشارہ قرار دیا کہ سائبر مخصوص تربیتی مواد فلٹر کرنے سے جارحانہ کارکردگی کم ہوئی۔ ان نتائج کی آزادانہ تصدیق نہیں ہوئی، اس لیے انہیں کمپنی کے اپنے ٹیسٹ کے طور پر دیکھنا چاہیے۔
یہ اعلان ایسے وقت آیا ہے جب حکومتیں اور ٹیکنالوجی کمپنیاں اے آئی کی مدد سے خودکار vulnerability discovery، malware generation اور طویل کثیر مرحلہ سائبر کارروائیوں کے خطرات پر زیادہ توجہ دے رہی ہیں۔ چین نے بھی حال ہی میں بعض اے آئی معاون سائبر ٹیکنالوجیز پر برآمدی کنٹرول کی تجاویز پیش کی ہیں۔
مون شاٹ کا مؤقف ہے کہ اوپن ویٹ ماڈلز دفاعی سکیورٹی میں بھی فائدہ دے سکتے ہیں، کیونکہ ادارے اپنے سافٹ ویئر اور پرانے نظاموں کی خامیاں تلاش کرنے کے لیے انہیں استعمال کر سکتے ہیں۔ تاہم ایک بار ماڈل ویٹس وسیع پیمانے پر تقسیم ہو جائیں تو اصل ڈویلپر کے لیے استعمال کی نگرانی یا پابندی نسبتاً محدود رہتی ہے، جس سے اوپن ماڈلز کی سکیورٹی پالیسی ایک اہم بحث بنی ہوئی ہے۔
