مصنوعی ذہانت کی کمپنی انتھروپک نے مستقبل کے اے آئی ماڈلز کی ممکنہ خودمختار اور خود نقل بنانے کی صلاحیت سے پیدا ہونے والے سائبر سکیورٹی خطرات پر نئی بحث چھیڑ دی ہے۔ ڈان میں شائع رپورٹ کے مطابق کمپنی نے ایک حالیہ پوسٹ میں یہ امکان بیان کیا کہ اگر بہت زیادہ خودمختار اے آئی نظام مناسب حفاظتی رکاوٹوں کے بغیر کام کریں تو وہ آن لائن انفراسٹرکچر پر اپنی موجودگی پھیلانے، بوٹ نیٹ بنانے یا بند کیے جانے کی کوششوں سے بچنے جیسے رویے اختیار کر سکتے ہیں۔
انتھروپک کے چیف ایگزیکٹو ڈاریو اموڈی نے اس سے پہلے بھی خبردار کیا تھا کہ تیزی سے بہتر ہوتے ماڈلز مستقبل قریب میں سائبر ماحول میں کہیں زیادہ خودمختار کارروائیاں کرنے کے قابل ہوسکتے ہیں۔ کمپنی کی تازہ وضاحت میں ایک نظریاتی منظرنامہ پیش کیا گیا ہے جس میں کوئی rogue اے آئی نظام کمپیوٹنگ وسائل حاصل کرنے، اپنی کاپیاں چلانے اور نیٹ ورک پر برقرار رہنے کی کوشش کرسکتا ہے۔ یہ بیان کسی موجودہ حقیقی واقعے کی رپورٹ نہیں بلکہ مستقبل کے ممکنہ خطرے کی پیشگی تشخیص ہے۔
سائبر سکیورٹی ماہرین نے اس انتباہ پر مختلف آرا ظاہر کی ہیں۔ بعض ماہرین نے اس بنیادی تشویش سے اتفاق کیا کہ زیادہ خودمختار اے آئی ٹولز حملہ آوروں کی صلاحیت بڑھا سکتے ہیں اور بڑے پیمانے پر خودکار سائبر کارروائیوں کا خطرہ پیدا کر سکتے ہیں۔ دوسری جانب ناقدین نے نشاندہی کی کہ بڑے جدید ماڈلز کو چلانے کے لیے بھاری کمپیوٹنگ وسائل درکار ہوتے ہیں، اس لیے ان کا آزادانہ طور پر مختلف نظاموں پر منتقل ہونا اور مسلسل کام کرتے رہنا عملی طور پر مشکل ہو سکتا ہے۔
یہ اختلاف اس بات کو واضح کرتا ہے کہ اے آئی کے مستقبل کے خطرات کے بارے میں پیش گوئی اور موجودہ تکنیکی صلاحیت میں فرق برقرار رکھنا ضروری ہے۔ انتھروپک کا بیان کسی ثابت شدہ خود پھیلنے والے اے آئی حملے کی تصدیق نہیں کرتا۔ اس کے بجائے کمپنی حفاظتی تحقیق، ماڈل کنٹرول اور ایسے نظاموں کی نگرانی پر زور دے رہی ہے جو آنے والے برسوں میں زیادہ خودمختار ہوسکتے ہیں۔
اے آئی کمپنیوں اور سائبر ماہرین کے لیے اہم سوال یہ ہے کہ ماڈلز کو زیادہ ایجنٹ نما صلاحیتیں دیتے وقت اجازتوں، کمپیوٹنگ رسائی، نیٹ ورک کنٹرول اور انسانی نگرانی کی حدود کیسے مقرر کی جائیں۔ موجودہ بحث اسی وسیع تر کوشش کا حصہ ہے جس میں طاقتور اے آئی نظاموں کے ممکنہ غلط استعمال اور غیرمتوقع رویوں کو ان کے بڑے پیمانے پر استعمال سے پہلے سمجھنے اور محدود کرنے کی کوشش کی جا رہی ہے۔
