سان فرانسسکو: مصنوعی ذہانت کی کمپنی اینتھروپک کے محقق جیکب کاکسن نے اے آئی کی تیز رفتار ترقی اور حفاظتی خطرات پر تشویش ظاہر کرتے ہوئے استعفیٰ دے دیا ہے۔ کاکسن نے گزشتہ تین برس اوپن اے آئی اور اینتھروپک میں پری ٹریننگ تحقیق پر کام کیا، یعنی ایسے مرحلے پر جہاں نئے اے آئی ماڈلز کو بڑے پیمانے کے ڈیٹا سے بنیادی صلاحیتیں سکھائی جاتی ہیں۔
کاکسن نے سوشل میڈیا پلیٹ فارم ایکس پر اپنے استعفے کا اعلان کرتے ہوئے دونوں کمپنیوں کے رویے کو غیر ذمہ دارانہ قرار دیا اور کہا کہ صنعت خود بہتر ہونے والی انتہائی طاقتور مصنوعی ذہانت کی جانب دوڑ رہی ہے۔ انہوں نے خدشہ ظاہر کیا کہ مستقبل کے نظام سائبر سکیورٹی، سائنسی تحقیق اور وسائل حاصل کرنے کی صلاحیت میں انسانوں سے کہیں آگے جا سکتے ہیں۔ یہ ان کے ذاتی اور پیشہ ورانہ خدشات ہیں، کسی ثابت شدہ مستقبل کے نتیجے کی پیش گوئی نہیں۔
وال اسٹریٹ جرنل نے کاکسن کے استعفے کو اینتھروپک کے کسی ملازم کی جانب سے اے آئی سیفٹی خدشات پر کمپنی چھوڑنے کی ابتدائی نمایاں مثالوں میں شمار کیا۔ کاکسن نے دعویٰ کیا کہ صنعت کے اندر متعدد تحقیق کار اور عہدیدار نجی گفتگو میں انتہائی طاقتور اے آئی کے ممکنہ وجودی خطرات سے خوف کا اظہار کرتے ہیں۔ تاہم خطرے کے امکان اور ٹائم لائن پر اے آئی برادری میں وسیع اختلاف پایا جاتا ہے۔
اینتھروپک خود کو اے آئی سیفٹی اور قابل اعتماد ماڈلز کی تیاری پر زور دینے والی کمپنی کے طور پر پیش کرتی رہی ہے، جبکہ اوپن اے آئی بھی اپنے جدید ماڈلز کے لیے حفاظتی جانچ، رسک فریم ورک اور تعیناتی کی پابندیوں کا ذکر کرتی ہے۔ کاکسن کی تنقید کا مرکزی نکتہ یہ ہے کہ ان کے خیال میں حفاظتی اقدامات صلاحیتوں کی ترقی کی رفتار کے مقابلے میں ناکافی ہیں۔
یہ استعفیٰ ایسے وقت سامنے آیا ہے جب جدید اے آئی ماڈلز زیادہ خودکار ایجنٹ، کوڈنگ، تحقیق اور ویب پر کام کرنے کی صلاحیت حاصل کر رہے ہیں۔ پالیسی سازوں اور ماہرین کے سامنے بنیادی سوال یہ ہے کہ ماڈلز کی صلاحیتوں میں اضافہ جاری رکھتے ہوئے غلط استعمال، خودمختار غیر مطلوب رویے اور انتہائی کم امکان مگر بڑے نقصان والے خطرات کے لیے کس سطح کی جانچ، نگرانی اور ضابطہ ضروری ہوگا۔
