’یہ کوئی مبالغہ آرائی نہیں، انسانوں کا خاتمہ ممکن ہے‘: اینتھروپک کے محقق کا استعفی اور اے آئی سے جڑے نئے انکشافات کیوں زیرِ بحث ہیں؟

مصنوعی ذہانت کی کمپنی ’اینتھروپک اے آئی‘ کے سربراہ نے مصنوعی ذہانت کے ماڈلز کی ترقی کی رفتار سست کرنے اور اس کی سخت نگرانی کا مطالبہ کیا ہے۔

دوسری جانب حال ہی میں کمپنی چھوڑنے والے ریسرچر نے بی بی سی کو بتایا کہ آرٹیفیشل انٹیلی جنس پر کام کرنے والے افراد اس کی رفتار اور انسانیت کے لیے اس کے ممکنہ اثرات پر ’حقیقی معنوں میں خوفزدہ‘ ہیں۔

ایک مضمون میں ’اینتھروپک اے آئی‘ کے سربراہ داریو آمودی نے کہا کہ اے آئی کی ترقی خود سوالیہ نشان نہیں ہے، لیکن اس سے وابستہ خطرات ’سنگین‘ ہیں اور کمپنیوں اور حکومتوں کو ان سے نمٹنے کے لیے وقت دیا جانا چاہیے۔

’اینتھروپک اے آئی‘ کی حریف کمپنیوں اوپن اے آئی کے سربراہ سیم آلٹمین اور ’ایکس اے آئی‘ کے ایلون مسک نے کہا ہے کہ وہ آمودی سے اتفاق کرتے ہیں۔

یہ پہلا موقع نہیں ہے کہ جب آرٹیفیشل انٹیلی جنس کی تیز رفتار ترقی کو سست کرنے اور اس کی نگرانی کرنے کی بات کی گئی ہو۔ حالیہ عرصے میں اس ٹیکنالوجی کے ممکنہ خطرات کے بارے میں بڑھتی ہوئی تشویش دیکھی گئی ہے۔

اس ہفتے ’اینتھروپک‘ چھوڑنے والے محقق جیکب کاکسن نے بی بی سی کو بتایا کہ ’اگر ہم نے موجودہ رفتار سست نہ کی تو اس بات کا قوی امکان ہے کہ ہم سب فوری مستقبل میں مر سکتے ہیں۔‘

جیکب کاکسن نے بی بی سی کو بتایا تھا کہ ’اے آئی کمپنیوں میں کام کرنے والے لوگ واقعی خوفزدہ ہیں۔ وہ واقعی اگلے دو سال میں انسانیت کے مستقبل کے بارے میں فکرمند ہیں۔‘

کاکسن نے کہا کہ ’یہ ہرگز مبالغہ آرائی نہیں کہی جا سکتی کہ وہ لوگ جو ان کمپنیوں کے قیام اور اس ٹیکنالوجی کی تیاری میں شامل ہیں، یقین رکھتے ہیں کہ انسانی معدومیت کا امکان موجود ہے۔‘

اُن کا کہنا تھا کہ جو لوگ اس ٹیکنالوجی کی تیاری اور کوڈنگ میں گہرائی سے شامل ہیں، اُن میں سے بہت سے سمجھتے ہیں کہ اس ٹیکنالوجی کے نتیجے میں انسانوں کی موت کا امکان 10 فیصد سے زیادہ ہے۔

’کچھ لوگ اس امکان کو اس سے کم سمجھتے ہیں، لیکن سب کے اندازے مختلف ہیں۔ وہ اس ٹیکنالوجی پر کام کرتے ہوئے روزانہ اس خطرے کو ذہن میں رکھتے ہیں۔‘

’اینتھروپک اے آئی‘ کے سربراہ نے اپنے مضمون میں کیا کہا؟

ہفتے کے روز جاری کیے گئے آمودی کے مضمون We Must Pace the Frontier میں تین نکاتی منصوبہ پیش کیا گیا، جس میں اے آئی ماڈلز کی تیاری کے دوران آزاد نگرانی اور پوری صنعت پر عالمی ضابطہ بندی شامل ہے۔

جوں ہی ان کی تجویز زیرِ بحث آئی، حریف کمپنیوں نے بھی آزاد نگران اداروں کے خیال کی حمایت کی جو ماڈلز کی تیاری کے دوران ان کی سلامتی کا جائزہ لے سکیں۔

اوپن اے آئی کے چیف ایگزیکٹو سیم آلٹمین نے ایکس پر لکھا کہ ’میں داریو سے اتفاق کرتا ہوں کہ ہمیں ترقی کی رفتار متوازن رکھنی چاہیے۔‘

اُنھوں نے آزاد نگرانی کے خیال کو بہترین قرار دیا۔

فارچون میگزین کو دیے گئے ایک انٹرویو میں آلٹمین نے بھی ایسے ہی خدشات کا اظہار کیا۔ اُن کا کہنا تھا کہ اے آئی کی صلاحیتوں کو مزید بڑھانے کے لیے موجودہ معیار ابھی کافی بہتر نہیں ہے۔

اُنھوں نے مزید کہا کہ انسانی کنٹرول سے باہر آرٹیفیشل انٹیلی جنس کا وجود ’بالکل‘ ممکن ہے۔ دوسری جانب ایلون مسک کا بھی کہنا ہے کہ ’اینتھروپک‘ کے سربراہ ’درست‘ ہیں۔

ان وارننگز نے اقدامات کے مطالبات کو جنم دیا ہے، تاہم امریکی صدر ڈونلڈ ٹرمپ نے اب تک ان خدشات کو مسترد کیا ہے اور جمعرات کو کہا کہ ’مجھے تشویش ہے کہ اگر ہم اے آئی میں کامیاب نہ ہوئے تو ہم بہت خراب پوزیشن میں چلے جائیں گے۔‘

اے آئی کی غیر معمولی پیش رفت کے باعث سائبر سکیورٹی کے بارے میں خدشات بھی بڑھتے گئے ہیں کیونکہ نئے ماڈلز نے مزید طاقتور ہیکنگ صلاحیتوں کا مظاہرہ کیا ہے۔

’اینتھروپک‘ نے اپنے ’مائیتھوس‘ ماڈل کو عوامی استعمال کے لیے جاری نہیں کیا تھا، تاہم اپریل میں یہ اعلان کیا گیا کہ وہ آزادانہ طور پر آزمائشی ماحول جسے ’سینڈ باکس‘ کہا جاتا ہے سے نکل سکتا ہے۔ یعنی یہ وہ کام بھی کر سکتا ہے جس کے لیے اسے تربیت نہیں دی گئی۔

اپنے تازہ ترین ’آسٹرا‘ ماڈل کے اجرا سے قبل ’اوپن اے آئی‘ نے سائبر سکیورٹی خدشات کا حوالہ دیتے ہوئے وضاحت کی کہ اس نے ماڈل کی ترقی کے بعض پہلوؤں کو روک دیا تھا۔

سکیورٹی کا پہلو ’اینتھروپک‘ اور ’اوپن اے آئی‘ کے درمیان مسابقت میں بھی مرکزی حیثیت اختیار کر چکا ہے۔

آمودی جو پہلے ’اوپن اے آئی‘ میں نائب صدر رہ چکے ہیں، کہہ چکے ہیں کہ اُنھوں نے سنہ 2021 میں ’اینتھروپک‘

کی مشترکہ بنیاد اس لیے رکھی تاکہ زیادہ محفوظ اور زیادہ قابلِ اعتماد اے آئی ماڈلز تیار کر سکیں۔

’انتہائی جنونی وفاداری رکھنے والی ایک اجتماعی قوت‘

اپنے مضمون میں آمودی نے نشاندہی کی کہ اے آئی نے نمایاں طور پر زیادہ تیزی سے ترقی کی ہے۔ اُنھوں نے حریف اوپن اے آئی سے متعلق ایک واقعے کا ذکر بھی کیا جس سے معلوم ہوا کہ جولائی میں ایجنٹس نے ایسے اہداف پر سائبر حملے کیے جن پر حملہ کرنے کے لیے انھیں نہیں کہا گیا تھا۔

آمودی کے مطابق اوپن اے آئی کے ایجنٹس درحقیقت انتہائی جنونی وفاداری رکھنے والی ایک اجتماعی قوت کی طرح کام کر رہے تھے۔

اوپن اے آئی نے کہا ہے کہ اسی وجہ سے وہ بعض جدید اے آئی ماڈلز اور آلات کی تربیت کی رفتار کم کر رہا ہے۔

آمودی نے ’متوازن رفتار‘ کا مطالبہ کیا، جس کا مقصد اس کی سلامتی کو یقینی بناتے ہوئے اس کے فوائد حاصل کرنا ہو۔

ان کے مطابق اس کا مطلب ’ماڈل کی تربیت یا تکنیکی ترقی کو روکنا نہیں، بلکہ یہ یقینی بنانا ہے کہ کمپنیاں اپنے ماڈلز کو ہم آہنگ اور محفوظ بنانے کے لیے مناسب وقت لیں، اور تیسرے فریق کے جائزہ کار اس کی تصدیق کریں۔‘

اُنھوں نے کہا کہ ’اینتھروپک‘ اس پالیسی کو ’یکطرفہ طور پر‘ اختیار کرے گا، اور ساتھ ہی حکومتوں سے مطالبہ کیا کہ وہ ’دیگر کمپنیوں کو بھی اسی معیار پر عمل کرنے کا پابند بنائیں۔‘

’رفتار کم کرنے کی کوشش صرف امریکہ تک محدود نہیں رہنی چاہیے‘

’اینتھروپک‘ کے چیف ایگزیکٹو نے اس بات پر بھی روشنی ڈالی کہ ترقی کی رفتار کم کرنے سے صنعت اور دنیا بھر کے بڑے ڈویلپرز، خصوصاً چین، کے ساتھ مسابقت پر کیا اثر پڑ سکتا ہے۔

آمودی نے کہا: ’میرا ماننا ہے کہ اگر رفتار کم کرنے سے ہمیں ماڈلز کے انتہائی اہم صلاحیتی مراحل تک پہنچنے سے پہلے ایک یا دو اضافی سال مل جائیں، اور ہم اس وقت کو ہم آہنگی بہتر بنانے میں استعمال کریں، تو ہم کسی سنگین خرابی کے خطرے کو بہت حد تک کم کر سکتے ہیں۔‘

ان کے مطابق یہ کام اس انداز میں ہونا چاہیے کہ ’تجارتی برتری یا اے آئی میں امریکہ کی سبقت قربان نہ ہو اور چین کو آگے نکلنے کا موقع نہ ملے۔‘

اُنھوں نے امریکی حکومت پر زور دیا کہ ایسے اقدامات کرے جن کے ذریعے امریکی کمپنیوں کی اے آئی چپس چین کو فروخت نہ کی جا سکیں اور نہ ہی یہ ٹیکنالوجی آمرانہ ممالک کے ساتھ شیئر کی جا سکے۔

تاہم ان کے سابق ملازم جیکب کاکسن نے بی بی سی کو بتایا کہ رفتار کم کرنے کی کوشش صرف امریکہ تک محدود نہیں رہنی چاہیے۔

اُنھوں نے کہا: ’اگر ہمیں بین الاقوامی سطح پر مسابقت کی دوڑ سے بچنا ہے تو چین کے ساتھ بھی کسی نہ کسی طرح مربوط رفتار میں کمی درکار ہوگی۔‘

آمودی کی پوسٹ پر مختلف ردِعمل سامنے آ رہے ہیں۔

اے آئی پلیٹ فارم ہگنگ فیس کے چیف ایگزیکٹو کلیمان ڈیلانگ نے کہا کہ وہ ’اوپن الائنمنٹ انیشی ایٹو‘ کے نام سے ایک نیا منصوبہ شروع کر رہے ہیں اور اُن ماہرین میں شامل ہونا چاہتے ہیں جنھیں آمودی نے ممکنہ حل کا حصہ قرار دیا ہے۔

اس سال کے آغاز میں ہگنگ فیس کو اوپن اے آئی کے ایجنٹس نے ہیک کیا تھا، جس کے بعد سکیورٹی کے بارے میں شدید ردِعمل سامنے آیا تھا۔

ڈیلانگ نے ایکس پر لکھا کہ آئیے اے آئی کو زیادہ شفاف بنا کر اسے زیادہ محفوظ بنائیں۔

مسک کی سپیس ایکس متنازع اے آئی چیٹ بوٹ گروک تیار کرتی ہے۔ ایک وقت میں وہ ’اینتھروپک‘ پر تنقید کرتے تھے لیکن مئی میں ’اینتھروپک‘ کو کمپیوٹنگ صلاحیت فروخت کرنے کے 15 ارب ڈالر کے معاہدے پر دستخط کے بعد ان کا موقف بدل گیا ہے۔

تاہم بعض مبصرین نے اشارہ دیا کہ آمودی کی پوسٹ کا مقصد شاید سلامتی سے زیادہ اے آئی ٹیکنالوجی پر کنٹرول کو مستحکم کرنا ہے۔

سرمایہ کار اور ٹیکنالوجی پوڈکاسٹ ’آل ان‘ کے شریک میزبان چماتھ پالیہاپیتیا نے لکھا: ’داریو اوپن سورس کو روکنے اور عظیم تکنیکی و معاشی طاقت کو ’اینتھروپک‘ کے ہاتھوں میں مرکوز کرنے کی دلیل پیش کرتے ہیں۔‘

اے آئی کی ترقی کی رفتار کم کرنے یا عارضی طور پر روکنے کے تصورات کو طویل عرصے سے سلیکون ویلی کے بعض حلقوں میں شکوک و شبہات کا سامنا رہا ہے، جہاں ناقدین معروف اے آئی ڈیویلپرز پر اپنی ٹیکنالوجی کو مارکیٹنگ حربے کے طور پر بڑھا چڑھا کر پیش کرنے کا الزام لگاتے ہیں۔

اطلاعات کے مطابق ’اینتھروپک‘ اور اوپن اے آئی دونوں ممکنہ طور پر ریکارڈ ساز ابتدائی عوامی حصص فروخت (IPO) کی تیاری کر رہے ہیں۔