چرا همه در سیلیکون‌ولی هشدارهای تند درباره هوش مصنوعی را باور نمی‌کنند؟

هر سپتامبر، شماری از برجسته‌ترین مدیران اجرایی در سراسر سیلیکون‌ولی راهی هتل پالاس در سان‌فرانسیسکو می‌شوند تا در کنفرانسی که بانک سرمایه‌گذاری گلدمن ساکس برگزار می‌کند، نظر سرمایه‌گذاران را به خود جلب کنند.

در میان سخنرانی‌ها درباره رشد و بازدهی احتمالی سرمایه‌گذاری‌ها، غول‌های فناوری ناچار شدند به موضوعی دیگر نیز بپردازند: استعفای ناگهانی جیکوب کاکسون، پژوهشگر شرکت آنتروپیک.

کاکسون ۲۷ ساله که پیش از پیوستن به آنتروپیک، رقیب اصلی اوپن‌ای‌آی، در اوپن‌ای‌آی کار می‌کرد، گفت سازندگان هوش مصنوعی معتقدند این فناوری می‌تواند بشریت را نابود کند.

او گفت آنها «با جان ما قمار می‌کنند» و افزود: «این‌ها به‌زودی سامانه‌هایی فراتر از توان انسان خواهند بود که می‌توانند هر چیزی را هک کنند.»

کاکسون به‌ هیچ‌ وجه نخستین فرد از صنعت هوش مصنوعی نیست که علنا زنگ خطر را به صدا درمی‌آورد. در سال‌های اخیر، چندین استعفای خبرساز در آنتروپیک و اوپن‌ای‌آی ظاهرا به دلیل نگرانی‌های ایمنی رخ داده است. حتی برخی کارکنان کنونی آنتروپیک نیز حرف‌های کاکسون را تکرار کردند.

ایوان هابینگر، سرپرست یکی از تیم‌های آنتروپیک، در ایکس نوشت: «ما واقعا و صادقانه معتقدیم هوش مصنوعی می‌تواند همه انسان‌ها را بکشد! شخصا فکر می‌کنم احتمال آن در دهه آینده بیش از ۱۰ درصد است.»

هرچند کاکسون در نوشته‌هایش صراحتا گفت هشدارهایش «بازاریابی نیست»، برخی مدیران و سرمایه‌گذاران سیلیکون‌ولی به موج اخیر هشدارهای افراد داخل این صنعت با تردید واکنش نشان داده‌اند.

بنا بر گزارش‌ها، آنتروپیک و اوپن‌ای‌آی برای عرضه اولیه سهام خود آماده می‌شوند، عرضه‌هایی که ممکن است رکوردشکن باشند. برخی در بخش فناوری گفته‌اند شاید اظهارنظرهای تند اخیر درباره خطرات هوش مصنوعی، با هدف ایجاد هیجان و القای قدرت این محصولات مطرح شده باشد.

داریو آمودی، مدیر آنتروپیک، پس از آنکه گفت فناوری هوش مصنوعی ممکن است نیمی از مشاغل اداری و تخصصی در رده‌های ابتدایی را از میان ببرد و «هویت ما را به عنوان یک گونه به چالش بکشد»، با موجی از انتقاد روبه‌رو شد.

یکی از سخنرانان این کنفرانس، جورج اریسون، مدیرعامل گرایندر، در گفت‌وگو با بی‌بی‌سی گفت به باور او اظهارات کاکسون و برخی افراد دیگر در این هفته، نشان‌دهنده «نگاه ضدتمدنی حاکم بر آنتروپیک» است.

او این اظهارات را «خطرناک» خواند و گفت به دنبال آن‌ها به برخی مهندسان این اپلیکیشن دوست‌یابی ویژه جامعه ال‌جی‌بی‌تی‌کیوپلاس دستور داده است استفاده از فناوری آنتروپیک را متوقف کنند.

او گفت: «با توجه به مواضعی که این شرکت در اظهارنظرهای عمومی خود اتخاذ می‌کند، اتکا به کسب‌وکاری از این دست در مقام امانت‌داران سرمایه سهامداران‌مان، رفتاری مسئولانه نیست.»

آریسون گفت: «شاید واقعا به این حرف‌ها اعتقاد دارند. یا می‌شود گفت این حرف‌ها را می‌زنند چون راه بسیار خوبی برای جلب حمایت بیشتر سرمایه‌گذاران است. تنها راه توجیه این ارزش‌گذاری‌ها این است که ادعا کنند: «من همه صنایع و همه مشاغل را در اختیار خواهم گرفت و هوش مصنوعی من تمام آن کارها را انجام خواهد داد.»»

ارزش آنتروپیک در تازه‌ترین دور جذب سرمایه‌اش در اوایل امسال، ۹۶۵ میلیارد دلار برآورد شد.

بی‌بی‌سی از آنتروپیک خواسته است به این اظهارات پاسخ دهد.

آمودی در یادداشتی که منتشر کرد، خواستار کندتر شدن توسعه مدل‌های هوش مصنوعی و مقررات‌گذاری جهانی شد و گفت خطرات مرتبط با هوش مصنوعی «جدی» هستند.

چند نفر از حاضران در همایش به بی‌بی‌سی گفتند جنسن هوانگ، رئیس انویدیا، نیز در جمع درباره اظهارات کاکسون صحبت کرده است. به گفته آن‌ها، هوانگ این حرف‌ها را نادرست خوانده و رد کرده است.

هوانگ پیش‌تر گفته بود این تصور که هوش مصنوعی «به پایان بشریت منجر خواهد شد»، «کاملا بی‌معنی» است.

هرچند رونق هوش مصنوعی ممکن است برای او منفعت تجاری داشته باشد (انویدیا تراشه‌های مورد نیاز سامانه‌های هوش مصنوعی را می‌سازد) اما اظهاراتش بازتاب واکنش منفی فزاینده در سیلیکون‌ولی به هشدارهای کارکنان فعلی و سابق درباره تهدید موجودیت بشر است.

برخی منتقدان حتی آنتروپیک را به ترس‌افکنی متهم کرده‌اند، با این امید که این ترس به مقررات‌گذاری‌ منجر شود که رقبا را کنار بزند و بازار را در انحصار دوگانه این شرکت و اوپن‌ای‌آی قرار دهد.

برد گرستنر، رئیس شرکت سرمایه‌گذاری آلتیمیتر کپیتال، تصاویری از هوانگ در همایش منتشر کرد و کاکسون را به «اغراق مضحک» متهم کرد.

کلمان دولانگ، مدیرعامل پلتفرم هوش مصنوعی هاگینگ‌فیس، نیز وارد بحث شد. هاگینگ‌فیس که انویدیا اعلام کرده آن را خواهد خرید، اوایل امسال به دست عامل‌های هوش مصنوعی اوپن‌ای‌آی هک شد، اتفاقی که اعتراض‌های گسترده‌ای درباره ایمنی هوش مصنوعی برانگیخت.

او در ایکس نوشت: «پرسیدن نظر جیکوب درباره خطر انقراض بشر به دست هوش مصنوعی، مثل این است که از تعمیرکار کولرتان درباره تغییرات اقلیمی بپرسید. نمی‌گویم حرفش لزوما بی‌جاذبه یا فی‌نفسه اشتباه است، اما بیایید جایگاه این اظهارنظر را درست بسنجیم.»

گرستنر و دولانگ پس از انتشار پیشنهاد آمودی، محتاطانه‌تر موضع گرفتند. گرستنر این ایده را «گامی مهم رو به جلو» برای ایجاد تعادل میان ملاحظات متعارضی مانند سرعت و ایمنی خواند.

دولانگ نیز اعلام آمادگی کرد که در راه‌حل‌های احتمالی پیشنهادی آمودی مشارکت کند.

آیا هشدارهای درون‌سازمانی می‌تواند به محدودیت‌های سخت‌گیرانه منجر شود؟

در آوریل، آنتروپیک هنگامی جنجال گسترده‌ای در دنیای هوش مصنوعی به پا کرد که اعلام کرد ابزار «میتوس» این شرکت در برخی وظایف مرتبط با هک و امنیت سایبری عملکردی بهتر از انسان‌ها دارد.

«میتوس» همچنین توانست به‌طور مستقل از محیطی موسوم به «سندباکس» یا محیط ایزوله‌شده خارج شود؛ قابلیتی که بحثی گسترده میان نهادهای ناظر، قانون‌گذاران و شرکت‌ها درباره خطرات بالقوه هوش مصنوعی به راه انداخت.

در تازه‌ترین تحول، آنتروپیک اعلام کرد که افرادی و گروه‌هایی را شناسایی و متوقف کرده است که می‌کوشیدند از فناوری هوش مصنوعی این شرکت برای فعالیت‌هایی از جمله توسعه سلاح‌های زیستی و جاسوسی سایبری استفاده کنند.

زیر لوسترهای درخشان آویخته از گنبد شیشه‌رنگی هتل پالاس، برخی سرمایه‌گذاران به بی‌بی‌سی گفتند اظهارات کاکسون و دیگران ممکن است روند اعمال محدودیت‌های سخت‌گیرانه دولتی بر صنعت هوش مصنوعی را تسریع کند.

طرحی که این ماه با حمایت برنی سندرز، سناتور چپ‌گرای ایالت ورمانت، در کنگره آمریکا ارائه شده و با عنوان «قانون ممنوعیت ابرهوش مصنوعی» شناخته می‌شود، خواستار توقفی موقت در توسعه پیشرفته‌ترین سامانه‌های هوش مصنوعی است.

سندرز به برنامه «نیوزنایت» بی‌بی‌سی گفت: «احتمال قابل‌ توجهی وجود دارد که انسان‌ها کنترل هوش مصنوعی را از دست بدهند. بعد چه اتفاقی می‌افتد؟ هیچ‌ کس نمی‌داند. اما آیا ممکن است فاجعه‌بار باشد؟ بله، ممکن است.»

او افزود: «وقتی دانشمندان به شما می‌گویند احتمال دارد این فناوری پیامدهایی فاجعه‌بار برای بشریت داشته باشد، باید نادان باشید اگر نگویید باید سرعت توسعه آن را کم کرد.»

با این حال، اگر دولت آمریکا محدودیت‌های سخت‌گیرانه‌ای بر سراسر صنعت اعمال کند، احتمالا ابتکار آن از قانون‌گذاران خواهد بود، نه دولت ترامپ که عمدتا از توسعه بی‌قیدوبند هوش مصنوعی حمایت می‌کند. دولت این سیاست را برای جلوگیری از واگذاری برتری آمریکا به چین ضروری معرفی کرده است.

از دونالد ترامپ در گفت‌وگو با خبرنگاران پرسیده شد آیا نگران است که هوش مصنوعی به انقراض بشر منجر شود. او گفت: «نه، هیچ نگرانی‌ ندارم. نگرانی من این است که اگر در رقابت هوش مصنوعی پیروز نشویم، در موقعیت بسیار بدی قرار خواهیم گرفت. الان از چین جلوتریم.»

اما رابطه رئیس‌جمهور با آنتروپیک پرتنش بوده است. پس از آنکه این شرکت اجازه نداد ارتش آمریکا از مدل‌های هوش مصنوعی‌اش استفاده کند، کاخ سفید آن را «شرکتی چپ‌گرای افراطی و ووک» خواند و به‌عنوان خطری برای زنجیره تامین معرفی کرد، اقدامی که یک قاضی فدرال آن را غیرقانونی دانست.

دیوید ساکس که در آغاز دولت ترامپ مسئول ارشد امور هوش مصنوعی او بود، بارها به آنتروپیک حمله کرده است.

اوپن‌ای‌آی با چنین سطحی از فشار و موشکافی کاخ سفید روبه‌رو نشده است. گرگ براکمن، رئیس اوپن‌ای‌آی، هنگام عرضه مدل تازه‌ای به نام «آسترا»، رابطه شرکتش با دولت ترامپ را «مشارکتی بسیار خوب» توصیف کرد.

اوپن‌ای‌آی که در ژوئن اعلام کرد سهامش را در بورس عرضه خواهد کرد، در تازه‌ترین ارزش‌گذاری ۸۵۲ میلیارد دلار ارزش داشته است.

این شرکت به درخواست بی‌بی‌سی برای اظهارنظر پاسخ نداد.

در همایش سان‌فرانسیسکو، به نظر می‌رسید تلاش برای کسب ثروت عمدتا بر نگرانی‌های فزاینده درباره موجودیت بشر یا بیم محدودیت‌های احتمالی دولت بر هوش مصنوعی غلبه داشت.

یکی از سرمایه‌گذاران گفت منتظر انتشار فرم «اس-۱» آنتروپیک است؛ سندی که شرکت برای فروش سهام باید به نهادهای ناظر بازار اوراق بهادار ارائه کند.

پرسش اصلی او درباره شرکت ساده بود: آیا سودآور است؟

از سید شث، مدیرعامل شرکت تراشه‌سازی دی‌ماتریکس، پرسیده شد آیا می‌ترسد جهان به پایان خود نزدیک شده باشد. شرکت او همان روز در همایش قراردادی با انویدیا امضا کرده بود.

او بی‌پرده پاسخ داد: «نه.»