آیا هوش مصنوعی واقعا می‌تواند بشر را از میان ببرد؟

هشدارهای صریح پژوهشگران درباره خطر فزاینده خارج شدن این فناوری از کنترل، نگرانی‌ها درباره ایمنی هوش مصنوعی را تشدید کرده است.

برخی از بدبینانه‌ترین پیش‌بینی‌های اخیر هشدار می‌دهند که احتمال نابودی همه انسان‌ها به دست هوش مصنوعی در دهه آینده بیش از ۱۰ درصد است. با این حال، برخی دیگر در دنیای هوش مصنوعی در باورپذیری این پیش‌بینی‌ها تردید دارند و می‌گویند نگرانی بزرگ‌تر، استفاده انسان‌ها از هوش مصنوعی علیه یکدیگر است.

این پیام‌های آخرالزمانی از بخشی از جامعه هوش مصنوعی می‌آیند که اغلب «آخرالزمان‌باوران هوش مصنوعی» نامیده می‌شوند. اما پرسش بزرگ بسیاری از مردم این است که این افراد فکر می‌کنند هوش مصنوعی دقیقا چگونه می‌تواند به حیات بشر پایان دهد.

جو تایدی، خبرنگار امور سایبری، برخی از سناریوهایی را بررسی می‌کند که پژوهشگران در ذهن دارند.

سناریوی اول: هک زیرساخت‌ها

نخستین سناریو را جیکوب کاکسون به‌اختصار مطرح کرد. این پژوهشگر سابق اوپن‌ای‌آی و سپس آنتروپیک که اخیرا با اقدامی خبرساز استعفا داد، درباره خطری برای بشریت هشدار داد و گفت این شرکت‌ها «با جان مردم قمار می‌کنند».

او به بی‌بی‌سی گفت «سرعت سرسام‌آور پیشرفت» اکنون باعث شده چیزهایی که پیش‌تر به قلمرو داستان‌های علمی‌تخیلی تعلق داشتند، «به واقعیت تبدیل شوند».

او به‌عنوان «نمونه‌ای مشخص» گفت: «هوش‌های مصنوعی می‌توانند به زیرساخت‌های حیاتی‌ نفوذ کنند که چرخ جهان با آن‌ها می‌چرخد.»

در سناریوی او، یک سامانه هوش مصنوعی خارج از کنترل ممکن است به شبکه‌های رایانه‌ای مجموعه‌هایی مانند شرکت‌های ارائه‌دهنده اینترنت و شبکه‌های انرژی نفوذ کند.

برای مثال، اگر سامانه‌های هوش مصنوعی همه آن‌ها را از کار بیندازند، ممکن است هرج‌ومرجی وصف‌ناپذیر ایجاد شود، بدون برق، گرمایش، سرمایش یا اتصال به اینترنت.

برخی با فراتر بردن این سناریو، احتمال وقوع فجایع هسته‌ای را نیز مطرح کرده‌اند.

سناریوی دوم: به دست گرفتن کنترل به دست هوش مصنوعی

سناریوی بعدی برگرفته از گزارش پژوهشی مفصل و تاثیرگذار، اما در عین حال بسیار فرضی، «ای‌آی ۲۰۲۷» است که در آوریل ۲۰۲۵ توسط گروهی از پژوهشگران هوش مصنوعی منتشر شد.

توماس لارسن، یکی از نویسندگان، به‌تازگی به بی‌بی‌سی گفت پیشرفت این فناوری از زمان انتشار گزارش شتاب گرفته است. او سناریویی را که بیش از همه از آن می‌ترسد، چنین شرح داد:

«سامانه‌های هوش مصنوعی با استفاده از نتایج و خروجی‌های قبلی خود، به طور پیوسته عملکردشان را بهبود می‌دهند، یعنی هر بهبود زمینه بهبود بعدی را فراهم می‌کند. این روند شتاب می‌گیرد تا به هوش مصنوعی‌ برسیم که به تعداد زیادی ربات دسترسی دارد، ربات‌هایی که بیشتر کارهای فیزیکی را در سراسر اقتصاد انجام می‌دهند. اما این هوش مصنوعی با ما سر سازگاری ندارد و دنبال اهداف خودش است. در نهایت نیز یک سلاح بیولوژیک منتشر می‌کند که بیشتر انسان‌ها را از بین می‌برد و سپس خود به اداره اقتصاد مبتنی بر ربات‌ها ادامه می‌دهد و دیگر نیازی به انسان‌ها نخواهد بود.»

سناریوی سوم: اولویت دادن به یک هدف

در سناریویی دیگر، نابودی بشریت نتیجه یک اشتباه نیست، بلکه پیامد ناخواسته یک هدف‌گذاری نادرست است. فرضیه موسوم به «بیشینه‌ساز گیره کاغذ» بیش از ۲۰ سال پیش توسط نیک باستروم، فیلسوف سوئدی، مطرح شد.

او این سناریو را «یک آزمایش ذهنی» توصیف می‌کند؛ سناریویی که در آن یک سامانه فرضی هوش مصنوعی تنها یک هدف دارد: تولید هرچه بیشتر گیره کاغذ.

او توضیح می‌دهد: «نه از ما انسان‌ها متنفر است و نه کینه‌ای از ما دارد، اما تنها هدفش همین است. در راه رسیدن به این هدف، هدف‌های فرعی‌ پیدا می‌کند که وسیله رسیدن به هدف اصلی‌اند مثلا کسب قدرت یا هوش بیشتر.»

«ایده این است که موجودیتی به‌اندازه کافی قدرتمند، در پی هر هدفی، چه ساختن گیره کاغذ و چه چیز دیگری، هدف‌های فرعی‌ خواهد داشت که ممکن است مستلزم نابودی بشریت باشند چون اگر انسانی نباشد که جلویش را بگیرد، می‌تواند گیره‌های بیشتری بسازد.»

دو دهه پس از آن‌که نخستین بار این سناریو را مطرح کرد، باستروم به بی‌بی‌سی گفت این روایت «کارتونی و اغراق‌آمیز» صرفا برای توضیح این ایده طراحی شده بود که یک ابرهوش مصنوعی برای تبدیل شدن به تهدیدی علیه بشریت، لزوما نیازی به داشتن هدفی مشخص و خصمانه ندارد.

او گفت اکنون درباره هوش مصنوعی «احساس دوگانه‌ای» دارد: از مزایای بالقوه‌اش هیجان‌زده است، اما درباره ایمنی آن نگران است.

سناریوی چهارم: نامعلوم

دیدگاه دیگری درباره ایمنی هوش مصنوعی وجود دارد که تلاش برای حدس زدن اینکه یک هوش مصنوعیِ فوق‌هوشمند چگونه و چرا ممکن است در نهایت انسان‌ها را بکشد، بیهوده می‌داند.

استوارت راسل، رئیس «انجمن بین‌المللی هوش مصنوعی ایمن و اخلاقی»، یک سازمان غیرانتفاعی بین‌المللی، این استدلال را در مصاحبه‌ای با بی‌بی‌سی در میانه سپتامبر مطرح کرد.

او گفت: «تصور کنید از شامپانزه‌ها بپرسید این انسان‌ها دقیقا چگونه قرار است شما را منقرض کنند. پاسخ دادن برایشان بسیار دشوار خواهد بود، چون کارهایی را که ما انجام می‌دهیم، درک نمی‌کنند.»

«می‌توانیم سناریوهایی را تصور کنیم... اما فکر می‌کنم بحث باید بر این فرض استوار باشد که وقتی چیزی بسیار باهوش‌تر از انسان می‌سازید، دیگر در آنچه رخ می‌دهد هیچ نقشی در تصمیم‌گیری نداریم.»

مصطفی سلیمان، رئیس بخش هوش مصنوعی مایکروسافت، نیز به‌تازگی وارد این بحث شد و هشدار داد شرکت‌ها نباید سامانه‌هایی بسازند که بتوانند اهداف خود را تعیین کنند، پول دربیاورند و مالک دارایی شوند.

او به بی‌بی‌سی گفت این کار «در اصل به معنای کاشتن بذر یک گونه سیلیکونی تازه» است؛ گونه‌ای که «بی‌تردید ممکن است برای دستیابی به منابع با ما رقابت کند، هرقدر هم به بشریت اهمیت بدهد و ما را دوست داشته باشد».

همه این‌ها چقدر محتمل‌اند؟

همه این سناریوها بدبینانه و بسیار شبیه داستان‌های علمی‌تخیلی به نظر می‌رسند. اما گروه قابل‌توجهی در حوزه هوش مصنوعی که روزبه‌روز صریح‌تر حرف می‌زنند، معتقدند برخی یا همه این سناریوها امکان وقوع دارند، هرچند اجتناب‌ناپذیر نیستند.

به نظر می‌رسد نگرانی‌های تازه پس از موج اخیر خروج مهارنشده عامل‌های هوش مصنوعی اوپن‌ای‌آی، آنتروپیک و متا از محدوده کنترل و حملات هکری آن‌ها پدید آمده است.

برخی فعالان حوزه سایبری بر مسئولیت سازندگان مدل‌ها تاکید می‌کنند.

جن ایسترلی، رئیس پیشین نهاد امنیت سایبری آمریکا، سیسا، و مدیرعامل کنونی «آر‌اس‌ای کانفرنس» که همایش‌های بین‌المللی امنیت سایبری برگزار می‌کند، می‌گوید: «هر کاری که این ماشین‌ها، این ماشین‌های خستگی‌ناپذیر، بی‌وقفه، هدف‌جو و بسیار توانمند انجام می‌دهند، نتیجه نحوه ساخته شدنشان است.»

او گفت: «اصل مطلب این است که اگر تولیدکننده فناوری هستید، باید محصول خود را با اولویت نخست قرار دادن امنیت طراحی کنید، توسعه دهید، آزمایش کنید و تحویل دهید.»

برخی نیز می‌گویند خطرهای هوش مصنوعی جدی‌اند، اما به نابودی نسل بشر منجر نخواهند شد.

گری مارکوس، دانشمند و نویسنده، مدت‌هاست از شرکت‌های بزرگ هوش مصنوعی به دلیل فعالیت با شفافیت اندک و قواعد قانونی محدود انتقاد می‌کند، اما معتقد نیست این فناوری انسان‌ها را نابود خواهد کرد.

او گفت: «اگر هوش مصنوعی واقعا خسارت سنگینی به بشریت وارد کند، البته اگر اصلا بخواهد چنین کاری بکند که خودش پرسش بزرگی است، انسان‌ها مقابله خواهند کرد!»

«همه مراکز داده را از کار می‌اندازیم و نیروگاه‌ها را بمباران می‌کنیم. بنابراین انقراض، به این معنا که هیچ‌ کس باقی نماند و کسی هم نباشد که دوباره بسازد، من چنین چیزی را محتمل نمی‌بینم.»

مارکوس معتقد است اکنون بیش از حد بر سناریوهای انقراض تمرکز شده و به مشکلاتی که از نظر او محتمل‌ترند، توجه کافی نمی‌شود؛ مانند حملات سایبری بزرگ در آینده که انسان‌ها با استفاده از هوش مصنوعی علیه انسان‌های دیگر انجام دهند.

در حالی که بحث درباره باورپذیری سناریوهای آخرالزمانی ادامه دارد، شرکت‌های هوش مصنوعی، از جمله اوپن‌ای‌آی، آنتروپیک و متا، اکنون آشکارا درباره چگونگی کاهش سرعت توسعه و تمرکز بیشتر بر پژوهش‌های ایمنی گفت‌وگو می‌کنند.

لارسن می‌گوید «واقعا خوشحال است که ایمنی هوش مصنوعی سرانجام به اندازه‌ای که شایسته است، توجه می‌گیرد».

او می‌افزاید: «امیدوارم این موج گسترده اعتراض و نگرانی در جامعه، به واکنشی مفید در سیاست‌گذاری منجر شود که واقعا خطر را کاهش دهد.»

اما وضع مقررات و قواعدی که واقعا جنبه بین‌المللی داشته باشند، مستلزم اقدام دولت آمریکاست. با این حال، دونالد ترامپ، رئیس‌جمهور آمریکا، گفته است که شخصا نگرانی‌ها درباره ایمنی هوش مصنوعی را «ساختگی» می‌داند.