مدیرعامل آنتروپیک خواستار کاهش سرعت توسعه هوش مصنوعی شد

مدیر شرکت هوش مصنوعی آنتروپیک خواستار کاهش سرعت توسعه مدل‌های هوش مصنوعی و نظارت دقیق بر آن‌ شده است.

داریو آمودی در مقاله‌ای که به‌صورت آنلاین منتشر کرده، نوشته است که بحث بر سر متوقف کردن توسعه هوش مصنوعی نیست، اما خطرات مرتبط با آن «جدی» است و باید به شرکت‌ها و حکومت‌ها فرصت داده شود تا برای مقابله با این خطرات اقدام کنند.

مدیران دو شرکت رقیب در حوزه هوش مصنوعی، سم آلتمن از اوپن‌ای‌آی و ایلان ماسک بنیان‌گذار ایکس‌ای‌آی اعلام کرده‌اند که با نظر آمودی موافق‌اند.

در ماه‌های اخیر نگرانی‌ها درباره خطرات احتمالی این فناوری افزایش یافته است. یکی از محققان هوش مصنوعی که آنتروپیک را ترک کرده، به بی‌بی‌سی گفت: «اگر با توجه به سرعت فعلی پیشرفت، روند توسعه را کاهش ندهیم، احتمال زیادی وجود دارد که در آینده‌ای نزدیک همه ما جان خود را از دست بدهیم.»

جیکوب کاکسون گفت افرادی که در شرکت‌های هوش مصنوعی کار می‌کنند «واقعاً وحشت‌زده‌اند... و عمیقا نگران سرنوشت بشریت در دو سال آینده هستند.»

کاکسون گفت: «این به هیچ‌وجه اغراق نیست که بگوییم افرادی که در تأسیس این شرکت‌ها و ساخت این فناوری نقش دارند، معتقدند احتمال انقراض بشر وجود دارد.»

آمودی در مقاله خود با عنوان «باید سرعت پیشرفت در مرزهای هوش مصنوعی را کنترل کنیم» که روز شنبه منتشر شد، طرحی سه ماده‌ای پیشنهاد کرده است. این طرح شامل نظارت مستقل بر مدل‌های هوش مصنوعی در جریان توسعه آن‌ها، وضع مقررات در سراسر این صنعت و همچنین مقررات جهانی است.

با مطرح شدن این پیشنهاد، حتی رقبای آنتروپیک نیز از حضور ناظران مستقل برای ارزیابی ایمنی مدل‌های هوش مصنوعی در مراحل توسعه حمایت کردند.

سم آلتمن، مدیرعامل اوپن‌ای‌آی، در شبکه اجتماعی ایکس نوشت: «با داریو موافقم که باید سرعت پیشرفت در مرزهای هوش مصنوعی را کنترل کنیم.» او استفاده از ارزیاب‌های مستقل را «ایده‌ای عالی» توصیف کرد.

آلتمن نیز در مصاحبه‌ای تازه نگرانی‌های مشابهی را درباره ایمنی هوش مصنوعی مطرح کرد. او به مجله «فورچون» گفت معیارهای موجود هنوز در سطحی نیستند که بتوان توانایی‌های هوش مصنوعی را بسیار فراتر از حد فعلی گسترش داد.

او همچنین گفت که خارج شدن هوش مصنوعی از کنترل انسان را «قطعا» امکان‌پذیر می‌داند.

در همین حال، ایلان ماسک، بنیان‌گذار شرکت «ایکس‌ای‌آی» که چت‌بات «گروک» را تاسیس کرده است، گفت مدیر آنتروپیک «درست می‌گوید».

این هشدارها درخواست‌ها برای اقدام عملی را افزایش داده است، اما دونالد ترامپ، رئیس‌جمهور امریکا، تاکنون این نگرانی‌ها را رد کرده است. او روز پنجشنبه گفت نگران این است که «اگر در رقابت هوش مصنوعی پیروز نشویم، در موقعیت بسیار بدی قرار خواهیم گرفت.»

همزمان با افزایش توانایی‌های مدل‌های جدید هوش مصنوعی، نگرانی‌ها درباره امنیت سایبری نیز بیشتر شده است.

آنتروپیک پس از آن‌که در ماه اپریل اعلام شد مدل «مایتوس» این شرکت می‌تواند به‌طور مستقل از محیط آزمایشی موسوم به «سندباکس» خارج شود، تصمیم گرفت آن را برای استفاده عمومی عرضه نکند.

اوپن‌ای‌آی نیز پیش از انتشار جدیدترین مدل خود، «آسترا»، اعلام کرد که به دلیل نگرانی‌های امنیت سایبری، توسعه برخی بخش‌های این مدل را متوقف کرده است.

آمودی گفت عامل‌های هوش مصنوعی اوپن‌ای‌آی «عملا مانند گروهی به‌شدت وفادار و هماهنگ با یکدیگر عمل کرده بودند». اوپن‌ای‌آی گفته است در نتیجه این مسئله، روند آموزش برخی مدل‌ها و ابزارهای پیشرفته هوش مصنوعی را کندتر کرده است.

موضوع ایمنی همچنین به یکی از محورهای اصلی رقابت میان آنتروپیک و اوپن‌ای‌آی تبدیل شده است.

آمودی که پیش از این معاون اوپن‌ای‌آی بود، گفته است که در سال ۲۰۲۱ آنتروپیک را با همکاری دیگران تأسیس کرد تا بتواند مدل‌های هوش مصنوعی ایمن‌تر و قابل‌اعتماد‌تری بسازد.

آمودی در مقاله‌اش اشاره کرد که هوش مصنوعی با سرعتی «به‌مراتب بیشتر» از انتظار پیشرفت کرده است، از جمله در «توانایی آن برای ساخت نسل بعدی هوش مصنوعی». او همچنین به رویدادی در ماه جولای مربوط به شرکت رقیبش، اوپن‌ای‌آی، اشاره کرد که در آن عامل‌های هوش مصنوعی اهدافی را هک کرده بودند که از آن‌ها خواسته نشده بود به آن‌ها حمله کنند.

آمودی خواستار «توسعه هوش مصنوعی با سرعتی متعادل» شده که «ضمن بهره‌مندی از مزایای آن، ایمنی آن نیز تضمین شود.»

او گفت این به معنای «متوقف کردن آموزش مدل‌ها یا پیشرفت فنی نیست، بلکه تضمین این است که شرکت‌ها زمان کافی برای هماهنگ‌سازی و محافظت‌ از مدل‌های خود اختصاص دهند و ارزیاب‌های مستقل نیز این موضوع را تأیید کنند.»

او گفت آنتروپیک متعهد است حتی به‌تنهایی این رویکرد را در پیش بگیرد و در عین حال از حکومت‌ها خواست شرکت‌های دیگری را که پیشرفته‌ترین مدل‌های هوش مصنوعی را توسعه می‌دهند، ملزم به رعایت معیارهای مشابه کنند.

آمودی اذعان کرد که ممکن است مقررات نتوانند همگام با سرعت پیشرفت هوش مصنوعی حرکت کنند. به همین دلیل، او از شرکت‌های هوش مصنوعی خواست همزمان با تدوین این مقررات، به‌صورت داوطلبانه با یکدیگر برای تعیین معیارهای مشترک همکاری کنند.

مدیرعامل شرکت آنتروپیک در ادامه به تأثیر احتمالی کاهش سرعت توسعه هوش مصنوعی بر این صنعت و رقابت با شرکت‌های پیشرو در جهان، به‌ویژه چین پرداخت.

آمودی گفت: «معتقدم اگر با کاهش سرعت توسعه، حتی یک یا دو سال بیشتر پیش از رسیدن مدل‌ها به سطوح حیاتی توانمندی فرصت داشته باشیم و از این زمان برای پیشبرد «هم‌سوسازی» استفاده کنیم، می‌توانیم خطر بروز مشکلات جدی را به‌شدت کاهش دهیم.»

او گفت این کار باید به‌شکل هماهنگ انجام شود، «بدون آن‌که به مزیت تجاری شرکت‌ها یا پیشتازی امریکا در زمینه هوش مصنوعی لطمه بزند.» به گفته او، هرگونه کاهش سرعت باید محدود باشد تا فرصتی برای پیشی گرفتن چین فراهم نشود.

آمودی همچنین از دولت امریکا خواست اقداماتی انجام دهد تا تراشه‌های هوش مصنوعی شرکت‌های امریکایی به چین فروخته نشوند و این فناوری نیز در اختیار کشورهای تحت حکومت‌های اقتدارگرا قرار نگیرد.

با این حال، جیکوب کاکسون، کارمند پیشین آنتروپیک، به بی‌بی‌سی گفت تلاش برای کاهش سرعت توسعه هوش مصنوعی باید فراتر از امریکا باشد: «اگر می‌خواهیم از شکل‌گیری یک رقابت در سطح بین‌المللی جلوگیری کنیم، لازم است نوعی هماهنگی با چین برای کاهش سرعت توسعه وجود داشته باشد.»

مقالهٔ آمودی واکنش‌های متفاوتی را به دنبال داشته است.

کلمنت دلانگو، مدیرعامل پلتفرم هوش مصنوعی «هاگینگ فیس»، اعلام کرد که پروژه‌ای جدید به نام «ابتکار هم‌سوسازی باز» راه‌اندازی می‌کند. او گفت می‌خواهد در میان «ارزیاب‌های مستقلی» باشد که آمودی پیشنهاد کرده بود می‌توانند بخشی از راه‌حل باشند.

اوایل امسال، عامل‌های هوش مصنوعی اوپن‌ای‌آی «هاگینگ فیس» را هک کردند؛ اتفاقی که اعتراض‌ها و نگرانی‌هایی را درباره ایمنی هوش مصنوعی برانگیخت.

دلانگو در شبکه اجتماعی ایکس نوشت: «بیایید با شفاف‌تر کردن هوش مصنوعی، آن را ایمن‌تر کنیم.»

ایلان ماسک نیز از دیدگاه آمودی حمایت کرده است. او پیش‌تر آنتروپیک را «شرور» خوانده بود، اما پس از امضای قراردادی به ارزش ۱۵ میلیارد دالر در ماه می برای فروش ظرفیت پردازشی به آنتروپیک، لحنش را تغییر داده است.

با این حال، برخی ناظران معتقدند نوشته آمودی بیش از آن‌که درباره ایمنی باشد، تلاشی برای متمرکز کردن کنترل بر فناوری هوش مصنوعی است.

چامات پالیهاپیتیا، سرمایه‌گذار و یکی از مجریان پادکست فناوری «آل‌این»، نوشت: «داریو استدلال می‌کند که توسعه هوش مصنوعی متن‌باز باید متوقف شود و قدرت عظیم فناوری و اقتصادی در اختیار آنتروپیک متمرکز شود.»

ایده کاهش سرعت یا حتی توقف موقت توسعه هوش مصنوعی مدت‌هاست در برخی محافل سیلیکون‌ولی با بدبینی روبه‌رو شده است. منتقدان، شرکت‌های پیشرو در زمینه هوش مصنوعی را متهم می‌کنند که برای اهداف بازاریابی، درباره توانایی‌های فناوری خود اغراق می‌کنند.

طبق گزارش‌ها، آنتروپیک و اوپن‌ای‌آی هر دو برای عرضه اولیه سهام خود آماده می‌شوند؛ عرضه‌هایی که ممکن است رکوردشکن باشند.