رقابت تسلیحاتی در حوزه هوش مصنوعی

 ترجمه: جواد طهماسبی

دو نکته وجود دارد که باید شما را به تامل درباره پیامدهای احتمالی هوش مصنوعی برای بشریت وا دارد. نخست آنکه متخصصان فعال در این حوزه هشدار می‌دهند که این فناوری ممکن است به فاجعه‌ای عظیم و حتی انقراض نسل بشر منجر شود. نکته دیگر، نقش نوآوری‌های فناورانه در تشدید ویرانی‌های اوکراین است. این موارد درس‌هایی متناقض پیش‌روی ما می‌گذارند تا دریابیم که آیا می‌توان یا اصلاً باید روند پرشتاب پیشرفت هوش مصنوعی را کند کرد یا خیر.

سال‌هاست که روسای برجسته هوش مصنوعی اعلام کرده‌اند که فناوری آنها می‌تواند کشنده شود. روبات‌ها ممکن است به اندازه کافی باهوش شوند تا قبل از اینکه با اهداف و اخلاق بشریت «همسو» شوند، از سازندگان خود پیشی بگیرند. افراد بد می‌توانند از هوش مصنوعی برای ایجاد ویرانی استفاده کنند. این هشدارها با فرار عوامل هوش مصنوعی از جعبه‌های شنی خود در طول آزمایش، هماهنگی با یکدیگر و هک کردن سازمان‌ها، ازجمله خود آزمایشگاه هوش مصنوعی، معتبرتر شده‌اند. آنتروپیک، یکی از سازندگان مدل، افرادی را شناسایی کرده است که از مدل‌های آن برای اهداف شوم استفاده می‌کردند. از سرویس‌های اطلاعاتی مالی که یک سیستم نظارت جمعی ساخته‌اند گرفته تا شورشیان حوثی در یمن که تصور می‌شود در حال نوشتن نرم‌افزار برای موشک‌های بالستیک هستند.

به‌دنبال استعفای اخیر یکی از پژوهشگران شرکت آنتروپیک، نگرانی عمومی نسبت به فاجعه‌بار بودن هوش مصنوعی افزایش یافته است. او در پستی که بیش از ۱۷۰ میلیون بار دیده شد، گفت که این شرکت و اوپن‌ای‌آی (OpenAI) با جان ما «قمار می‌کنند». هوش مصنوعی به‌سرعت در حال قدرتمندتر شدن است؛ تحولی که هم جنبه‌های مثبت دارد و هم منفی. در ماه می، بازارهای پیش‌بینی، احتمال حل هریک از مسائل ریاضی «جایزه هزاره» به وسیله هوش مصنوعی پیش از سال ۲۰۳۰ را کمتر از یک‌سوم برآورد می‌کردند؛ اما اوپن‌ای‌آی در ۸ سپتامبر اعلام کرد که یکی از این مسائل را حل کرده است؛ خبری که موجب نگرانی و تشویش در میان ریاضیدانان شد. در ۱۲ سپتامبر، سم آلتمن و ایلان ماسک، دو چهره برجسته و تاثیرگذار در حوزه هوش مصنوعی، از درخواست داریو آمودی (رئیس آنتروپیک) مبنی بر «کنترل سرعت پیشرفت در مرزهای دانش» -یعنی کند کردن روند توسعه هوش مصنوعی- حمایت کردند. ازجمله حامیان این کندسازی می‌توان به برنی سندرز، سناتور چپ‌گرا، و استیو بنن، پوپولیست راست‌گرا، اشاره کرد. در میان مخالفان، نام رئیس‌جمهور دونالد ترامپ نیز به چشم می‌خورد؛ کسی که دولتش بیش از هر چیز نگران آن است که آمریکا در حوزه هوش مصنوعی برتری خود را به تنها رقیب جدی‌اش چین واگذار کند. اسکات بسنت، وزیر خزانه‌داری آمریکا، گفته است که اگر چین دست بالا را پیدا کند، «دیگر هیچ چیز اهمیتی نخواهد داشت». آقای بسنت می‌تواند به‌عنوان مدرک به اوکراین اشاره کند. جایی که هر گام در مسابقه تسلیحاتی فناوری تاثیری سریع دارد. روسیه بی‌رحمانه جدیدترین پهپادهای کامیکازه خود را برای بمباران زیرساخت‌های غیرنظامی به کار گرفته است. پهپادهای این کشور علاوه بر سریع‌تر بودن، اکنون از یکدیگر به‌عنوان یک شبکه ارتباطی برای انتقال اطلاعات و دستورات استفاده می‌کنند. به‌زودی، روسیه نسخه مخصوص به خود از شبکه ماهواره‌ای استارلینک آقای ماسک را خواهد داشت که حملات دوربرد آن را دقیق‌تر می‌کند. این جدیدترین نمونه‌ای است که نشان می‌دهد حتی یک برتری فناورانه جزئی نیز در زمان جنگ اهمیت دارد. نوآوری‌های اوکراین در زمینه پهپادهای میدان نبرد به این کشور کمک کرد تا امواج حملات روسیه را دفع کند. اوکراین می‌تواند با استفاده از پهپادهای دوربرد به عمق خاک روسیه حمله کند. هر دو طرف در حال کار بر روی پهپادهای «دسته‌ای» (Swarm drones) هستند؛ پهپادهایی که می‌توانند به‌عنوان یک سامانه واحد و انطباق‌پذیر، با خودمختاری بیشتری عمل کنند.

این جنگ نشان می‌دهد که چگونه فناوری به قدرت سخت تبدیل می‌شود و روسیه آن را بدون اعتنا به قواعد یا هنجارهای دیرینه نبرد به کار می‌گیرد. حتی اگر آمریکا از وقوع یک جنگ گرم مشابه با چین هراسی نداشت، پیشگامی در حوزه هوش مصنوعی به رقیب اصلی ژئوپلیتیک آن، در زمینه‌های هک، جاسوسی و جنگ ترکیبی برتری می‌بخشید؛ اینها توانمندی‌هایی نیستند که آمریکا بخواهد آنها را به حکومتی اقتدارگرا واگذار کند که سودای سرکوب اندیشه‌های لیبرال را در سر دارد. بنابراین، ایجاد وقفه تنها در صورتی عملی خواهد بود که چین نیز به آن تن دهد. اما حتی اگر آقای ترامپ به‌دنبال کاهش سرعت این رقابت باشد، بعید است که آقای شی با طرح مدنظر آقای مودی موافقت کند؛ زیرا چنین اقدامی باعث می‌شود هوش مصنوعی چین در جایگاه دوم متوقف بماند. از سوی دیگر، هیچ‌یک از طرفین نمی‌توانند این ریسک را بپذیرند که طرف مقابل با پیشی گرفتن از آنها، توافق را نقض کند. برای رسیدن به یک توافق، هر یک از طرفین باید همانند کنترل تسلیحات در طول جنگ سرد، پایبندی خود را به این توافق تایید کنند. آمریکا، بریتانیا و اتحاد جماهیر شوروی آزمایش‌های هسته‌ای جوی را در سال ۱۹۶۳ ممنوع کردند، زیرا می‌توانستند آنها را شناسایی کنند. آزمایش‌های زیرزمینی به مدت سه دهه دیگر ادامه یافت تا اینکه آنها نیز قابل نظارت شدند. افسوس که اگرچه مراکز داده قابل مشاهده هستند، اما هیچ روش قابل تاییدی برای مشاهده درون آنها وجود ندارد. آموزش زیرساخت به یک ابرهوش می‌تواند به شکل روبات‌های چت که به سوال‌های روزمره پاسخ می‌دهند، دربیاید.

بنابراین، گزینه‌های موجود برای توافق در مورد ایمنی هوش مصنوعی محدود هستند؛ اما وجود دارند. شفافیت بیشتر می‌تواند مفید باشد. هر دو طرف باید متعهد شوند که با استفاده از قوانین داخلی حوادث ایمنی در آزمایشگاه‌های خود را افشا و بررسی کنند. هر یک می‌تواند نشان دهد که برای ایجاد اعتماد، به ایمنی اهمیت می‌دهد و راه را برای طرف مقابل برای انجام اقدامات احتیاطی هموار می‌کند. آنها همچنین باید یکدیگر را زیر فشار قرار دهند تا امنیت سایبری آزمایشگاه‌ها را بهبود ببخشند تا عوامل هوش مصنوعی نتوانند به‌راحتی از جعبه‌های شنی فرار کنند. و اطمینان یابند که اگر یکی از آنها این کار را انجام دهد، آزمایشگاه آن از نظر مالی مسئول است. مهم‌ترین چالش، تضمین عملکرد هوش مصنوعی در راستای منافع بشر است. اگرچه ارزش‌های آمریکا و چین تفاوت‌های بسیاری با یکدیگر دارند، اما هر دو طرف می‌دانند که پیشتاز بودن، در صورتی که به نابودی بشریت بینجامد، هیچ سودی نخواهد داشت. آنها باید متعهد شوند که یافته‌های خود را در زمینه جنبه‌هایی از هم‌سوسازی (alignment) که مزیت رقابتی ایجاد نمی‌کنند به اشتراک بگذارند، چرا که دانش مربوط به بهترین روش‌های ارزیابی و تکنیک‌های مهار هوش مصنوعی، یک «کالای عمومی جهانی» محسوب می‌شود. اگر یکی از طرفین به پیشرفت ایمنی مهمی دست یابد، پنهان‌کاری و انحصارطلبی در مورد آن هیچ توجیهی ندارد. برخی موج اخیر بدبینی را به‌عنوان یک ترفند بازاریابی از سوی شرکت‌های هوش مصنوعی یا حتی تلاشی برای سرکوب رقابت رد می‌کنند. بااین‌حال، پیشرفت هوش مصنوعی به اندازه کافی سریع، حوادث ایمنی به اندازه کافی تکان‌دهنده و هشدارهای شرکت‌ها به اندازه کافی قدیمی است که جدی گرفته شود. هوش مصنوعی لازم نیست همه انسان‌ها را بکشد تا فاجعه‌ای به بار آورد. گروهی از عوامل اوپن‌ای‌آی یک شرکت فناوری را هدف قرار دادند. اگر دفعه بعد به یک شبکه برق یا یک سیستم تسلیحاتی حمله کنند، چه؟ حتی ممکن است به اندازه کافی هوشمند باشند که جلوی تلاش‌ها برای خاموش کردن خود را بگیرند. جهان باید فوراً برای پیشگیری از این خطر تلاش کند. بااین‌حال، دموکراسی‌ها نیز باید از واگذاری کنترل به اقتدارگرایان پرهیز کنند. اینها وظایفی دشوار و متناقض هستند که درنهایت می‌توانند به جنگ منتهی شوند؛ موضوعی که از بالاترین درجه اهمیت برخوردار است.