تروریسم

به‌زودی هوش مصنوعی (AI) زیست‌شناسی را به فهرست توانایی‌های فرابشری خود اضافه خواهد کرد. مدل میتوس (Mythos) شرکت آنتروپیک -که پیش از این به‌دلیل مهارت‌های هک کردنش از انتشار عمومی منع شده بود- اخیراً توانست یک‌سوم از دشوارترین وظایف پردازش داده‌ها را که متخصصان زیست‌شناسی انجام داده بودند با موفقیت پشت سر بگذارد. میتوس می‌تواند کارهایی مانند مهندسی معکوس یک نوع سلول از داده‌های خام DNA را انجام دهد که فراتر از توانایی همه انسان‌هایی بود که در این راه تلاش کرده‌اند.

همان‌طور که در ادامه گزارش می‌آید، حل مسئله به این شکل بدان معناست که هوش مصنوعی ممکن است به‌زودی به افراد قدرت‌های بسیار خطرناکی مانند ترکیب ویروس‌ها، تولید سموم اعصاب (نوروتوکسین‌ها) جدید یا ایجاد «زندگی آینه‌ای» (mirror life) بدهد. چنین خطراتی، جنبه تاریک وعده شگفت‌انگیز هوش مصنوعی برای دموکراتیک‌کردن هوش هستند. حتی می‌توان تصور کرد که هوش مصنوعی بتواند به یک فرد تنها و انسان‌ستیز قدرت پایان دادن به بشریت را بدهد. بنابراین خطرات امنیت زیستی بسیار شدیدتر از خطرات امنیت سایبری هستند. اگر احتمالاً یک ویروس مهندسی‌شده بتواند باعث مرگ میلیاردها نفر شود، بشریت جایی برای درس گرفتن از اشتباهات نخواهد داشت. ممکن است هیچ امکانی هم وجود نداشته باشد که در آن خود هوش مصنوعی به جلوگیری از خطر کمک کند. نرم‌افزار را می‌توان به‌سرعت اصلاح کرد، اما زیست‌شناسی انسان انعطاف‌پذیری بسیار کمتری دارد. بنابراین، ایمن‌سازی مدل‌ها برای انتشار، نیازمند پیشرفت‌هایی در علم بنیادی هوش مصنوعی خواهد بود. چقدر وقت داریم؟ مدل‌های هوش مصنوعی عمومی امروزی، در روی کاغذ بسیار هوشمندانه و عالی هستند، اما خوشبختانه هنوز هم به‌نظر می‌رسد که نتوانند به افراد تازه‌کار در آزمایشگاه کمک عملی زیادی برسانند. اما آنتروپیک، سازنده نسخه غیرعمومی میتوس هشدار می‌دهد که ممکن است این مدل به‌زودی بتواند افراد تازه‌کار را در کارهای دشوار آزمایشگاهی راهنمایی کند. توانایی‌های عملی میتوس و همتایان آن آزمایش نشده است به این معنا که ممکن است آنها هم‌اکنون چنین توانایی‌هایی داشته باشند. مدل‌هایی با این استعدادها همانند سلاح‌های هسته‌ای هستند که اگر در دستان عموم قرار گیرند هرگز امن نخواهند بود. تکنیک‌های امروزی برای ایمن‌سازی آنها نیز ناکارآمد هستند. برای مثال، یک گزینه این است که سعی کنیم آنها را وادار به رد درخواست‌های خطرناک کنیم. روش «فرار از زندان» این مدل‌ها -یعنی فریب دادن آنها برای دریافت پاسخ‌های ممنوعه- دشوارتر شده است، اما 90 درصد از شرکت‌کنندگان تازه‌کار در یک مطالعه اخیر باز هم توانستند پاسخ‌هایی را در مورد ویروس‌شناسی از مدل‌هایی استخراج کنند که باید سکوت می‌کردند. اشتباه است که بخواهیم با این روش‌های دفاعی بر سر آینده بشریت قمار کنیم.  اقدام دیگر، حذف داده‌های خطرناک از دوره‌های آموزشی مدل‌هاست. اندیشکده امنیت زیستی (SecureBio) پیشنهاد می‌کند که اطلاعات مربوط به زندگی آینه‌ای، دسترسی به عوامل بیماری‌زای زنده، دور زدن موانع دفاعی زیستی و ارزیابی پتانسیل همه‌گیری حذف شوند. مشکل آنجاست که یک مدل به اندازه کافی توانمند می‌تواند خودش دانش حذف‌شده از اصول اولیه را استخراج کند. برای مثال تلاش‌های مشابه برای حذف مطالب مربوط به سوءاستفاده جنسی از کودکان از داده‌های آموزشی مدل‌های مولد تصویر موفقیت‌آمیز نبود. حتی سامانه‌ای که با ورودی‌ها و تصاویر بی‌خطر آموزش دیده می‌تواند عکس‌های مستهجنی را به تصویر بکشد که هرگز ندیده است. دیدگاه سوم بر دنیای فیزیکی تمرکز دارد. سرویس‌های امنیتی دولت‌ها می‌توانند و باید توجه بیشتری به فروشندگان فناوری‌های دارای کاربردهای دوگانه مشروع و شرورانه (مانند ترکیب DNA) داشته باشند. مقررات شناخت مشتری (KYC) باید چنین خدماتی را به پژوهشگران معتبر محدود کند. اما ساخت ویروس‌ها مانند ساخت سلاح هسته‌ای نیست که به مواد کمیاب و قابل‌ردیابی نیاز داشته باشد. در زیست‌شناسی، استفاده از فناوری‌های آماده برای اهداف کشنده نسبتاً آسان است. دولت نمی‌تواند هر ظرف کشت میکروبی را رصد کند. بنابراین، برای ایجاد انواع جدید تدابیر حفاظتی، به پیشرفت‌های علمی نیاز خواهد بود. یک رویکرد امیدوارکننده معادل جراحی مغز بر روی مدل‌ها پس از آموزش آنها عمل می‌کند. تکنیکی دیگر به مدل‌ها می‌آموزد که در برخی زمینه‌ها پاسخ‌های اشتباه را ترجیح دهند، و روشی دیگر می‌تواند کشف و غیرفعال کردن نورون‌هایی باشد که در زمان کار بر روی زیست‌شناسی مصنوعی فعال می‌شوند. این کار مستلزم پیشرفت در علوم پایه هوش مصنوعی است تا بتوان «جعبه سیاه» شبکه‌های عصبی موجود را گشود.

ظروف آزمایشگاهی خطرناک

تا زمانی که چنین تکنیک‌هایی وجود داشته باشند، دولت‌ها باید دسترسی به سیستم‌هایی را که ممکن است بیوتروریسم را فعال کنند، محدود کنند. این موضوع به‌ویژه برای مدل‌های منبع باز اهمیت دارد که پس از انتشار قابل‌بازیابی نیستند و استفاده از آنها ‌نظارت‌پذیر نیست. محققان مسئول باید بتوانند از هوش مصنوعی برای پیشبرد مرزهای علم استفاده کنند -برای مثال، آزمایشگاه‌های ایزومورفیک مدل دیپ‌مایند در حال توسعه درمان‌های جدید سرطان هستند- اما این کار باید تحت پروتکل‌های امنیتی صورت گیرد. اگر قرار باشد هوش مصنوعی به تروریست‌ها قدرت انقراض انسان‌ها را نیز بدهد توسعه آن برای بهبود زندگی هیچ فایده‌ای ندارد.