نظارت ماشین‌ها بر علم

 ترجمه: جواد طهماسبی

۶ اکتبر ۲۰۲۶ ممکن است به‌عنوان بزرگ‌ترین روز در تاریخ ریاضیات به یاد بماند. شرکت اوپن‌ای‌آی (OpenAI)، آزمایشگاه پیشرو آمریکایی، بیش از ۷۰۰ مقاله علمی منتشر کرد که در آنها ادعا شده بود برای ۳۷۲ مسئله‌ای که دهه‌ها ذهن پژوهشگران را به خود مشغول کرده بودند، پیشرفت‌هایی حاصل یا راه‌حل‌هایی پیدا شده است. ریاضیدانان هنوز در تلاش‌اند تا دریابند این رویداد چه پیامدی برای رشته آنها دارد.

پیامدهای این امر نویدبخش تاثیراتی بسیار فراتر از حوزه ریاضیات است. اکنون زمان آن فرا رسیده که به این پرسش بپردازیم که هوش مصنوعی (AI) چگونه بر کلیت علم تاثیر خواهد گذاشت. این دستاوردهای ریاضی، همزمان جهشی روبه‌جلو برای بشریت و شگفتانه‌ای نشان‌دهنده پیشرفت برق‌آسای هوش مصنوعی، و هشداری درباره آینده‌ای محسوب می‌شوند که در آن، درک جهان ممکن است در انحصار ماشین‌هایی باشد که سازوکارشان برای ذهن انسان غیرقابل‌ فهم است. پرسش اصلی این است که چگونه می‌توان بدون قربانی کردن «درک و فهم» به پیشرفت دست یافت؟

هوش مصنوعی پتانسیل علمی خود را در ریاضیات به‌روشنی نشان داده، زیرا اثبات‌های آن از اصول بدیهی گرفته شده‌اند، نه شواهد، و بنابراین، در اصل به‌صورت مکانیکی قابل اثبات هستند. اما هوش مصنوعی همچنین پیشرفت در علوم تجربی را تسریع کرده است. بخشی به این دلیل که سایر زمینه‌ها از ریاضیات به‌عنوان یک ابزار استفاده می‌کنند. هوش مصنوعی پیش‌بینی‌های آب‌وهوا را بهتر، میلیون‌ها ماده جدید مفید ممکن را پیشنهاد و به کنترل آزمایش‌ها با همجوشی هسته‌ای کمک کرده است و می‌تواند شکل تقریباً هر پروتئین شناخته‌شده‌ای را از اسیدهای آمینه تشکیل‌دهنده آن پیش‌بینی کند. پیشرفتی که جایزه نوبل را به‌دست آورد. پیشرفت‌های علمی قابل توجه‌تر مبتنی‌بر هوش مصنوعی تقریباً قطعی هستند. هیجان‌انگیزترین احتمالات در زیست‌شناسی مطرح می‌شوند. پژوهشگران از هوش مصنوعی برای طراحی محصولات مقاوم در برابر خشکسالی، جست‌وجوی داروهای جدید و ایجاد ویروس‌های مفید برای حمله به باکتری‌های مضر استفاده می‌کنند. تلاش برای استفاده از هوش مصنوعی برای ساخت مدل‌های کامپیوتری از نحوه عملکرد سلول‌ها در حال انجام است. دانشمندان با مجهز شدن به حیات در سیلیکون، ممکن است بر زیست‌شناسی مسلط شوند و توانایی ایجاد موجودات کاملاً جدید از ابتدا را به‌دست آورند. در این صورت، DNA فقط به شکل دیگری از کد کامپیوتری تبدیل می‌شود که مانند رشته‌ای از توکن‌ها در یک الگوی هوش مصنوعی دستکاری می‌شود. همانند بسیاری از مباحث مرتبط با هوش مصنوعی، این چشم‌انداز نیز به یک اندازه هم هیجان‌انگیز است و هم هراس‌انگیز. نخستین واکنش بسیاری از ریاضیدانان، احساس وحشت است. از زمان دستیابی اوپن‌ای‌آی به پیشرفت‌های چشمگیر، آنها نسبت به ورود این مجموعه به حوزه تخصصی‌شان به‌شدت معترض شده‌اند. «انجمن ریاضیات انسانی» که گروهی متشکل از بیش از ۹۰۰ پژوهشگر است، هشدار می‌دهد که «ریاضیدانان هرگز خواستار انجام چنین کاری نبوده‌اند». به باور آنها، ارزش پرداختن به ریاضیات نه در «اثبات نهایی»، بلکه در همان «تلاش و تکاپو» نهفته است، چرا که همین فرآیند است که موجب ارتقای درک و شناخت بشر می‌شود. اینکه هوش مصنوعی راه‌حل‌هایی صحیح اما غیرقابل ‌فهم تولید کند، درست مانند دادن پاسخ تکالیف به دانش‌آموزان است. بدون تلاش، یادگیری هم در کار نخواهد بود.

این شکایت‌ها حاوی عنصری از التماس و دادخواهی ویژه است. دانشگاهیان دیگر بیش از دیگر حرفه‌ها حق ندارند تولید دانش را دیکته کنند. جست‌وجوی حقیقت به نفع همه است و نمی‌تواند مختص یک صنف از پژوهشگران باشد. سلسله‌مراتب دانشگاهیان که با اثبات چیزها بالا می‌روند، مقدس نیستند. آنها در صورت لزوم باید برای جهانی بازسازی شوند که در آن هوش مصنوعی اثبات تولید کرده و انسان‌ها آنها را هضم می‌کنند. در علم، نباید درک را به نتایج ترجیح داد. هر بار که یک قرص پاراستامول را برای رفع سردرد می‌بلعید، به سازوکاری متکی هستید که کار می‌کند، اما به‌طور کامل درک نشده است. بااین‌حال، نگرانی از سپردن علم به ماشین‌ها، نگرانی بی‌پایه‌ای نیست. شرکت‌های فعال در حوزه هوش مصنوعی نه از روی نوع‌دوستی، بلکه به این دلیل منابع خود را صرف علم می‌کنند که درست مانند انسان‌ها، حل مسائل می‌تواند به افزایش هوشمندی الگوها کمک کند. بسیاری از پژوهشگران بر این باورند که مدلی که در حل مسائل علمی توانمندتر شود، در انجام هر کار دیگری نیز عملکرد بهتری خواهد داشت. اگر چنین باشد، دیگر هیچ‌کس قادر نخواهد بود با آزمایشگاه‌های بزرگ هوش مصنوعی رقابت کند. آزمایشگاه‌هایی که درنهایت کنترل مدل‌هایی را در دست خواهند گرفت که خودشان را ارتقا می‌دهند و بنابر برخی تعاریف، به سطحی از هوشمندی می‌رسند که درک آن برای ما غیرممکن است. این دانشمندان هوش مصنوعی نابغه، یا از طریق روبات‌های انسان‌نما یا با اتصال مستقیم مدل‌ها به تجهیزات آزمایشگاهی، با جهان فیزیکی ارتباط برقرار خواهند کرد. کاری که شرکت «آنتروپیک» (Anthropic) هم‌اکنون انجام داده است. مسئله‌ای که این آینده برای علم ایجاد می‌کند بسیار شبیه به مسئله‌ای است که برای جامعه به وجود می‌آورد. انسان‌ها باید منابعی را در اختیار ماشین‌ها قرار دهند تا آنها بتوانند به پیشرفت خود ادامه دهند. اگر کسی نداند که ماشین‌ها دقیقاً چه کاری انجام می‌دهند، صرفاً تامین مالی آنها اقدامی نسنجیده خواهد بود؛ چرا که هیچ‌کس نمی‌تواند اطمینان داشته باشد که این الگوها در راستای منافع عالی بشریت عمل می‌کنند. حتی اگر آزمایشگاه‌های هوش مصنوعی موفق شوند ماشین‌ها را با منافع بشریت «همسو» کنند، به‌گونه‌ای که بتوان کاملاً به آنها اعتماد کرد، در جامعه‌ای که انسان‌ها برای انجام هر کاری (چه در حوزه علم و چه در سایر عرصه‌ها) صرفاً از هوش مصنوعی کسب تکلیف می‌کنند، انسان‌ها عملاً به «حیوانات خانگی» ماشین‌ها تبدیل خواهند شد. برخی افراد ممکن است حاضر باشند این موضوع را بپذیرند، به‌ویژه اگر به‌معنای دستیابی به دستاوردهایی همچون درمان تمام بیماری‌ها باشد. اما دست‌کم تا زمانی که همسویی خدشه‌ناپذیری میان هوش‌های مصنوعی و انسان‌ها برقرار نشود، علم همواره به حضور انسان در چرخه فعالیت‌ها نیاز خواهد داشت. آزمایشگاه‌ها باید بتوانند برای حل مسائل از هوش مصنوعی بهره بگیرند، اما هدایت و نظارت بر منابعی همچون امکانات آزمایشگاهی و توان پردازشی باید بر عهده کسانی باشد که می‌توانند درباره عملکرد هوش مصنوعی، قضاوتی آگاهانه داشته باشند. این امر به‌ناگزیر موجب کند شدن روند پیشرفت خواهد شد؛ اما اگر قرار است هوش مصنوعی همچنان در کنترل انسان باقی بماند، چنین رویکردی ضروری است. در این میان، «علم ماشینی تحت هدایت انسان» پژوهشگران را بر آن خواهد داشت تا در رشته‌های تخصصی خود بازنگری کنند. دانشمندان باید بیاموزند که هدایت الگو‌ها، و همچنین بررسی، راستی‌آزمایی و آموزش نتایج حاصل از آنها را ارج نهند، به‌گونه‌ای که این فعالیت‌ها برایشان منزلت علمی به ارمغان بیاورد و به پیشرفت شغلی‌شان کمک کند. دولت‌ها نیز باید بودجه‌های پژوهشی را بر همین اساس تخصیص دهند. از سوی دیگر، آزمایشگاه‌های هوش مصنوعی نیز باید در مقام «اعضای مسئول جامعه علمی» عمل کنند؛ به این معنا که آثار خود را برای داوری همتایان (بررسی علمی) ارائه دهند و روش‌ها و کدهای خود را منتشر کنند.

بررسی و هضم نتایج یک کامپیوتر ممکن است کاری پیش‌پاافتاده به‌نظر برسد. بسیاری از علوم تولیدشده توسط انسان مملو از خطا هستند، زیرا پژوهشگران به خاطر نظارت بر کار دیگران پاداش نمی‌گیرند. اما تاکید مجدد بر تایید و شک‌گرایی، علم را بهبود می‌بخشد. یادآوری شعار انجمن سلطنتی که در قرن هفدهم تصویب شد، ارزشمند است: Nullius in verba یا «حرف هیچ‌کس را جدی نگیر». همین روحیه اکنون باید در مورد علمی که به وسیله ماشین‌ها ساخته می‌شود، اعمال شود.