ریسک‌های هوش مصنوعی

معرفی ابزار جدید کمپانی OpenAI یا همان چت ‌جی‌پی‌تی در دسامبر 2022 باعث شد که موضوع هوش مصنوعی و عواقب و پیامدهای گسترش آن دوباره بر سر زبان‌ها بیفتد. چت جی‌پی‌تی یک ابزار پردازش زبان است که از طریق فناوری هوش مصنوعی هدایت می‌شود که برای پاسخ دادن به سوالات کاربران و گفت‌وگو با آنها، طراحی شده است. این هوش مصنوعی می‌تواند با استفاده از داده‌های جمع‌آوری‌شده از میلیون‌ها وب‌سایت به سوالات کاربران به شیوه محاوره‌ای پاسخ دهد و در انجام کارهایی مانند نوشتن ای‌میل، مقاله و کدنویسی به ما کمک کند. این تکنولوژی با ورود خود به سرعت محبوبیت زیادی بین مردم پیدا کرد و در کمتر از دو ماه به حدود ۱۰۰ میلیون کاربر فعال دست یافت. دستاوردی که رسیدن به آن برای اینستاگرام دو سال و برای تیک‌تاک ۹ ماه زمان برد. بدیهی است که این پیشرفت‌های اخیر در هوش مصنوعی و گسترش آن در میان مردم، زندگی انسان را در همه حوزه‌ها تحت تاثیر قرار دهد. بیل گیتس در این‌باره می‌گوید که ظهور چت روبات‌های هوش مصنوعی مانند چت جی‌پی‌تی به اندازه ظهور اینترنت یا تکامل رایانه‌های شخصی مهم است و می‌تواند تاثیری مشابه آن بر زندگی افراد بگذارد. همین موضوع باعث شده که بسیاری از شرکت‌ها مبلغ هنگفتی را برای توسعه فناوری‌های جدید مرتبط با هوش مصنوعی صرف کنند. مایکروسافت در سال 2019 یک میلیارد دلار در اوپن ای‌آی، سرمایه‌گذاری کرد. اخیراً، مایکروسافت اعلام کرده است که قصد دارد پول بیشتری را در این شرکت سرمایه‌گذاری کند و این شرکت در حال انجام یک سرمایه‌گذاری «چندساله و چند میلیارددلاری» در OpenAI است که طبق گزارش بلومبرگ، این سرمایه‌گذاری در حدود 10 میلیارد دلار است. این حجم از سرمایه‌گذاری در کنار سرعت پیشرفت هوش مصنوعی در چندین سال گذشته باعث ایجاد نااطمینانی‌های بیشتر از آینده جهان می‌شود. سوالی که پیش می‌آید این است که آیا هوش مصنوعی یک فناوری خطرناک است که به‌طور کلی برای جامعه مضر است یا ابزار قدرتمندی است که زندگی مردم را بهبود می‌بخشد؟ بر اساس تازه‌ترین گزارش‌های منتشرشده در فضای مجازی، هوش مصنوعی به عنوان یکی از جدیدترین فناوری‌های روز جهان همواره به یکی از پرچالش‌ترین تکنولوژی‌ها تبدیل شده است، به گونه‌ای که بسیاری از کارشناسان و تحلیلگران بر این باورند که هوش مصنوعی و یادگیری ماشینی بیشتر از آنکه به کمک بشریت و پیشرفت تکنولوژی بیاید، یک تهدید بزرگ برای آینده و سرنوشت جهان به‌شمار می‌رود. بسیاری از افراد بر این باورند که پیشرفت سریع هوش مصنوعی پیامدهایی دارد که ممکن است نیروی کار جهانی را به شدت تحت تاثیر قرار دهد. با پیشرفت هوش مصنوعی، بسیاری از مشاغل ممکن است خودکار شوند و افراد زیادی بیکار شوند که قطعاً نابرابری درآمدی را افزایش خواهد داد. علاوه بر این، این خطر وجود دارد که سیستم‌های هوش مصنوعی با سوگیری برنامه‌ریزی شوند یا برای تبعیض علیه گروه‌های خاص مورد استفاده قرار گیرند. یکی دیگر از بزرگ‌ترین چالش‌هایی که هوش مصنوعی را تهدید می‌کند، امکان استفاده از آن در صنایع جنگی و نظامی است که به عقیده بسیاری از کارشناسان و تحلیلگران، می‌تواند علیه بشریت استفاده شود که در نهایت به ضرر کل انسان‌ها در جهان تمام خواهد شد. در این صورت باید مراقب باشیم و اطمینان حاصل کنیم که هوش مصنوعی به روشی اخلاقی و مسوولانه توسعه پیدا کند. از آنجا که در حال حاضر نمی‌توانیم این موضوع را تضمین کنیم، بسیاری بر این باورند که بهتر است سرعت پیشرفت آن را کاهش دهیم. اما در طرف مقابل بسیاری معتقدند که هوش مصنوعی این پتانسیل را دارد که بسیاری از مشکلات جهان، از تغییرات آب‌وهوا گرفته تا بیماری‌ها را حل کند. علاوه بر این، هوش مصنوعی می‌تواند به ما کمک کند تا با تجزیه و تحلیل حجم وسیعی از داده‌ها و شناسایی الگوهایی که ممکن است انسان‌ها از آن غافل شوند، تصمیمات بهتری بگیریم. این دو دیدگاه متضاد ما را به این نتیجه می‌رساند که پیشرفت در هوش مصنوعی یک شمشیر دولبه است. از یک طرف، ممکن است رشد اقتصادی به وسیله هوش مصنوعی افزایش یابد و توانایی ما برای نوآوری را بیشتر کند. از سوی دیگر، بسیاری از کارشناسان نگران هستند که این پیشرفت‌ها، خطر وجودی را به دنبال داشته باشد: ایجاد ابرهوشی که با ارزش‌های انسانی هماهنگ نیست، می‌تواند به پیامدهای فاجعه‌بار، حتی انقراض انسان منجر شود. در همین رابطه، چارلز جونز، استاد دانشگاه استنفورد، در مقاله‌ای که با عنوان «معضل هوش مصنوعی: رشد در مقابل ریسک وجودی» در ژورنال NBER به چاپ رسید به بررسی این موضوع پرداخت. او در این مقاله موضوع استفاده بهینه از هوش مصنوعی و تهدیدها و فرصت‌های پیش‌رو را بررسی می‌کند و به دنبال پاسخ به این سوال است که در چه شرایطی باید به پیشرفت سریع هوش مصنوعی ادامه دهیم و در چه شرایطی باید توقف کنیم؟ در ادامه خلاصه‌ای از این مقاله ارائه می‌شود.

هوش مصنوعی در دنیای امروز

پیشرفت‌های اخیر در هوش مصنوعی مطمئناً استانداردهای زندگی افراد را در سال‌های آینده افزایش خواهد داد. از گوشی‌های هوشمند گرفته تا الگوریتم‌های موتورهای جست‌وجو، هوش مصنوعی در زندگی روزانه ما حضور دارد. تشخیص گفتار، خلاصه‌نویسی، ترجمه و دستاوردهای شگفت‌انگیز الگو‌های مولد در تولید متن و تصاویر، انتظارات گذشته را نسبت به گذشته افزایش داده است. علاوه بر اینها به تازگی پژوهشگران ام‌آی‌تی از هوش مصنوعی برای طراحی پروتئین‌های جدیدی استفاده می‌کنند که فراتر از پروتئین‌های موجود در طبیعت است. آنها الگوریتم‌هایی را برای یادگیری ماشینی ایجاد کردند که می‌تواند پروتئین‌هایی با ویژگی‌های ساختاری خاص تولید کند. به نظر می‌رسد که هوش مصنوعی توانایی‌های ما را برای نوآوری در کوتاه‌مدت افزایش می‌دهد و مطمئناً در آینده‌ای نزدیک این تکنولوژی می‌تواند در بسیاری از وظایف شناختی از هوش انسان فراتر رود و حتی خود شروع به نوآوری کند. زمانی که ماشین‌ها بتوانند ایده‌هایی تولید کنند، محدودیت‌های رشد تعیین‌شده به‌وسیله کمیت و کیفیت پژوهشگران ممکن است دیگر قابل اجرا نباشد و نرخ‌های رشد می‌تواند سرعت بیشتری داشته باشد. از سوی دیگر، همان‌طور که بسیاری از کارشناسان اخیراً هشدار داده‌اند، این پیشرفت‌ها بدون خطر به دست نمی‌آیند. گروه قابل توجهی از جامعه تحقیقاتی، از جمله محققان برجسته در شرکت‌های اوپن ای‌آی  و گوگل، هشدار داده‌اند که این پیشرفت‌ها می‌تواند خطری وجودی برای بشریت ایجاد کند. اگر هوش مصنوعی‌، هوشمندتر از انسان ایجاد شود که با اهداف ما همسو نباشد، خطری وجود دارد که انسان‌ها را پشت سر بگذارد یا حتی نابود کند. این نگرانی‌ها سوالات اساسی را در مورد اینکه آیا باید تحقیقات خود را در مورد هوش مصنوعی متوقف کنیم، یا شاید کلاً سرمایه‌گذاری بر روی این فناوری را کنار بگذاریم، ایجاد می‌کند. به‌طور خلاصه‌تر، هوش مصنوعی می‌تواند استانداردهای زندگی را بیش از برق یا اینترنت افزایش دهد. اما ممکن است خطراتی بیش از خطرات ناشی از سلاح‌های هسته‌ای داشته باشد. این احتمالات -هرچند کم و بعید- وجود دارد. این دقیقاً وضعیت جهانی است که بسیاری از افراد از تصور آن نیز وحشت می‌کنند. جهانی که در آن هوش مصنوعی می‌تواند به افزایش شدید استانداردهای زندگی منجر شود؛ اما از طرف دیگر، به احتمال زیاد خطر وجودی به همراه خواهد داشت. این مقاله به بررسی استفاده بهینه از این تکنولوژی با در نظر گرفتن ویژگی شمشیر دولبه آن، می‌پردازد و بررسی می‌کند که در چه شرایطی باید به پیشرفت سریع هوش مصنوعی ادامه دهیم و در چه شرایطی باید آن را متوقف کنیم؟

یافته‌های پژوهش

هدف مقاله ارائه پاسخ دقیق به این سوال که «آیا باید AI  را تعطیل کنیم؟» نیست، زیرا پاسخ مطمئناً به مولفه‌هایی زیادی بستگی دارد که نمی‌توان آنها را به‌طور دقیق تعیین کرد. در عوض، این مقاله چند الگوی ساده برای بررسی نیروهای اقتصادی دخیل در چنین تفکراتی ایجاد می‌کند. در این مقاله، در الگو‌های مختلف مطلوبیت، بررسی می‌شود که سود حاصل از پیشرفت هوش مصنوعی در مقابل ریسک حاصل از آن چگونه تغییر می‌کند. بررسی این الگو‌ها، چندین نتیجه به همراه داشته است: 1- مطلوبیت انتخابی و نوع آن بسیار مهم است. الگو‌هایی که به‌طور قابل ملاحظه‌ای نسبت به ریسک‌های مربوط به هوش مصنوعی بی‌توجه هستند، نشان می‌دهد که پیشرفت این فناوری موجب رشد اقتصادی بالا و در نهایت مصرف بسیار زیاد خواهد شد اما در این الگو‌ها احتمال انقراض بشر در حدود یک‌سوم تخمین زده می‌شود. 2- در تابع مطلوبیت ریسک‌گریزی نسبی (CRRA) با ضریب ریسک‌گریزی 2 یا بیشتر، شرایط بسیار فرق می‌کند. این توابع مطلوبیت، محدود هستند و مطلوبیت نهایی مصرف به سرعت کاهش می‌یابد. الگو‌های دارای این ویژگی در بررسی ارزش بین سود مصرف در مقابل ریسک کاملاً محافظه‌کار هستند. به عبارت دیگر، بر اساس این الگو، سود حاصل از پیشرفت هوش مصنوعی که در قالب افزایش مصرف خودش را نشان می‌دهد، در مقابل هزینه و ریسک ناشی از آن کمتر است. 3- این یافته‌ها حتی در سناریوهای منحصربه‌فرد نیز قابل تعمیم است. اگر مطلوبیت محدود باشد -مانند توابع مطلوبیت استاندارد- زمانی که مصرف بی‌نهایت می‌شود، سود نسبتاً کمی ایجاد می‌کند. یعنی با توجه به ریسک وجودی، افراد همچنان محافظه‌کار باقی می‌مانند. 4- یک استثنای کلیدی در دیدگاه محافظه‌کارانه از ریسک وجودی وجود دارد و زمانی رخ می‌دهد که نوآوری‌های سریع مرتبط با هوش مصنوعی به فناوری‌های جدیدی منجر می‌شود که امید به زندگی را افزایش داده و مرگ‌ومیر را کاهش می‌دهد. این سودها از کاهش شدید مطلوبیت حاشیه‌ای مصرف جلوگیری می‌کند. این کاهش مرگ‌ومیر متاثر از پیشرفت هوش مصنوعی می‌تواند ریسک‌های ناشی از آن را قابل تحمل کند.

مطالعات گذشته چه می‌گوید؟

نگرانی‌های جدی در مورد خطر وجودی مرتبط با هوش مصنوعی در دهه‌های اخیر از طریق پژوهش‌هایی همچون جوی (2000)، بوستروم (2002، 2014)، ریس (2003)، پوسنر (2004)، یودکوفسکی و همکاران (2008) بررسی شده است. این نگرانی‌ها همراه با پیشرفت سریع هوش‌ مصنوعی در دهه‌های اخیر، سرعت گرفته است. کنفرانس‌های مربوط به تجزیه و تحلیل اقتصادی پیشرفت هوش مصنوعی دیدگاه‌های فراوانی در مورد هزینه‌ها و مزایای احتمالی هوش مصنوعی ارائه کرده‌اند که به خوبی از سوی Agrawal ،Gans و Goldfarb (2019) خلاصه شده است. در همین راستا، پژوهش Brynjolfsson و McAfee (2014) مزایای بالقوه بی‌شماری از هوش مصنوعی را توضیح می‌دهد، در حالی که پژوهش Brynjolfsson ،Rock and Syverson (2021) به کند شدن رشد اقتصادی به دلیل تغییرات سازمانی اشاره می‌کند، شرایطی که در زمان ظهور برق و پیدایش فناوری اطلاعات رخ داد. مقاله Acemoglu و Lensman (2023) نیز نشان می‌دهد که پذیرش بهینه فناوری‌های تحول‌آفرین مانند هوش مصنوعی در صورتی که هزینه‌ها را نتوان حذف کرد، می‌تواند به تعویق بیفتد، با آنکه می‌دانیم این تکنولوژی در کنار هزینه‌های بزرگش، منافع بزرگی را هم شامل می‌شود. پژوهش جونز (2016) مبادله بین مزایای اقتصادی فناوری‌های جدید و هزینه‌های بالقوه آنها را از نظر جان‌های ازدست‌رفته بررسی می‌کند. به عنوان مثال به بررسی اثرات سلاح‌های هسته‌ای و مخاطرات زیستی آن می‌پردازد. این مقاله استدلال می‌کند که با ثروتمندتر شدن، ممکن است بهینه باشد که نرخ رشد اقتصادی را کاهش دهیم، یا حداقل نوآوری را به سمت فناوری‌های نجات‌بخش هدایت کنیم. این مقاله با تمرکز صریح بر مزایای بالقوه شگفت‌انگیز و همچنین خطر وجودی مرتبط با هوش مصنوعی متفاوت است.

مقاله Aschenbrenner (2020) چهارچوب جونز (2016) را گسترش داد تا بر روی ریسک وجودی تمرکز کند و نویسنده این مقاله اظهار داشت که ریسک وجودی با مصرف کل افزایش می‌یابد و با کاهش مصرف کل کاهش می‌یابد. این مقاله پیشنهاد می‌کند که ممکن است در زمان بحرانی زندگی کنیم که در آن به اندازه‌ای پیشرفته هستیم که بتوانیم با ریسک بالا مواجه شویم، اما آنقدر ثروتمند نیستیم که به اندازه کافی برای کاهش مصرف هزینه کنیم.

پرده پایانی

آیا هوش مصنوعی فناوری خطرناکی است و باید متوقف شود؟ هدف این مقاله ارائه پاسخ دقیق به این سوال نیست. در عوض این مقاله با استفاده از الگو‌های ساده به بررسی اینکه چگونه پاسخ به این سوال با تغییر در تنظیمات و مطلوبیت‌های مختلف تغییر می‌کند، می‌پردازد. یکی از مولفه‌های کلیدی این است که از چه تابع مطلوبیتی برای بررسی این مساله استفاده می‌شود. با بررسی‌ها مشخص می‌شود که فواید حاصل از پیشرفت سریع تکنولوژی که در قالب افزایش استانداردهای زندگی و مصرف نشان داده می‌شود، در مقابل ریسک‌ها و مخاطرات آن جذابیت کمتری دارد. حتی در شرایطی که مصرف به سمت بی‌نهایت میل کند، مطلوبیت و رفاه حاصل از آن آنقدرها که تصور می‌شود ارزشمند نیستند که نشان از محافظه‌کاری نسبت به ریسک‌های پیشرفت سریع هوش مصنوعی دارد. در نهایت، یکی از مواردی که در آن می‌توان ریسک بیشتری را متصور شد، این است که هوش مصنوعی موجب نوآوری‌های جدیدی که امید به زندگی را بهبود می‌بخشد، می‌شود. بهبودهای مرگ‌ومیر و خطر وجودی در واحدهای یکسانی اندازه‌گیری می‌شوند در نتیجه می‌توان گفت در این شرایط می‌توان در نظر گرفت که کاهش مرگ‌ومیر ناشی از پیشرفت هوش مصنوعی می‌تواند ریسک‌های ناشی از آن را قابل تحمل کند. البته ملاحظات زیادی وجود دارد که از این تحلیل حذف شده است. به عنوان مثال، سرمایه‌گذاری در هوش مصنوعی ایمنی ممکن است خطر و ریسک‌های آن را کاهش دهد. یا ممکن است ریسک‌های هوش مصنوعی آنقدر زیاد شود که بهینه باشد استفاده از هوش مصنوعی به تاخیر بیفتد.