سرانجام انسان
آیا هوش مصنوعی نژاد بشری را به بن‌بست می‌رساند؟
برای شروع، بیایید لحظه‌ای وانمود کنیم یک ماشین زمان اختراع شده است. این ماشین ما را به آتن در یونان باستان می‌برد، به بیش از دو هزار سال پیش تا شاهد سخنرانی سقراط باشیم. حالا شما در میدان آگورا، کنار افلاطون در گوشه‌ای ایستاده‌اید. سقراط با استفاده از روش استدلال فلسفی «مائیوتیک»، به دنبال طرح ایده‌ای جدید برای توسعه یک گفتمان فکری و پرسش و پاسخ‌های متوالی و هدفمند است. او با استفاده از شیوه «ماما» که آن را شبیه شغل مادرش فنارت می‌داند (مادر سقراط یک ماما بود)، تلاش می‌کند به تولد حقیقت برسد. هدف او و دیالکتیکش، بی‌اعتبار کردن ادعاهای علمی غیراصولی و هدایت به سمت درک کافی از مقولاتی مانند اخلاقِ پیشرفت است؛ ترسیم چشم‌اندازی از پیشرفت با مزایای فوری‌اش که به یک مسوولیت فکری نیاز دارد. موضوعی که هنوز هم نهادینه نشده است. قبول ندارید؟ اگر باور نمی‌کنید بیایید با همان ماشین زمان به سال 2022 بازگردیم.
کشتن اخلاقی
تصور کنید به جای ایستادن در آگورا، در اتاق جلسات تسلا نشسته‌اید. در کنار ایلان ماسک و تعدادی از ابرمهندسان و پژوهشگران آزمایشگاه ام‌آی‌تی. هدف از این جلسه پرداختن به یک معضل اخلاقی، نوشتن کد برای نرم‌افزار تسلا و بررسی هوش مصنوعی این خودرو است. آنها باید تصمیم بگیرند با عابران پیاده غیرمنتظره‌ای که جلوی ماشین در حال حرکت تسلا قرار می‌گیرند چه کنند و اگر هوش مصنوعی مجبور به انتخاب شد، یک خودرو خودران باید چه کسی را در یک تصادف اجتناب‌ناپذیر بکشد؟ آیا برای نجات عابران پیاده باید مسافر (یا مسافران) قربانی شود؟ یا برای نجات یک خانواده چهارنفره در خودرو باید عابران پیاده بمیرند؟ و اگر عابران پیاده بچه بودند چه؟ اگر بچه‌هایی که در کنار جاده فوتبال بازی می‌کنند، یکدفعه برای برداشتن توپ خود به وسط خیابان بپرند چه باید کرد؟ اصلاً هوش مصنوعی چگونه می‌تواند بهترین تصمیم اخلاقی را در زمان واقعی بگیرد؟ تصمیمی که یکی از سخت‌ترین تصمیمات دنیای دیجیتال و در واقع همانی است که مهندسان، توسعه‌دهندگان نرم‌افزار و رهبران هوش مصنوعی باید بگیرند. شما که در آن جلسه نشسته‌اید چه فکر می‌کنید؟ طبق تحقیقات ام‌آی‌تی بیش از 40 میلیون پاسخ برای این سوالات وجود دارد که اسمش را تصمیمات ماشین اخلاقی گذاشته‌اند و عمیقاً ترسناک است. نتایج حاصل از تحلیل تصمیم‌ها نشان می‌دهد مردم ترجیح می‌دهند انسان‌ها را به جای حیوانات نجات دهند و نجات جوانان نسبت به افراد مسن در اولویت قرار بگیرد. همچنین در نجات زنان نسبت به مردان، نجات افراد دارای موقعیت بالاتر نسبت به افراد فقیرتر و نجات عابران پیاده به جای مسافران با توجه به تنوع فرهنگی و نژادی تفاوت انتخاب دارند. یک سوگیری محرز در تصمیمات وابسته به هوش مصنوعی که به ادعای 10 روز پیشِ مدیران عامل آزمایشگاه‌های هوش مصنوعی دیپ مایند، اوپن‌ای‌آی و آنتروپیک، نه فقط در صنعت خودرو که می‌تواند در تمامی ابعاد زندگی انسانی خطرناک باشد؛ چون اگر رهبران هوش مصنوعی بخواهند بر مبنای چنین سوگیری‌هایی کد بنویسند و دولت‌ها بر اساس نرم‌افزارهای کددار، بازی حاکمیتی و دیپلماتیک خود را پیش ببرند، هوش مصنوعی به اندازه بیماری‌های همه‌گیر و جنگ‌های هسته‌ای بشر را به انقراض می‌کشاند و حتی آن‌گونه که جفری هینتون، «پدرخوانده هوش مصنوعی» ماه گذشته با کناره‌گیری از سمت خود در گوگل مدعی شد، آینده آخرالزمانی را با سرعتی غیرقابل‌باور به زندگی انسان‌ها نزدیک و نزدیک‌تر می‌کند. فراتر از آن با سوگیری سیستمی، اطلاعات غلط، استفاده مخرب، حملات سایبری و تسلیحاتی مدنظر دن هندریکس، مدیر مرکز ایمنی هوش مصنوعی، جنگ‌های تسلیحاتی و اتمی ابرانسانی خودمختار، سیاره زمین را نابود خواهد کرد. اما آیا واقعاً این‌گونه خواهد شد؟ آیا همان‌طور که مایکل کلر، استاد مطالعات صلح و امنیت جهانی در کالج همپشایر، هشدار می‌دهد، هرگونه نوآوری با هوش مصنوعی، به «جنگ فلش» یا «سقوط‌های ناگهانی» شبیه وال‌استریت منجر می‌شود؟ آیا طبق ادعای ایان برمر، مشاور ریسک‌های سیاسی و ژئوپولیتیک کاربردی دانشگاه کلمبیا، انقلاب هوش مصنوعی با خطرات متاستازی فاقد عقل انسانی، می‌تواند منطق اغواکننده غیرمنطقی هوش مصنوعی را به یک زنجیره فرماندهی غیرقابل کنترل برساند؟ یا به گفته لوچانو فلوریدی، استاد فلسفه و پژوهشگر مرکز اخلاق کاربردی آکسفورد اُهیرو، ما با اینفوسفر، واقعیت انسانی را از دست می‌دهیم و به عنوان بردگان هوش مصنوعی کاری را با نژاد انسانی می‌کنیم که خواهر راست‌گرای نیچه کرد؛ یعنی هلوکاستی مدرن را رقم می‌زنیم؟
تکینگی فناوری
پاسخ به این سوالات، عملاً یک مجهول معلوم است. هوش مصنوعی بعد از مقاله معروف «ذهن» و آزمون آلن تورینگ در سال 1950، اولین موفقیت مستند یک برنامه کامپیوتری هوش مصنوعی توسط کریستوفر استراچی در سال 1951 و طرح رسمی و آکادمیک جان مک کارتی (پروژه دارتموث) در یک کنفرانس تابستانی کوچک در سال 1956، راه درازی را پیموده است. به گونه‌ای که اثرگذاری فناوری هوش مصنوعی، بعد از قرارداد تورینگ، پیشنهاد دارتموث، فرضیه هوش مصنوعی جان سرل، فرضیه سیستم نماد فیزیکی آلن نیوول و هربرت و مکانیسم هابز بیشتر شده است؛ و از آن زمان تاکنون با وجود تکرار «زمستان‌های AI»، برای کمک به توالی RNA برای واکسن‌ها، الگو‌سازی گفتار انسانی، شبیه‌سازی مغز، منطق صوری، و تقلید رفتار جانوران بارها استفاده شده و فناوری‌های مبتنی بر یادگیری ماشینی که به‌طور فزاینده‌ای بر ادراک، استدلال و تعمیم تکیه دارند به واسطه آن به بدیهیات تبدیل شده‌اند. طبق جدیدترین آمار Statista، رقم کل بازار فناوری هوش مصنوعی از 100 میلیارد دلار در سال 2021 به چیزی حدود 180 میلیارد دلار در سال 2022 رسیده و پیش‌بینی می‌شود این روند رو به افزایش از 400 میلیارد دلار در سال 2025 به مرز 600 میلیارد دلار در سال 2026 برسد. حتی طبق بررسی‌های استوارت راسل، متفکر پیشگام هوش مصنوعی، با رسیدن اندازه و رقم بازار روبات‌های هوش مصنوعی از نوع AGI به 80 میلیارد دلار در سال 2030، هوش مصنوعی در صنایع و بخش‌های مختلف سهم بزرگی را ایفا خواهد کرد. حوزه اتوماسیون روباتیک فرآیند با 39 درصد بیشترین سهم از مشاغل مرتبط با هوش مصنوعی را به‌خود تخصیص می‌دهد و بعد از آن هم دید کامپیوتری با 34 درصد در رده دوم و درک متن با زبان طبیعی به‌طور مشترک با عوامل مجازی یا رابط‌های مکالمه‌ای با سهم 33درصدی در رده سوم قرار می‌گیرند. همچنین حضور این هوش که اینک از کل صنایع در بخش منابع انسانی 9 درصد، تولید 12 درصد، فروش و بازاریابی 20 درصد، توسعه تولید و خدمات 23 درصد، ریسک‌پذیری 13 درصد، عملیات‌های خدماتی 25 درصد، استراتژی و امور مالی شرکتی چهار درصد و در بخش مدیریت زنجیره تامین تا 18 درصد است، طی هفت سال آینده به طرز غیرقابل باوری افزایش می‌یابد تا زنگ خطر بسیاری از زنجیره‌های تامین و تولید جهانی دچار تکانه‌های بزرگی شود. اتفاقی که مدافعان فرضیه «تکینگی فناوری» مانند دیه‌گو کلابجان، استاد دانشگاه نورث وسترن که به عنوان «شکاک و دشمن AGI» شناخته می‌شود، آن را «آغاز عصر روبات‌های جنگی تغذیه‌شونده به‌وسیله انسان‌های شرور با انگیزه‌های معیوب» می‌دانند. مکس تگمارک سوئدی از آن به عنوان «احضار دیوها» و زندگی در میان «ابرهوش‌های ناهمسو» یاد می‌کند که با فعال‌سازی دیکتاتوری جهانی وحشیانه از طریق نابرابری بی‌سابقه و نظارتی خودکامه، انقراض انسانی را رقم می‌زند. لری پیج، از بنیانگذاران گوگل، به آن نام «ظهور اتفاقی ماشین‌های قاتل» می‌دهد؛ و 352 پژوهشگر تکامل هوش مصنوعی در پژوهش موسسه آینده بشریت آکسفورد، با آنکه هوش مصنوعی را تا سال 2049 استیون کینگ دیگر و تا سال 2053 چارلی تئو بعدی می‌دانند، احتمال آغاز عصر «دود شدن زمین با یک منظره جهنمی» را پیش‌بینی می‌کنند و از رهبران، پیشگامان و مردم جهان می‌خواهند به جای زندگی زیر سنگ از ترس عصر ویرانی و روبات‌ها، خطرات هوش مصنوعی را در کنار فواید آن در نظر بگیرند و با تکثیر رهبری و پلیس فناوری انسانی طبق یک توافق جهانی و اخلاق زیستی، برای مواجهه با رخدادی که اجتناب‌ناپذیر است آماده شوند. البته با لحاظ اینکه اخلاق زیستی، یک امر محاسباتی نیست بلکه یک فرآیند وجدان‌سازی است. از این حیث و آن‌گونه که مایکل چنگ-تک تای، جامعه‌شناس دانشگاه چونگ شان در «تاثیر هوش مصنوعی بر جامعه انسانی و اخلاق زیستی» استدلال می‌کند هرچند طراحان هوش مصنوعی می‌توانند تمامی اطلاعات داده‌ها را در هوش مصنوعی بارگذاری کنند تا به عنوان یک انسان عمل کند، ولی همچنان یک ماشین و یک ابزار است و بدون داشتن احساسات اصیل انسانی و ظرفیت دلسوزی همیشه هم به عنوان هوش مصنوعی باقی خواهد ماند. بنابراین، باید با احتیاط کامل به فناوری هوش مصنوعی اجازه پیشرفت داد و در توسعه حاصل از آن همان‌طور که سیاستمدارانی چون اورسولا فن در لاین و بایدن یا رهبران هوش مصنوعی مانند ایلان ماسک، عماد مستاک، یوشوا بنجیو، استوارت راسل، ساندار پیچای و جفری هینتون خواستار جهت‌گیری مسوولانه و اخلاقی هستند و در «کتاب سفید هوش مصنوعی» پایگاه «CSET» نیز تاکیداتی پیرامون چشم‌انداز آن لحاظ شده است، صرفاً با آزمایش و تجدیدنظر در برخی از موارد می‌توان از فواید هوش مصنوعی بهره برد.
تسخیر اقتصادی
مزایا و فوایدی که استوارت راسل در بحث با جیمز مانیکا، رئیس مشترک موسسه جهانی مک کینزی در مینی پادکست «McKinsey on AI» آنها را «برآورد اجماع انتزاعی از ایده‌ها» برای خلق چیزهایی می‌داند که قرار نیست جهان را تسخیر کنند اما تحت دو نوع ضعیف و پیشرفته خود در لایه به لایه تمدن برای خدمت به جامعه بشری ایجاد می‌شوند و در قالب سه اصل مشابه و کاملاً تصادفی با قوانین سه‌گانه آسیموف جهت جلوگیری از شورش روبات‌ها علیه انسان‌ها، سودمندی انسانی با تلاش برای شناخت معنای سودمندی و توانایی ترجیح‌دهی به نیازهای انسانی بر اساس اطلاعات رفتاری را به وجود می‌آورند. برای نمونه و با استناد به بررسی‌های بَنک آو آمریکا و «PwC» هوش مصنوعی تا سال 2026 به اقتصاد جهانی 900 میلیارد دلار و تا سال 2030، 7 /15 تریلیون دلار کمک می‌کند. تولید ناخالص جهانی را تا 26 درصد افزایش می‌دهد، طی پنج تا هفت سال آینده، باعث می‌شود جریان نقدی آزاد شرکت‌ها تا 122 درصد افزایش یابد و به همین دلیل، 44 درصد از شرکت‌های جهان در پنج ماه گذشته از سال 2023 به دنبال سرمایه‌گذاری جدی در هوش مصنوعی و ادغام آن با تجارت خود خواهند بود و از هر 10 هزار پتنت دریافت‌شده از سوی مخترعان IBM حدود 2500 مورد به هوش مصنوعی اختصاص خواهد داشت. علاوه بر آن، انتظار می‌رود این فناوری تا سال 2030، با اختصاص 45 درصد از کل سود اقتصادی حاصل از بهبود محصول و تحریک تقاضای مصرف‌کننده و افزایش 5 /14 تا 26درصدی تولید ناخالص داخلی، معادل 7 /10 تریلیون دلار سود ایجاد کند و تقریباً بر 70 درصد از اقتصاد جهانی تاثیر بگذارد. کمااینکه بر اساس گزارش مجمع جهانی اقتصاد، اگرچه تا سال 2025، بالغ بر 85 میلیون شغل به دلیل اتوماسیون و پیشرفت هوش مصنوعی جابه‌جا خواهد شد، اما به موازات آن، 97 میلیون شغل جدید تا سال 2025 ایجاد می‌شود تا نیازهای شغلی افزایش‌یافته را برآورده کند. فراتر از آن، صنعت تولید نیز در چشم‌انداز هوش مصنوعی بر اساس مطالعات «Accenture» متمایزتر خواهد شد و انتظار می‌رود تا سال 2035 از هوش مصنوعی 78 /3 تریلیون دلار عاید بخش تولید شود، اطلاعات و ارتباطات، تولید و خدمات مالی بالاترین نرخ رشد سالانه را به ترتیب با 8 /4، 4 /4 و 3 /4 درصد تا سال 2035 داشته باشند و طبق گزارش McKinsey، افزایش بهره‌وری 20درصدی، کاهش هزینه‌های تعمیر و نگهداری 30درصدی و کاهش زمان توقف برنامه‌ریزی‌نشده 50درصدی در زنجیره تامین و تولید جهان ماحصل استفاده از هوش مصنوعی باشد؛ البته اگر خطرات آن کنترل شوند.
نهنگ‌های شاخ‌دار
سانتیاگو زابالا، پروفسور پژوهشی مرکز تحقیقات و مطالعات ابررایانه‌ای ICRE و ایندرمیت گیل، اقتصاددان ارشد و معاون ارشد توسعه اقتصادی بانک جهانی، معتقدند هوش مصنوعی یک بازی صفر و یک، در زمین انسان‌هاست و نباید صرفاً با استناد به فوایدی که به همراه دارد، خطرات بزرگش را نادیده گرفت. اگرچه بسیاری معتقدند هر کسی که در سال 2030 در هوش مصنوعی پیشرو باشد، تا سال 2100 بر جهان حکومت خواهد کرد اما واقعیت آن است که حتی اگر تا هفت سال آینده حدود ۷۰ درصد از شرکت‌ها انقلاب هوش مصنوعی یا حداقل یک نوع فناوری از آن را پذیرفته باشند باز هم به ازای این پذیرش چیزهای بزرگی را از دست خواهند داد. برای نمونه تا سال 2030، روبات‌ها تا 30 درصد از نیروی کار فعلی جهان را حذف می‌کنند. طبق گزارش‌های گلدمن ساکس، هوش مصنوعی AI جایگزین 300 میلیون شغل تمام‌وقت می‌شود. بسته به سناریوهای مختلف پذیرش، اتوماسیون بین 400 تا 800 میلیون شغل را جابه‌جا می‌کند، کارگران تحصیل‌کرده یقه‌سفیدی که تا 80 هزار دلار در سال درآمد دارند، بیشترین تاثیر را از اتوماسیون نیروی کار می‌گیرند، دو میلیون کارگر تولیدی کارشان را کامل از دست می‌دهند، 65درصد خرده‌فروشی‌ها تا سال 2031 به‌خاطر روبات‌ها به‌طور کامل بی‌نیاز از نیروی انسانی می‌شوند، تا اواسط 2030، بیش از 30 درصد مردان خانه‌نشین خواهند شد، در عین حال جهان به 375 میلیون نفر نیاز دارد تا به‌طور کامل دسته‌های شغلی را تغییر دهد و تا سال 2037، در بدبینانه‌ترین سناریو، تمام مشاغل انسانی خودکار خواهند شد که این یک فاجعه انسانی است. کمااینکه باید انزوا و نابودی استقلال انسانی، حذف روابط چهره به چهره و اجتماعی، نابرابری درآمدی و توزیع آشکار و Mشکل ثروت، تعصب نژادی و ادیانی، خودمحوری آموزشی و مهارتی، سوگیری‌های جهش‌یافته جهانی، مسابقه‌های تسلیحاتی، ناتوانی در کنترل امنیت اطلاعاتی، تضعیف نهادهای سیاسی و دموکراسی، حذف اخلاق زیستی، تخریب زیست‌محیطی و انقراض انسانی و حیوانی را نیز به این تبعات اضافه کرد و مانند جاستین گرگ در کتاب «اگر نیچه نهنگ شاخ‌دار بود؟»، از رهبران و سرمایه‌گذاران هوش مصنوعی پرسید: «آیا قرار است نوآور و موفق باشیم تا زمین و نژاد انسانی را منقرض کرده و به بن‌بست برسانیم» یا نیاز داریم، با گفتمانی جهانی، نگذاریم ماشین‌ها که نژاد بشری برایشان به اندازه ماموت‌ها ارزش دارد، جهنم ما انسان‌ها شوند و خاکمان کنند؟
