نوع‌دوستی موثر

هاینریش هاینه (Heinrich Heine)، شاعر آلمانی، نوشت که اندیشه پیش‌درآمد عمل است، همان‌گونه که آذرخش پیش‌درآمد غرش رعد. این گفته در مورد «نوع‌دوستی موثر» (effective altruism) نیز صدق می‌کند. آموزه‌ای اخلاقی که از سوی فیلسوفان آکسفورد تدوین شد و با سرعتی چشمگیر، از برج‌های عاج دانشگاهی به راهروهای قدرت راه یافت. طرفداران نوع‌دوستی موثر در سیلیکون‌ولی حضوری پررنگ دارند و در شرکت‌های پیشرو هوش مصنوعی جهان مشغول به کارند. و البته، دولت ترامپ را نیز نگران کرده‌اند. پنتاگون متعهد شده است که ایالات‌متحده هرگز کشوری با رویکرد نوع‌دوستی موثر نخواهد بود. وزیر دفاع این فلسفه را «نوع‌دوستی معیوب» می‌خواند و دیگر مقامات دولت آن را «ویران‌شهری» (dystopian) توصیف می‌کنند. این حملات را باید نشانه‌ای از میزان نفوذ این تفکر دانست. برخی گلایه دارند که قرن بیست و یکم شاهد اندیشه‌های نو چندانی نبوده است. در این خلأ، جنبش ماگا (MAGA) و هم‌فکرانش پا به میدان گذاشته و «پوپولیسم نوستالژیک» را به پروژه سیاسی بزرگ این قرن بدل کرده‌اند. بااین‌حال، ایده بزرگ این قرن «نوع‌دوستی موثر» است. همان‌طور که گزارش می‌دهیم، آنچه در دهه ۲۰۰۰ به‌عنوان روشی تخصصی و فنی برای افزایش اثربخشی هزینه‌ای کمک‌های خیریه آغاز شد، اکنون به جنبشی تبدیل شده است که جهان را در معرض محاسبات اخلاقی پیچیده و حتی عجیب‌وغریب قرار می‌دهد. برای بسیاری از پیروان این جنبش، فوری‌ترین وظیفه اخلاقی کسانی که قصد انجام کار خیر دارند، جلوگیری از نابودی بشریت به دست هوش مصنوعی است. نوع‌دوستی موثر از نظر جامعه‌شناسی نیز مهم است. تعداد طرفداران نوع‌دوستی موثر زیاد نیست، اما این ایده نسلی از جوانان بااستعداد را پرورش داده که در حوزه ارزهای دیجیتال و هوش مصنوعی ثروت زیادی به‌دست آورده‌اند. همچنان‌که این فناوری میلیاردرهای بیشتری را به خود جذب می‌کند، نیکوکاران موثر میلیاردها دلار را به سمت اهدافی هدایت می‌کنند که جامعه را شکل می‌دهد. طرفداران نوع‌دوستی موثر با این باور که کسانی که خطرات هوش مصنوعی را درک می‌کنند باید توسعه آن را کنترل کنند، به راه‌اندازی آزمایشگاه‌های پیشرو اوپن ای‌آی و آنتروپیک، کمک کردند. آنها تا حدی اکنون این کار را انجام می‌دهند هرچند، از قضا، با ایجاد آزمایشگاه‌های بیشتر و در نتیجه رقابت، احتمالاً پیشرفت هوش مصنوعی را تسریع کرده‌اند. مجموعه این عوامل اکنون نوع‌دوستی موثر را از نظر سیاسی دارای اهمیت کرده است. دولت ترامپ نگران آن است که این جنبش در متوقف کردن روند پیشرفت هوش مصنوعی موفق شود، چنان‌که بر سر امتناع شرکت آنتروپیک از صدور مجوز استفاده از مدل‌هایش برای برخی مقاصد نظامی با این شرکت دچار اختلاف شده است. اگرچه چهره‌های شاخص این جنبش اذعان دارند که هوش مصنوعی می‌تواند درنهایت بسیار سودمند باشد، اما بااین‌حال خواهان کند کردن روند توسعه آن هستند تا احتمال طغیان یک «ماشین-مغز» مهارناپذیر را کاهش دهند. ماشینی که ممکن است در مسیر دستیابی به اهدافی حرکت کند که با اهداف بشریت هم‌سو نیستند.

برخی منتقدان در آمریکا ترجیح می‌دهند این فناوری را تسریع کنند تا از پیروزی چین در این رقابت جلوگیری کنند. اما وقتی به منفی‌گرایی مربوط به هوش مصنوعی حمله می‌کنند، بازی با خرافات را آسان‌تر از بازی با واقعیت می‌دانند. آنها می‌گویند که نوع‌دوستی موثر جنبشی از متعصبان است که به طرق مختلف غیردموکراتیک خطرناک و فرقه‌ای عمل می‌کنند. این ایده خیلی خام است. ریشه‌های حسن‌نیت در این جنبش آشکارا ستودنی است. طرفداران نوع‌دوستی موثر همانند نشریه اکونومیست به تجربه‌گرایی و به‌ویژه از زمانی که با جامعه خردگرای آنلاین ترکیب شده‌اند، به کاربرد تفکر منطقی متعهدند. آنها عقل را در جایگاه بالاتری نسبت به سنت یا هنجارها قرار می‌دهند و با اشتیاق در مورد هر موضوعی، هر چقدر هم بحث‌برانگیز، در جست‌وجوی حقیقت بحث می‌کنند. موفقیت‌های مکرر طرفداران نوع‌دوستی موثر در پیش‌بینی پیشرفت سریع هوش مصنوعی نیز چشمگیر بوده است. آنها به‌درستی به خطرات این فناوری برای بشریت اشاره می‌کنند. شرکت اوپن ای‌آی در ۲۸ سپتامبر برنامه انتشار جدیدترین مدل خود را لغو کرد زیرا این مدل در مرحله آزمایش بیش از حد خطرناک به‌نظر می‌رسید. بسیاری از حوادث ایمنی اخیر، یادآور سناریوهای هولناکی هستند که سال‌ها پیش در وبلاگ‌های طرفداران نوع‌دوستی موثر مطرح شده بودند. بااین‌حال، منتقدان حق دارند هشدار دهند که نوع‌دوستان موثر به نتایج عجیبی می‌رسند. آنها نیز همچون فیلسوفان فایده‌گرای پیش از خود، رفتار اخلاقی را به مسئله‌ای در باب بهینه‌سازی تقلیل می‌دهند. 

فلسفه نوع‌دوستی موثر با قوی‌تر شدن، عجیب‌تر نیز شده است. برخی از طرفداران آن تمایز اخلاقی میان انسان‌ها و سایر حیوانات را ضعیف می‌دانند، زیرا حیوانات هم رنج را تجربه می‌کنند. توقف کشاورزی صنعتی و کمک به میگوها از نگرانی‌های اصلی آنها هستند. به همین ترتیب، آنها رویکردی خلاف شهود به زمان دارند. آنهایی که هنوز به دنیا نیامده‌اند باید در ترازو قرار گیرند و ممکن است تریلیون‌ها نفر از آنها وجود داشته باشد. بسیاری از طرفداران نوع‌دوستی موثر بلندمدت‌گرا هستند که احساس می‌کنند موظف‌اند از خطرات در آینده دور جلوگیری کنند، حتی اگر این امر اهداف خوب امروز، مانند کمک به فقرای ناامید را از بین ببرد. اگر این محاسبه به افراط کشیده شود، به اخلاقیاتی منتهی می‌شود که نه‌تنها خلاف شهود بلکه نفرت‌انگیز نیز هست. برخی از طرفداران نوع‌دوستی موثر فکر می‌کنند که زندگی حشرات در مجموع ارزشمندتر از زندگی انسان است، زیرا حشرات بسیار زیادی وجود دارند. برخی می‌گویند بهتر است تریلیون‌ها انسان وجود داشته باشند که زندگی‌شان ارزش زیستن ندارد، تا اینکه فقط میلیاردها انسان با زندگی واقعاً خوب داشته باشیم. برخی دیگر حتی فکر می‌کنند که رفاه خود هوش مصنوعی روزی از اهمیت حیاتی برخوردار خواهد شد. آنها منابع را به سمت انسان‌ها یا غیرانسان‌های آینده هدایت و از افرادی که امروز رنج می‌برند دور می‌کنند. احترام به عقل درست است. اما فیلسوفان اخلاق از ارسطو تا رالز می‌دانستند که اگر استدلالی به جاهای غیرقابل تحمل برسد، حتماً یک گام معیوب پنهان دارد. بااین‌حال، غریزه طرفداران نوع‌دوستی موثر این است که از نتیجه‌گیری‌های خلاف شهود لذت ببرد، حتی اگر منحرف به‌نظر برسند. یک مشکل، حاشیه خطایی است که ناگزیر با استدلال‌های نوع‌دوستی موثر همراه است. هیچ‌کس واقعاً توان سنجش معضلات اخلاقی مربوط به میلیاردها دلار امروز را ندارد، چه رسد به مبالغ هنگفتی که تا آینده امتداد دارند و شامل تعداد نامشخصی از افراد، نرخ‌های تنزیل، پیشرفت فناوری و متغیرهای بی‌شمار دیگر می‌شوند. نکته دیگر این است که انقراض آنقدر وحشتناک است که در یک حساب و کتاب اخلاقی خام، حتی احتمال کمی برای آن، بر نگرانی‌های مربوط به جسم و خون امروزی غلبه می‌کند. نکته سوم این است که هنگام سنجش منافع میلیاردها انسان، کرامت ذاتی فرد از نظر دور می‌ماند. هر کسی که با تکیه بر جداول آماری و ادعاهای پرطمطراق درباره آینده بشریت وارد میدان می‌شود، تنها یک گام با این فاصله دارد که خود را در جایگاه یک «برنامه‌ریز کلان» (یا متولیِ مرکزی امور) بنشاند. وقتی فرد خود را صاحب صلاحیت اخلاقی می‌پندارد، ممکن است حقوق، رفاه و نظرات همسایه‌اش در نظر او بی‌اهمیت جلوه کند. انقلاب فرانسه ظاهراً بر پایه عقل بنا شده بود، اما به اعدام راهبه‌ها انجامید. لنین نیز بر این باور بود که روشنفکران مسلط بر فلسفه مارکسیسم منافع کارگران را بهتر از خود آنان درک می‌کنند. اگر واقعاً معتقد باشید که به نمایندگی از تمام مردم -چه رسد به تریلیون‌ها انسانِ آینده- عمل می‌کنید، ممکن است درنهایت دست به توجیه انواع و اقسام جنایات هولناک بزنید. خوشبختانه، نمی‌توان گفت که طرفداران نوع‌دوستی موثر قصد بازگرداندن گیوتین را دارند. در عوض، ترس این است که کنترل هوش مصنوعی درنهایت قدرت زیادی برای آنها به ارمغان بیاورد و اینکه بسیاری از طرفداران نوع‌دوستی موثر در سیلیکون‌ولی فکر می‌کنند که فقط می‌توان به آنها در مورد این فناوری اعتماد کرد. این یک ایده نگران‌کننده است. استدلال طرفداران نوع‌دوستی موثر برای نگرانی در مورد هوش مصنوعی واقعاً قدرتمند این است که ماشین‌ها می‌توانند برای یک هدف واحد و به‌طرز مرگباری اشتباه بهینه شوند. همه باید نگران این باشند که وقتی گروه کوچکی از مردم در همان دام می‌افتند، چه اتفاقی خواهد افتاد.