برهوت خلاقیت

در سال‌های اخیر، گفتمان عمومی پیرامون هوش مصنوعی به‌شدت زیر سلطه دو روایت متضاد قرار داشته است. از یک سو، روایت شیفتگان فناوری که در آن هوش مصنوعی به‌مثابه نیرویی رهایی‌بخش برای بهره‌وری و خلاقیت انسانی ترسیم می‌شود و از سوی دیگر روایت بدبینانی که آینده‌ای آخرالزمانی از حاکمیت ماشین‌ها را پیش‌بینی می‌کنند. در این میان پرسش‌هایی ظریف‌تر و البته بنیادی‌تر، مغفول واقع شده است. پرسش‌هایی مانند اینکه استفاده از فناوری هوش مصنوعی چه اثری بر توانایی شناختی انسان در درازمدت خواهد داشت؟ آیا ممکن است ابزاری که برای تقویت قوای فکری ما طراحی شده است، به‌تدریج باعث زوال همان توانایی شود؟

«هوش مصنوعی، شناخت انسان و فروپاشی دانش» نوشته «دارون عجم‌اوغلو» و «آسومان ازداغلر» و «دینگون کنگ» را می‌توان تلاشی در جهت پاسخ به این پرسش دانست. «هوش مصنوعی، شناخت انسان و فروپاشی دانش» درواقع یکی از مهم‌ترین مداخلات نظری در حوزه اقتصاد سیاسی، هوش مصنوعی، معرفت‌شناسی اجتماعی و فلسفه شناخت در دهه دوم قرن بیست و یکم است و به جرات می‌توان گفت اولین تلاش نظام‌مند مبتنی‌بر مدل‌سازی ریاضی برای پاسخ به موضوعی بسیار مهم است. نویسندگان تلاش می‌کنند مسئله را در قالب یک مدل صوری پویا دسته‌بندی کنند: چگونه استفاده گسترده از سامانه‌های هوش مصنوعی مولد می‌تواند انگیزه‌های یادگیری را تضعیف کند و در بلندمدت به فروپاشی دانش جمعی بینجامد؟

عجم‌اوغلو که بی‌شک یکی از تاثیرگذارترین اقتصاددانان زنده جهان است و در سال 2024 به پاس پژوهش‌هایش درباره نهادها و رفاه طولانی‌مدت جایزه نوبل را دریافت کرد، در این پژوهش به همراه همکارانش به سراغ رابطه میان هوش مصنوعی عامل و آینده دانش بشری رفته است. اما چرا فروپاشی دانش به یک دغدغه جدی بدل شده است؟ در اقتصاد متعارف، دانش اغلب به‌عنوان یک کالای عمومی در نظر گرفته می‌شود، به این معنا که غیررقابتی است و استفاده من یا شما از آن، باعث کاهش دسترسی دیگری نمی‌شود. از سوی دیگر حداقل از منظر تئوری دانش غیرقابل حذف است، یعنی کسی را نمی‌توان از استفاده از آن بازداشت. اما نویسندگان کتاب، تمایز ظریفی میان دانش عمومی و دانش خصوصی قائل می‌شوند. دانش عمومی مجموعه‌ای مشترک از باورها، نظریه‌ها و روش‌های تاییدشده در یک جامعه علمی و حرفه‌ای است. این دانش زیرساخت شناختی لازم برای حل مسائل را فراهم می‌کند. در مقابل دانش خصوصی به اطلاعاتی اطلاق می‌شود که به موقعیت و زمینه خاص هر عامل مربوط است و بیشتر از طریق تجربه و تلاش شخصی حاصل می‌شود. انسان‌ها هنگام یادگیری معمولاً هر دو نوع دانش را همزمان تولید می‌کنند. فردی که برای حل مسئله‌ای تلاش می‌کند، نه‌فقط پاسخ موردنیاز خود را به‌دست می‌آورد، بلکه همزمان و در طی همان فرآیند بخشی از دانش عمومی قابل اشتراک را هم تولید می‌کند. دانش عمومی بدون دانش خصوصی، صرفاً یک انتزاع بی‌ثمر است و دانش خصوصی بدون اتکا به دانش عمومی نمی‌تواند معنادار و قابل‌استفاده باشد. نویسندگان با مثالی روشن این بحث را برای خواننده شفاف می‌کنند: دانش عمومی پزشکی به ما فهرستی از علت‌های ممکن را نشان می‌دهد که می‌تواند باعث تب بیمار شده باشد، اما دانش خصوصی درباره یک بیمار خاص است که می‌تواند مشخص کند کدام عامل موجب تب شده است. یکی از اینها بدون دیگری کارایی ندارد.

هوش مصنوعی جانشین انسان می‌شود؟

اما نوآوری اصلی این کتاب در مفهوم اقتصاد مقیاس یادگیری نهفته است. در مدل مطرح‌شده در «هوش مصنوعی، شناخت انسان و فروپاشی دانش» همان‌طور که بالاتر اشاره کردیم، هر دو نوع دانش همزمان تولید می‌شود و بخش عمومی دانش تولیدشده به‌تدریج و با انباشت در طول زمان دانش عمومی جامعه را ارتقا می‌دهد. به‌عبارت دیگر هر بار که یک پزشک، بیماری را معاینه می‌کند، یعنی کاری انجام می‌دهد که مستلزم صرف تلاش شناختی است. در نتیجه این تلاش پزشک نه‌فقط در مورد آن بیمار خاص اطلاعات کسب می‌کند، بلکه به انبان دانش عمومی نیز یافته‌ای، هرچند کوچک، اضافه می‌کند. این مفهوم است که بنیان کتاب را می‌سازد، تلاش فردی منافعی برای کل جامعه ایجاد می‌کند که در محاسبات خصوصی فرد لحاظ نمی‌شود. اما هوش مصنوعی عامل، چگونه این روند را دچار مشکل می‌کند؟ هوش مصنوعی عامل از نظر نویسندگان به سیستم‌هایی اطلاق می‌شود که می‌توانند پیشنهادهایی با توجه به شرایط موضوع ارائه دهند. نکته کلیدی در این تعریف، جانشینی است، یعنی هرچه هوش مصنوعی دقیق‌تر باشد، عامل انسانی نیاز کمتری به‌صرف تلاش شناختی برای کسب دانش خصوصی دارد. این بدان معناست که هوش مصنوعی جانشین تلاش انسانی شده است و آن‌طور که فرض می‌شود، مکمل آن نیست.

اما این جانشینی چه پیامدهایی برای دانش عمومی دارد؟ پاسخ «هوش مصنوعی، شناخت انسان و فروپاشی دانش» ظریف و درعین‌حال نگران‌کننده است. با کاهش تلاش شناختی نه‌فقط دانش خصوصی هر فرد کاهش می‌یابد، که دانش عمومی مرتبط با آن هم تولید نمی‌شود، در نتیجه دانش عمومی جامعه روزبه‌روز تحلیل می‌رود و چون دانش عمومی و خصوصی مکمل یکدیگر هستند، کاهش یکی بازدهی تلاش برای کسب دیگری را هم کاهش می‌دهد. یعنی یک چرخه فزاینده منفی شکل می‌گیرد که مرتب تقویت شده و می‌تواند جامعه را به سمت فروپاشی دانش یعنی وضعیتی که در آن دانش عمومی به صفر می‌رسد، سوق دهد.

در این حالت حتی خود سامانه‌های هوش مصنوعی هم از منبع دانشی تازه محروم می‌شوند. این ایده از حیث مفهومی بسیار قدرتمند است، زیرا رابطه‌ای متقابل میان انسان و ماشین را ترسیم می‌کند. هوش مصنوعی برای عملکرد موثر به داده و دانش انسانی نیاز دارد، اما موفقیت بیش از اندازه هوش مصنوعی، می‌تواند همان منابع انسانی را تضعیف کند.

از نظر روش‌شناسی کتاب در قالب یک مدل پویا و ریاضی ایده خود را بیان می‌کند. نویسندگان با استفاده از نظریه بازی‌، اقتصاد اطلاعات و مدل‌های یادگیری اجتماعی نشان می‌دهند که چگونه افزایش دقت هوش مصنوعی، می‌تواند به کاهش تلاش انسانی منجر شود و این کاهش تلاش ذخیره دانش عمومی را تحلیل ببرد. برخلاف تصور رایج که هرچه هوش مصنوعی دقیق‌تر باشد، بهتر است، نویسندگان استدلال می‌کنند که ممکن است سطحی بهینه از دقت وجود داشته باشد و افزایش بیش‌ازحد توان هوش مصنوعی، رفاه بلندمدت را کاهش دهد.

این نتیجه‌گیری از حیث فلسفه فناوری اهمیت زیادی دارد، زیرا مستقیماً با اصل وجودی سیلیکون‌ولی در تضاد است. در روایت مسلط تکنولوژیک، هر پیشرفت فنی ذاتاً مطلوب تلقی می‌شود. اما این کتاب نشان می‌دهد که فناوری می‌تواند پیامدهای سیستمی ناخواسته داشته باشد. حتی اگر هر فرد به‌صورت عقلانی از هوش مصنوعی استفاده کند، باز هم نتیجه جمعی می‌تواند فاجعه‌بار باشد. این استدلال ریشه در سنت کلاسیک اقتصاد سیاسی دارد و یادآور آثار هایک، مارکس و حتی روسو است: «کنش عقلانی فردی لزوماً به عقلانیت جمعی منجر نخواهد شد.» یکی از نقاط قوت مهم کتاب، پرهیز از جبرگرایی فناورانه است. نویسندگان ادعا نمی‌کنند که فروپاشی دانش اجتناب‌ناپذیر است. برعکس آنها نشان می‌دهند که نتایج درنهایت به ساختار نهادی، سیاست‌گذاری و طراحی سامانه‌های هوش مصنوعی بستگی دارد. از این جهت «هوش مصنوعی، شناخت انسان و فروپاشی دانش» را باید در تقابل با روایت‌های آخرالزمانی رایج درباره هوش مصنوعی دانست. کتاب بیشتر هشدار می‌دهد تا پیشگویی کند و این تمایزی حیاتی است، زیرا به‌جای تبدیل هوش مصنوعی به موجودی اهریمنی، بر معماری اجتماعی استفاده از آن تمرکز می‌کند.

بااین‌حال کتاب در بعضی جنبه‌ها دچار ساده‌سازی می‌شود. یک مسئله آن است که مدل ارائه‌شده بیش‌ازحد بر عقلانیت اقتصادی تکیه دارد. انسان‌ها در کتاب عمدتاً به‌عنوان عاملانی تصویر می‌شوند که بین هزینه و فایده یادگیری انتخاب می‌کنند. اما می‌دانیم که در واقعیت انگیزه‌های شناختی بسیار پیچیده‌تر هستند. کنجکاوی، جایگاه اجتماعی، هویت فرهنگی، لذت حل مسئله و حتی مقاومت در برابر اقتدار، همگی در فرآیند یادگیری نقش دارند و می‌توانند به‌عنوان انگیزه عمل کنند. تاریخ علم نشان می‌دهد که بسیاری از تولیدکنندگان دانش عمومی نه به‌دلیل سود اقتصادی، بلکه به دلایل نمادین اخلاقی یا وجودی فعالیت می‌کرده‌اند. مدل ارائه‌شده در کتاب این انگیزه‌ها را در نظر نمی‌گیرد.

علاوه‌بر این باید توجه داشت که مفهوم «فروپاشی» تا حدی استعاری است و در سطوح تجربی هنوز اثبات‌نشده باقی می‌ماند. شواهد ارائه‌شده در کتاب بیشتر نشانه‌های اولیه هستند؛ مواردی مانند کاهش فعالیت در انجمن‌های پرسش و پاسخ، افت مشارکت در تولید محتوای عمومی یا افزایش اتکای کاربران به هوش‌های مصنوعی عامل. این شواهد نگران‌کننده‌اند، اما هنوز برای اثبات یک روند تمدنی کافی نیستند. تاریخ فناوری نشان داده که ابزارهای جدید گاهی شکل‌های قدیمی دانش را تضعیف می‌کنند، اما همزمان شکل تازه‌ای از خلاقیت را می‌آفرینند. چاپ، ظهور تلویزیون، اینترنت و موتورهای جست‌وجو همگی ابتدا موتور تهدیدی برای حافظه و تفکر تلقی می‌شدند، اما دیدیم که درنهایت این تهدیدها رخ نداد. یکی از جنبه‌های مهم کتاب، تحلیل آن از هوش مصنوعی عامل است، که به‌معنای انواعی از هوش مصنوعی است که نه‌فقط به پرسش‌ها پاسخ می‌دهند که به‌طور مستقل برنامه‌ریزی، تصمیم‌گیری و اقدام می‌کنند. نویسندگان بر این باورند که خطر اصلی همین‌جاست، زیرا هرچه هوش مصنوعی خودمختارتر شود، انسان کمتر درگیر فرآیند شناختی می‌شود. این بحث را می‌توان در امتداد نظریه «برون‌سپاری شناخت» فهمید. انسان همیشه از نوشتار گرفته تا ماشین حساب، بخشی از حافظه و محاسبه را به ابزارها واگذار کرده است. اما پرسش کتاب این است که اگر برون‌سپاری از سطح حافظه و محاسبه فراتر رود و به قضاوت و استدلال و اکتشاف تسری پیدا کند، چه اتفاقی بر سر خود فرآیند شناخت خواهد آمد؟ در اینجا نویسندگان به مسئله‌ای عمیق‌تر اشاره می‌کنند، اینکه آیا فهم و درک، بدون تلاش ممکن است؟ نویسندگان از این ایده دفاع می‌کنند که برای درک، اصطکاک شناختی با موضوع، ناگزیر است. اگر هوش مصنوعی تمام این مسیر را حذف کند و فقط پاسخ نهایی را مطرح کند، انسان شاید کارآمدتر شود، اما اندیشه او عمیق‌تر نمی‌شود. این موضع شباهت زیادی با سنت ارسطویی و حتی نظریه‌های معاصر یادگیری دارد که بر نقش خطا، تمرین و تحمل دشواری در شکل‌گیری فهم تاکید می‌کنند.

اما «هوش مصنوعی، شناخت انسان و فروپاشی دانش» نسبت به ظرفیت‌های مثبت هوش مصنوعی سخاوتمند نیست. برای مثال هوش مصنوعی می‌تواند موانع ورود به حوزه‌های دانشی را کاهش دهد و افراد بیشتری را وارد فرآیند تولید معرفت کند. تاریخ علم نشان می‌دهد که ابزارهای ساده‌کننده، گاهی به انفجار خلاقیت منجر شده‌اند. نرم‌افزارهای آماری، موتورهای جست‌وجو و کتابخانه‌های دیجیتال همگی بخشی از بار شناختی را کاهش داده‌اند، اما در عوض امکان پژوهش گسترده‌تر را فراهم کرده‌اند. نویسندگان این احتمال را که هوش مصنوعی بتواند نوع تازه‌ای از سواد شناختی ایجاد کند، دست‌کم می‌گیرند. از منظر سیاسی «هوش مصنوعی، شناخت انسان و فروپاشی دانش» پیامد مهمی را به‌دنبال دارد. اگر دانش عمومی نوعی کالای عمومی باشد، بازار به تنهایی قادر به حفظ آن نخواهد بود. بنابراین نویسندگان به‌صورت ضمنی از مداخلات نهادی پشتیبانی می‌کنند. آنها اعتقاد دارند که نهادها باید هوش مصنوعی را قانونمند و تنظیم کنند، نهادهای دانش عمومی را تقویت کرده و سیستم‌هایی طراحی کنند که مشارکت انسانی را حفظ و تضمین کند. این موضع در برابر گفتمان بازارمحور شرکت‌های فناوری قرار می‌گیرد که نوآوری را بیشتر کاری خودتنظیم کننده می‌دانند.

با وجود همه این بحث‌ها، اهمیت کتاب انکارناپذیر است. این اثر یکی از نخستین تلاش‌های جدی برای پیوند اقتصاد، علوم شناختی، نظریه اطلاعات و فلسفه فناوری در تحلیل پیامدهای بلندمدت هوش مصنوعی است. نویسندگان پرسشی بنیادین مطرح می‌کنند که احتمالاً در آینده به سوالی محوری بدل خواهد شد. اینکه آیا جامعه‌ای که روزبه‌روز بیشتر به سامانه‌های هوشمند تکیه می‌کند، هنوز می‌تواند به‌طور مستقل بیندیشد و دانش تازه تولید کند؟ پرسشی که حتی اگر با پاسخ نویسندگان به آن موافق نباشید، باز هم باید پاسخی مستدل و قانع‌کننده برای آن پیدا کنید. درنهایت ارزش اصلی کتاب شاید نه در پیش‌بینی دقیق آینده که در تغییر چهارچوب بحث باشد. اغلب مناظره‌ها درباره هوش مصنوعی بر اشتغال، امنیت یا هوش عمومی مصنوعی متمرکزند. اما این کتاب توجه را به زیرساختی نامرئی‌تر به نام فرآیند اجتماعی تولید دانش معطوف می‌کند. نویسندگان هشدار می‌دهند که بحران اصلی ممکن است نه شورش ماشین‌ها، بلکه فرسایش تدریجی انگیزه و توان انسان برای مشارکت فعال در تولید معرفت باشد. به همین دلیل «هوش مصنوعی، شناخت انسان و فروپاشی دانش» را باید اثری کانونی در آغاز عصر جدید فلسفه هوش مصنوعی دانست؛ اثری که احتمالاً در سال‌های آینده نقشی کلیدی در بحث‌های معرفت‌شناسی دیجیتال ایفا خواهد کرد. با این تفاوت که پرسش آن بنیادی‌تر از کتاب‌هایی مشابه است: اگر ماشین‌ها بهتر از انسان‌ها پاسخ دهند نتیجه نهایی چه خواهد بود؟