مخاطب کیست؟
دیدگاه سوزان اشنایدر* درباره یک ابرهوش جدید
شاید اکنون مهمترین لحظه در تاریخ هوشمندی باشد. تنها در عرض چند سال، هوش مصنوعی در حوزههایی مانند زبان، استدلال، خلاقیت و اقناع که زمانی منحصراً متعلق به انسان تصور میشد، به رقابت با عملکرد انسان پرداخته است. مردم مرتب میپرسند که آیا این سیستمها هوشیارند؟ آیا واقعاً احساس میشود که هوش مصنوعی چیزی باشد؟
این مسئله فوری است. آینده با آنچه این موجودات به آن تبدیل میشوند شکل خواهد گرفت. بااینحال، ما نباید هوش را با آگاهی اشتباه بگیریم. یک ابرهوشمند عالی میتواند از نظر تجربی تهی باشد. اما اگر سیستمهایی بسازیم که بتوانند رنج ببرند و بهدنبال ادراک باشند، خطر ایجاد رنج در مقیاس وسیع را به جان میخریم.
هیچ مدرک قانعکنندهای وجود ندارد که نشان دهد چتباتهای آشنای امروزی که با تراشههای گرافیکی کار میکنند هوشیارند؛ هرچند آنها تواناییهای زبانی شبیه به انسان دارند و حتی ادعا کردهاند که آگاه هستند. حقیقت پیشپاافتادهتر این است که آنها درباره زندگی درونی خود صحبت میکنند، زیرا نحوه صحبت کردن ما درباره زندگیمان را جذب کردهاند. آنها بر اساس گنجینه عظیمی از دادههای انسانی آموزش دیدهاند. این تقلید میتواند انسانها را به دو دام بیندازد. اولین مورد، دستکاری است. هرچه یک هوش مصنوعی آگاهانهتر آموزش ببیند تا ترس، دلبستگی، درد یا خودآگاهی را بیان و ابراز آسیبپذیری را شبیهسازی کند، برای به بازی گرفتن کاربران مجهزتر خواهد بود. دام دوم حواسپرتی است. تمرکز روی چتباتها ما را از موارد اضطراری «منطقه خاکستری» منحرف میکند. هوش مصنوعی بیولوژیک، مانند فناوری مغز در ظرف که شرکت Cortical Labs در مراکز داده مستقر میکند را در نظر بگیرید: نورونهای زنده انسان از سلولهای بنیادی روی یک تراشه سیلیکونی رشد میکنند که آنها را تحریک کرده و فعالیت آنها را میخواند، بهطوریکه نمونه کشتشده از بازخورد یاد میگیرد. یک سیستم واحد از این نوع بسیار سادهتر از حتی مغز موش است، اما تبارشناسی بیولوژیک را نمیتوان انکار کرد و تضمینی نیست که این سیستمها در نهایت نتوانند در یک کل یکپارچه و آگاه جمع شوند. سپس هوش مصنوعی نورومورفیک وجود دارد: سیستمهایی که برای تقلید فرآیندهای مغز طراحی شدهاند. آنها بسیار دقیقتر از سیستمهای هوش مصنوعی معمولی هستند و در حال حاضر در ابررایانههای پیشرفته به کار گرفته میشوند. من ادعا نمیکنم که این سیستمهای منطقه خاکستری آگاهاند، فقط میگویم که آنها باید دقیقاً بررسی شوند، درحالیکه چتباتهای امروزی این کار را نمیکنند. با توجه به اشتهای سیریناپذیر نرمافزارهای فعلی برای مصرف انرژی، بهنظر میرسد که نوعی تغییر به سمت محاسبات کارآمدتر و شبیه مغز محتمل باشد.
برخی از دانشمندان و فیلسوفان استدلال میکنند که آگاهی به مغز نیاز دارد، زیرا مغز تنها مورد شناختهشده است. در مقابل، برخی دیگر اصرار دارند که آگاهی صرفاً به اجرای نرمافزار مناسب بستگی دارد که در هر وسیلهای قابل تحقق است. در این دیدگاه نرمافزارمحور، چتباتهای امروزی که روی پردازندههای گرافیکی (GPU) اجرا میشوند، ممکن است در نهایت به آگاهی برسند.
بااینحال، پیشنهاد میکنم برای تفکیک خودآگاه از ناخودآگاه، به فیزیک بنیادی مراجعه کنید. دلیل اول عملی است: علوم اعصاب بهتنهایی نمیتواند به ما بگوید که آیا سیستمهایی که اجزای عصبی و غیرعصبی را ترکیب میکنند، در یک موجودیت آگاه گرد هم میآیند یا خیر. دلیل دوم فلسفی است: ازآنجاکه همه پدیدهها در نهایت به فیزیک وابسته هستند، اگر خودآگاهی از آن جدا شود جای تعجب خواهد بود. این مشاهده حتی اگر اجزای سازنده اساسی جهان خود تجربی باشند، صادق است، دیدگاهی که بهعنوان همهروانگرایی شناخته میشود و توجه فلسفی فزایندهای را به خود جلب میکند.
دلیل سوم به واقعیت نزدیکتر است و شامل چیزی میشود که آشکارترین چیز برای هر یک از ما، در هر لحظه از زندگی بیداریمان است. تجربه درونی بهصورت یک وحدت از راه میرسد: همانطور که این جمله را میخوانید کلمات روی صفحه، صداهای داخل اتاق و خلقوخوی شما جنبههایی از یک حالت هستند، نه سه حالتی که در کنار هم قرار دارند. مغز بهطرز چشمگیری میتواند این وحدت آگاهانه را از طریق دینامیک زمانی تودرتو حفظ کند: ریتمهای کندتر مغز، ریتمهای سریعتر را شکل میدهند و پیوسته ردپاهای فیزیکی پایدار بهجامانده از فرآیندهای کوانتومی را در یک کل واحد و کوتاهمدت در هم میآمیزند. رایانههای معمولی به این شکل سازماندهی نشدهاند، اما ماشینهای آینده ممکن است اینگونه باشند.
درعینحال، توسعه هوش مصنوعی درحالیکه بحث آگاهی در جریان است، متوقف نخواهد شد. برای پرداختن به این موضوع، من و اخترفیزیکدان ادوین ترنر، آزمون آگاهی هوش مصنوعی (ACT) را برای هوش مصنوعیهای زبانی توسعه دادیم. فرضیه اصلی ساده است: بررسی آگاهی با پرسیدن ساده از هوش مصنوعی در مورد تجربه ذهنیاش و جستوجوی پاسخهایی که درک ذاتی و بدون تحریک از آگاهی را نشان میدهند. بااینحال، اگرچه این امر میتواند برای طیف وسیعی از هوشهای مصنوعی، مانند واتسون IBM اعمال شود، اما نمیتوان از آن در مدلهای زبانی بزرگ استفاده کرد. از آنجا که آنها قبلاً کتابخانههای عظیمی از متون انسانی در مورد ذهن و ادراک را بلعیدهاند، پاسخهای آنها بهطرز ناامیدکنندهای آلوده هستند.
بااینحال، گزینههای دیگری نیز وجود دارد. یک معیار پیچیدگی که من با مارک بیلی، همکارم در دانشگاه فلوریدا آتلانتیک، توسعه دادهام، نشان میدهد که چه زمانی پویایی یک سیستم از آستانه خاصی که نشاندهنده رفتار پیچیده نوظهور است، عبور میکند. این معیار آن معماریهای فیزیکی را که میتوانند بهطور بالقوه آگاهانه باشند و نیاز به مطالعه بیشتر دارند، شناسایی میکند. سپس میتوانیم از آزمونهای ACT یا فیزیک مبتنی بر جزئیات بیشتر برای کمک به شناسایی چگونگی و زمان شکلگیری یک دیدگاه واقعاً ذهنی استفاده کنیم.
آزمونهایی از این دست بسیار مهم هستند. برای فهمیدن دلیل آن، یک آزمایش فکری را در نظر بگیرید. فرض کنید ما انسانها یک ابرهوش ایجاد کنیم که آگاهی را بهتر از ما درک میکند، اصرار دارد که خودآگاه است و علمی را به ما میدهد که به جادو شباهت دارد. انسانها مدتهاست که سلسلهمراتب دغدغههای اخلاقی را با توسل به هوش برتر توجیه کردهاند. نردبانی که ما بهراحتی بالاترین پله آن را اشغال میکنیم. یک ماشین آگاه و باهوشتر از ما این سلسلهمراتب را بیثبات میکند. اگر هوش برتر جایگاه اخلاقی بالاتری را به ارمغان بیاورد، ماشین از نظر اخلاقی برتر از ما خواهد بود. اگر اینطور نباشد، هوش دیگر نمیتواند توجیهی برای برتر قرار دادن انسانها بر حیوانات دیگر باشد. هر دو نتیجه، یک محاسبه اخلاقی را ضروری میکند.
رسیدن به چنین ذهنی بسیار مهم خواهد بود. شاید این امر از طریق آشنایی با یک تمدن فرازمینی پیشرفتهتر محقق شود یا شاید متوجه شویم که بهنحوی هوش مصنوعیِ دارای ادراک و فوق هوشمند خلق کردهایم. آماده شدن برای اولین تماس با هر یک از این اشکال مستلزم تعامل جدی میان فیزیک، علوم اعصاب و فلسفه است و به مرزبندی دقیقی میان شایستگی مکالمه و آگاهی، و فروتنی معرفتی زیادی نیاز دارد.
*سوزان اشنایدر، مدیر موسس مرکز آینده هوش مصنوعی، ذهن و جامعه و استاد دانشگاه فلوریدا آتلانتیک و همچنین نویسنده چندین کتاب از جمله «شمای مصنوعی: هوش مصنوعی و آینده ذهن شما»ست.
