کنترل مصنوعی

«از آن سه ثانیه طلایی مراقبت کنید؛ مراقب کیف پولتان باشید.» در هفته‌های اخیر، ویدئویی از یک مامور پلیس خوش‌برخورد و دلسوز به نام «گو تائو» در چین به‌طور گسترده منتشر شده است که در آن هشداری درباره نحوه برخورد با کلاهبرداران تلفنی می‌دهد. تنها کافی است به یک تماس پاسخ دهید و سلامی ساده بگویید تا مجرمان بتوانند صدای شما را ضبط کنند. سپس آنها با استفاده از هوش مصنوعی، صدای شما را شبیه‌سازی کرده و برای فریب دوستان و نزدیکانتان به کار می‌گیرند. بنابراین، همان‌طور که آقای تائو توصیه می‌کند، بهترین کار این است که هنگام دریافت تماس از شماره‌های ناشناس، سه ثانیه سکوت کنید تا مشخص شود آیا واقعاً فردی حقیقی پشت خط است یا خیر. این توصیه بدی نیست. همچنین این موضوع با یکی از مهم‌ترین پرسش‌های دنیای فناوری نیز مرتبط است: چین درباره خطرات ناشی از هوش مصنوعی چه فکر می‌کند؟

بسیاری از ناظران بر این باورند که چین اهمیت چندانی برای این خطرات قائل نیست. دونالد ترامپ یکی از این افراد است. او ماه گذشته با بیان دیدگاه منفی خود نسبت به وضع مقررات مدعی شد: «چین مطلقاً هیچ کاری برای ایجاد مانع در مسیر هوش مصنوعی انجام نخواهد داد.» در واقع، نظرسنجی‌ها خوش‌بینی بسیار زیاد چینی‌ها نسبت به هوش مصنوعی را نشان می‌دهند. براساس نظرسنجی موسسه گالوپ، ۹۳ درصد از پاسخ‌دهندگان در چین معتقدند که هوش مصنوعی عمدتاً به نفع کشورشان خواهد بود؛ درحالی‌که این رقم در آمریکا تنها ۳۶ درصد است. درخواست‌ها از چین برای همکاری با آمریکا در راستای کند کردن روند توسعه مدل‌های پیشرفته هوش مصنوعی در پکن نادیده گرفته شده است. وزارت امور خارجه چین می‌گوید، «هراس‌افکنی» به نفع هیچ‌کس نیست.

در واقع، چین زمان بسیار زیادی را صرف اندیشیدن به ایمنی هوش مصنوعی می‌کند. کلاهبرداری‌های تلفنی تنها نوک کوه یخ نگرانی‌های موجود هستند. دغدغه‌های چین طیف گسترده‌ای از فعالیت‌های مجرمانه، جابه‌جایی نیروی کار و امنیت ملی گرفته تا همان سناریوهای «از دست رفتن کنترل» را که باعث بی‌خوابی اهالی سیلیکون‌ولی شده است، در بر می‌گیرند. این موضوع نباید تعجب‌آور باشد. حزب کمونیست که تقریباً در تمام عرصه‌های زندگی نسبت به وجود خطر وسواس دارد، سال‌هاست که برای تحت کنترل درآوردن فضای سایبری تلاش می‌کند. آیا رژیمی که اینترنت را یک چالش وجودی می‌داند، ناگهان اجازه خواهد داد که هوش مصنوعی بدون هیچ قید و بندی به پیش بتازد؟ اگر همان‌طور که در دولت ترامپ مطرح می‌شد، «مقررات‌گذاری» را ذاتاً نوعی کُندسازی تلقی کنیم، آنگاه چین در عمل روند پیشرفت هوش مصنوعی را کُند می‌کند؛ هرچند هرگز به این موضوع اذعان نخواهد کرد. کندرا شفر از شرکت مشاوره «تریویوم» (Trivium) مستقر در پکن می‌گوید: «چین در حال حاضر سخت‌گیرانه‌ترین قوانین مربوط به هوش مصنوعی را در سراسر جهان دارد.» این سند بنیادی، چهارچوب چین برای مدیریت ایمنی هوش مصنوعی است. به‌روزرسانی دوم آن در ماه سپتامبر منتشر شد که ۵۴ خطر را در سه دسته فهرست می‌کند: «ذاتی» (مدل‌هایی که به شیوه‌های ناخواسته رفتار می‌کنند)، «کاربرد» (استفاده از سوی مجرمان) و «ثانویه» (بیگانگی اجتماعی). همچنین راه‌هایی برای از بین بردن یا حداقل کاهش این تهدیدها پیشنهاد می‌دهد. یکی از این راه‌ها، الزام به ایجاد ایست‌های بازرسی است که در آنها انسان‌ها باید عوامل هوش مصنوعی را بررسی و در صورت لزوم قبل از گسترش بیش از حد متوقف کنند.

برخی از ایده‌های اولیه این چهارچوب هم‌اکنون اجرایی شده‌اند. برای نمونه، محتوای تولیدشده از طریق هوش مصنوعی نظیر فایل‌های صوتی و ویدئویی باید به طور شفاف برچسب‌گذاری شوند. برخی دیگر از این ایده‌ها نیز احتمالاً مبنای تدوین مقررات جدید خواهند بود. در پیش‌نویس این تدابیر، از ارائه‌دهندگان خدمات خواسته شده است تا هرگونه قابلیتی را که دارای مشکلات جدی است، بی‌درنگ غیرفعال کنند. همچنین در تاریخ ۱۶ اکتبر، چین محدودیت‌هایی را برای صادرات پیشرفته‌ترین فناوری‌های هوش مصنوعی خود پیشنهاد داد. همزمان با افزایش قدرت هوش مصنوعی، چین توجه بیشتری به سناریوهای فاجعه‌بار نشان داده است. در نسخه اولیه چهارچوب ایمنی این کشور که سال ۲۰۲۴ منتشر شد، تنها اشاره‌ای گذرا به احتمال «از دست رفتن کنترل» شده بود، اما در جدیدترین نسخه، این موضوع بیش از 12 بار مطرح شده است. بااین‌حال، همچنان می‌توان نوعی شکاف فلسفی را مشاهده کرد. درحالی‌که برخی در آمریکا نگران‌اند که الگوهای هوش مصنوعی سرانجام از هوش انسان پیشی بگیرند و کنترل تکامل خود را به‌دست گیرند، دیدگاه رایج‌تر در چین این است که هوش مصنوعی یک فناوری تحول‌آفرین است که می‌توان آن را مهار و هدایت کرد، نه پدیده‌ای که از کنترل انسان خارج شود.

شی جین‌پینگ هوش مصنوعی را با موتور بخار، برق و اینترنت مقایسه می‌کند. فناوری‌هایی که دوران‌ساز بودند، اما خطراتی به همراه نداشتند که نیازمند کند کردن هماهنگ روند پیشرفت باشد. از‌آنجا‌که چین در مرزهای دانش هوش مصنوعی همچنان از آمریکا عقب‌تر است، شی جین‌پینگ تمایل بسیار کمتری به توقف این روند دارد. از دیدگاه چین، چنین توافقی هم غیرضروری به‌نظر می‌رسد و هم صرفاً در راستای منافع خود آمریکایی‌هاست.

تخصص در حوزه مربوطه

جای تعجب نیست که مقامات چینی بخش عمده‌ای از توان و توجه خود را صرف ایدئولوژی می‌کنند. آنها می‌خواهند اطمینان حاصل کنند که الگو‌ها در مسائل مهم با مواضع حزب تضادی ندارند و ابزارهای جدید، کنترل حزب را تضعیف نمی‌کنند. بااین‌حال، دغدغه‌های پیش‌پاافتاده‌تری نیز وجود دارد که بازتاب‌دهنده نوعی «پدرسالاری نرم» از سوی دولت چین است. از همین‌روست که آقای تائو آن قانون سه ثانیه طلایی را برای مکالمات تلفنی وضع کرده و ارائه همدم‌های مجازی یا حتی اقوام مجازی به افراد زیر سن قانونی ممنوع شده است. تمایل چین به قوانین ممکن است تاثیر ناخواسته‌ای داشته باشد. در آمریکا، جایی که دولت دخالت بسیار کمتری دارد، شرکت‌ها قوانین را نقض، مدل‌های خود را ارزیابی و درخواست محافظ‌های بیشتری می‌کنند. در چین، شرکت‌ها اغلب منفعل‌ترند و قبل از اعمال کنترل‌ها، منتظر دستورالعمل‌های حزب و دولت می‌مانند. بررسی انجام‌شده از سوی شرکت مشاوره Concordia AI در پکن از 10 شرکت چینی که مدل‌هایشان اخیراً منتشر شده است، نشان داد که تنها پنج شرکت ارزیابی‌های ایمنی خود را منتشر کرده‌اند. این نشان می‌دهد که اگر مدل‌ها سریع‌تر از آنچه تنظیم‌کنندگان انتظار دارند توسعه یابند، خطرات احتمالی پدیدار خواهند شد.

قوانین چین همچنین کسانی را که مدل‌های وزن باز آن را به‌طور اجتناب‌ناپذیری خطرناک می‌دانند تحت تاثیر قرار نخواهد داد. منتقدان نگران‌اند که چنین مدل‌هایی، برخلاف مدل‌های بسته غالب در آمریکا، می‌توانند به‌راحتی مورد سوءاستفاده قرار گیرند. بااین‌حال، بسیاری در هوش مصنوعی چین باور دارند که مزایای آن بر این خطر غلبه دارد: آنها بیان می‌کنند که مدل‌های باز چین به دفاع از سیستم‌های کامپیوتری در برابر حملات سرکشانه مدل‌های بسته آمریکایی کمک کرده‌اند. در هر صورت، چین در حال حاضر روی قوانین سخت‌گیرانه‌تری برای اداره مدل‌های باز کار می‌کند. افراد داخلی می‌گویند که نسخه‌های جدید قبل از ارائه به عموم، با بررسی‌های ایمنی دقیقی روبه‌رو می‌شوند.

براساس اکثر معیارها، الگو‌های هوش مصنوعی چین از نظر عملکرد چند ماه یا حتی بیشتر از الگوهای آمریکایی عقب‌ترند. برای فناوری که با چنین سرعتی در حال تحول است، این شکافی بزرگ محسوب می‌شود. اما چین را به خاطر عقب ماندن از آمریکا در زمینه مدیریت ریسک‌ها سرزنش نکنید؛ چرا که وقتی پای قوانین، نظارت‌ها، محدودیت‌ها و هشدارها به میان می‌آید، چین کاملاً در حوزه تخصصی و مورد تسلط خود عمل می‌کند.