خودکامگان عصر فناوری

محمدحسین باقی /نویسنده نشریه  

دو هفته پس از تهاجم تمام‌عیار مسکو به اوکراین در مارس ۲۰۲۲، مارینا اووسیانیکووا، از سردبیران شبکه تلویزیونی «کانال یک» روسیه، ناگهان وارد صحنه پخش اخبار شامگاهی شد. او تابلویی دست‌نویس را پشت سر مجری برنامه بالا گرفت که روی آن نوشته شده بود: «جنگ را متوقف کنید. تبلیغات را باور نکنید. آنها به شما دروغ می‌گویند!». او فریاد می‌زد «نه به جنگ!»، تا اینکه به زور از صحنه خارج شد. سوا گونیتسکی، دانشیار علوم سیاسی در دانشگاه تورنتو، و بروس اشنایر، استاد مدرسه مانک در امور جهانی و سیاست‌گذاری عمومی در دانشگاه تورنتو، در مقاله‌ای مشترک در فارن افرز نوشتند، از آن زمان تاکنون، هیچ‌کس در تلویزیون روسیه علیه جنگ اعتراض نکرده است؛ که این امر تا حدی ناشی از تدابیر امنیتی شدیدتر و فضای کلی حاکم بر جامعه است که آکنده از ترس و وحشت است. اما در اکتبر ۲۰۲۴، مارگاریتا سیمونیان، یکی از چهره‌های اصلی تبلیغات حکومتی روسیه، توضیحی متفاوت ارائه کرد. او در گفت‌وگو با یک مصاحبه‌کننده توضیح داد که شمار فزاینده‌ای از مجریان شبکه «آر تی» واقعی نیستند. او گفت: «آن چهره وجود خارجی ندارد. ما صدا و تمام ویژگی‌های دیگر را تولید کرده‌ایم.» منظور او این بود که آنها به‌وسیله هوش مصنوعی ساخته شده‌اند. او در مصاحبه‌ای تکمیلی با روزنامه «ودوموستی» منطق این کار را به‌صراحت بیان کرد: «این مجریان نیازی به حقوق یا بیمه ندارند. آنها دستگیر نمی‌شوند و پلیس خانه‌هایشان را تفتیش نمی‌کند. همه اینها همزمان هم فوق‌العاده است و هم هولناک.»

این همان وعده‌ای است که هوش مصنوعی به هر حاکم خودکامه‌ای می‌دهد: توانایی حفظ کنترل بدون واگذاری وظایف به انسان‌های غیرقابل اعتماد. این چشم‌اندازی بسیار وسوسه‌برانگیز است. دیکتاتورها، هرچقدر هم که قدرتمند باشند، همواره برای اجرای دستورات خود به زیردستان نیاز داشته‌اند؛ افرادی همچون سانسورچی‌ها، مبلغان حکومتی، نگهبانان امنیتی، افسران پلیس، تحلیلگران اطلاعاتی و دیوان‌سالاران محلی. اما زیردستان همیشه تهدیدی بالقوه محسوب می‌شوند. آنها می‌توانند از زیر بار مسئولیت شانه خالی کنند، دزدی کنند، دروغ بگویند، اطلاعات را فاش کنند یا علیه رئیس خود توطئه کنند. در نتیجه، یکی از قدیمی‌ترین معضلات پیش‌روی خودکامگان این است که چگونه به ماموران خود قدرت دهند تا دستورات را اجرا کنند، بدون اینکه آنها را قادر به رویگردانی از رئیس خود کنند. خودکامگان معمولاً با پر کردن مناصب کلیدی با افراد معمولی که ناتوانی‌شان، همان‌طور که هانا آرنت، نظریه‌پرداز سیاسی، گفته است، «بهترین تضمین وفاداری آنها»ست، این بده‌بستان را مدیریت کرده‌اند. اما این امر، ناگزیر حکومت کردن و عبور از بحران‌ها را برای دیکتاتوری‌ها دشوارتر می‌کند. به‌نظر می‌رسد هوش مصنوعی دو راه برای حل این معضل دیرینه به خودکامگان ارائه می‌دهد:

نخست، به این معنی است که آنها اکنون می‌توانند به‌راحتی پیروان خود را در زمان واقعی رصد و منضبط کنند. تغییر در عادات خرج کردن یا برنامه‌های جلسات یک مقام محلی می‌تواند به‌طور خودکار به‌وسیله یک سیستم هوش مصنوعی، بدون نیاز به خبرچینان خودخواه، علامت‌گذاری شود. دوم، هوش مصنوعی می‌تواند زیردستان را به‌طور کامل حذف کند. با خودکارسازی وظایفی که زمانی نیاز به اختیار انسان داشتند، حاکمان می‌توانند واسطه‌های غیرقابل اعتماد را با الگوریتم‌های وفاداری جایگزین کنند که نمی‌توان به آنها رشوه داد یا آنها را دستکاری کرد.

مقامات در رژیم‌های خودکامه نیز همین را گفته‌اند. ماکسوت شادائف، وزیر توسعه دیجیتال روسیه، در آوریل ۲۰۲۵ در یک «مجمع داده» در مسکو گفت، «هوش مصنوعی قطعاً می‌تواند جایگزین نیمی از مقامات شود» و افزود: «شاید کمی بیشتر.» بااین‌حال، این وعده‌های یک «دولت خودگردان»، واهی است، زیرا هوش مصنوعی هرگز واقعاً مستقل نیست. سیستم‌ها باید از سوی کادری از مهندسان و دانشمندان داده ساخته و نگهداری شوند که مدیران سیاسی نمی‌توانند تخصص آنها را ارزیابی کنند. حاکمی که برای کاهش وابستگی به انسان‌های غیرقابل اعتماد به هوش مصنوعی روی می‌آورد، ممکن است درنهایت، کورکورانه‌تر از قبل، به معدود متخصصان هوش مصنوعی که سیستم را فعال نگه می‌دارند، تکیه کند. این «گارد پرتورین (محافظان ویژه) دیجیتال» جدید ممکن است همان نقاط ضعفی را داشته باشد که گارد قدیمی داشت؛ موضوعی که آن را به تهدیدی برای شخص حاکم تبدیل می‌کند. چین در زمینه توسعه سیستم‌های هوش مصنوعی که می‌توانند بر زیردستان نظارت یا آنها جایگزین کنند، پیشرو است. برنامه‌های شهر هوشمند در پکن، شانگهای و سایر مراکز شهری از هوش مصنوعی برای ردیابی عملکرد و متمرکز کردن نظارت بر مقامات محلی که زمانی در گمنامی راحت فعالیت می‌کردند، استفاده می‌کنند و آنها را در معرض بررسی عملکرد الگوریتمی قرار می‌دهند. چین همچنین یک «سیستم هوش مصنوعی اعتماد صفر» توسعه داده که طی دهه گذشته آن را در تقریباً 30 شهر و شهرستان مستقر کرده است. این سیستم بیش از 150 پایگاه داده دولتی را برای کشف اختلاس و پارتی‌بازی از سوی مقامات محلی به هم مرتبط می‌کرد. این سیستم کمی بیش از حد خوب کار کرد و هشت هزار و 700 مقام را قبل از اینکه دولت‌های محلی، زیر فشار شروع به لغو آن کنند، شناسایی کرد. اما پکن از پورتال‌های جدید دولت الکترونیک خود که از سیستم‌های خودکار برای صدور اسناد و مجوزها استفاده می‌کنند و تعاملات رودررو را که باعث فساد جزئی یا پارتی‌بازی می‌شد، کاهش می‌دهند، خلاص نشده است. درهمین‌حال، حزب کمونیست چین با تحقیق در مورد آنچه «مدیریت افکار» یا نحوه استفاده از هوش مصنوعی برای ایجاد تبلیغات هدفمند می‌نامد، پیش رفته است. ارتش مفسران اینترنتی چین، که زمانی از انسان‌های حقوق‌بگیر تشکیل شده بود، در حال حاضر با روبات‌ها جایگزین می‌شود.

روسیه نیز با شور و اشتیاقی مشابه، همین اهداف را دنبال کرده است. سیستم تشخیص چهره در سطح شهر مسکو، که با ۲۰۰ هزار دوربین مستقر شده است، برای شناسایی و دستگیری معترضان در جریان تظاهرات ضددولتی سال ۲۰۲۱ مورد استفاده قرار گرفت. دولت مرکزی شروع به جمع‌آوری و تجمیع خودکار داده‌ها برای دور زدن مقامات منطقه‌ای کرده است که می‌توانند داده‌ها را آلوده یا از آنها برای پیشبرد منافع خود استفاده کنند. در سال ۲۰۲۳، سازمان تنظیم مقررات اینترنت روسیه، «اوکولوس» را راه‌اندازی کرد؛ یک سیستم هوش مصنوعی که روزانه صدها هزار تصویر را برای یافتن محتوای ممنوعه، ازجمله محتوای سیاسی -که بسیار فراتر از توان سانسور انسانی است- اسکن می‌کند. ابزار «ملیوراتور»، وابسته به سرویس امنیتی روسیه، برای ایجاد بیش از هزار حساب کاربری (پروفایل) از آمریکایی‌های ساختگی -عمدتاً در شبکه ایکس- به‌کار گرفته شده است تا روایت‌ها و تبلیغات کرملین را با هزینه‌ای بسیار کمتر از مزرعه‌های ترول انسانی انتشار دهد.

سایر حکومت‌های استبدادی نیز در حال پیروی از پکن و مسکو هستند. در آوریل ۲۰۲۵، امارات متحده عربی یک دفتر اطلاعات نظارتی ایجاد کرد که از هوش مصنوعی برای تدوین و اصلاح قوانین فدرال استفاده می‌کند؛ کاری که زمانی به‌دست کارکنان قوه مقننه انجام می‌شد. یک سال بعد، شیخ محمد بن راشد آل مکتوم، نخست‌وزیر امارات، اعلام کرد که ماموران مستقل هوش مصنوعی ظرف دو سال، نیمی از عملیات دولت فدرال را به‌دست خواهند گرفت و «عملکرد وزرا، مدیران کل و نهادها براساس توانایی آنها در پذیرش این تحول ارزیابی خواهد شد».

این نوآوری‌ها ممکن است تعداد بوروکرات‌هایی را که خودکامگان به آنها نیاز دارند، کاهش دهد. اما آنها درواقع نمی‌توانند آنچه دیکتاتورها بیشتر می‌خواهند را ایجاد کنند؛ یک دولت خودگردان. حتی مجریان تلویزیونی تولیدشده با هوش مصنوعی به افرادی نیاز دارند که آنها را بسازند و نگهداری کنند و سیستم‌های سانسور به افرادی نیاز دارند که آنها را با تغییر واژگان مخالفت، بازآموزی کنند. در پشت هر مدل هوش مصنوعی، گروهی کوچک از مهندسان و دانشمندان داده وجود دارند که تعمیرات اساسی را انجام می‌دهند و کار آنها آنقدر فنی است که حاکمان نمی‌توانند آن را درک کنند. بنابراین، این وابستگی به شکل دیگری از قدرت تبدیل می‌شود. برای مثال، مهندسانی که دستگاه نظارتی یک خودکامه را حفظ می‌کنند، می‌توانند آنچه حاکم می‌بیند را شکل دهند. آنها تصمیم می‌گیرند که چه اطلاعاتی به اندازه کافی مهم است که منتقل شود و به چه شکلی ارائه شود. آنها تعیین می‌کنند که کدام تهدیدها علامت‌گذاری شوند و می‌توانند الگوریتم‌هایی را که مشخص می‌کنند چه محتوایی سرکوب و چه کسی بازداشت شود، تغییر دهند؛ و این کار را بدون آنکه کسی در دربار متوجه شود، انجام می‌دهند. حاکمان مستبدی که برای رهایی از وابستگی به زیردستان غیرقابل اعتماد به هوش مصنوعی روی می‌آورند، در واقع آسیب‌پذیری‌های خود را تنها به گروه جدیدی از مقامات منتقل کرده‌اند. درواقع، این «گارد پرتورین» جدید ممکن است خطرناک‌تر از نخبگان پیشین باشد. این امر تا حدی ناشی از ماهیت غیرشفاف فناوری هوش مصنوعی و همچنین کوچک‌تر بودن قابل توجه این حلقه است. امپراتوران روم معمولاً ده‌ها هزار نفر را در گارد پرتورین در خدمت داشتند، درحالی‌که خودکامگان امروزی بر ارتش‌های دائمی تکیه می‌کنند. اما با وجود هوش مصنوعی، خودکامگان تنها به گروه کوچکی از مهندسان برای ساخت و نگهداری سیستم‌های هوش مصنوعی در مقیاس بزرگ نیاز خواهند داشت. این وضعیت ممکن است به نفع حاکمان باشد، زیرا افراد کمتری برای نظارت خواهند داشت؛ بااین‌حال، نقاط شکست را نیز متمرکز می‌کند، چرا که ایجاد اختلالی ویرانگر فقط به تعداد انگشت‌شماری مهندس نیاز دارد و توطئه اعضا علیه حاکمان را آسان‌تر می‌کند. اعضای این گارد جدید ممکن است همچنین غیرقابل جایگزین باشند. یک دیکتاتور می‌تواند ژنرال‌ها را بدون فروپاشی ارتش جایگزین کند، اما اداره سیستم‌های پیچیده یادگیری ماشین نیازمند چنان مهارت‌های تخصصی ویژه‌ای است که جایگزینی مهندسان بدون ایجاد اختلال دشوار خواهد بود؛ امری که به این افراد، اهرم فشاری قدرتمند می‌بخشد.

عناصر غیرقابل جایگزین

اهمیت متخصصان فناوری برای حکومت‌های خودکامه از هم‌اکنون آشکار شده است. برای مثال، هنگامی که متخصصان فناوری اطلاعات پس از تهاجم تمام‌عیار به اوکراین در فوریه ۲۰۲۲ شروع به ترک روسیه کردند، کرملین نه با تهدید، بلکه با مشوق‌هایی واکنش نشان داد و به کارکنان حوزه فناوری معافیت از خدمت سربازی پیشنهاد کرد. دولت شرکت‌های آنها را از پرداخت مالیات معاف کرد و به وام‌های مسکن آنها یارانه اختصاص داد. هفت ماه بعد، زمانی که ولادیمیر پوتین، رئیس‌جمهور روسیه، فرمان بسیج ۳۰۰ هزار نیرو را صادر کرد، به کارکنان فناوری اطلاعات معافیت کامل اعطا شد. با توجه به اینکه یک سیستم هوش مصنوعی تنها به چند مهندس برای اجرا نیاز دارد، این اقدام ممکن است بیش از حد نیاز به‌نظر برسد؛ اما یک رژیم نمی‌تواند از پیش بداند به کدام مهندسان نیاز خواهد داشت و نمی‌تواند به‌سرعت جایگزین‌هایی برای آنها تربیت کند، بنابراین ناچار است کل مجموعه استعدادهایی را که این افراد معدود از میان آنها انتخاب می‌شوند، حفظ کند. این اقدامات مانع از خروج حدود ۱۰۰ هزار متخصص (یعنی تقریباً یک‌دهم نیروی کار حوزه فناوری روسیه) در طول سال ۲۰۲۲ نشد. بااین‌حال، مسکو همچنان بر رویکرد تطمیع پافشاری کرد، زیرا وادار کردن متخصصان به کار از طریق زور و تهدید بسیار دشوار است و احتمال دارد متخصصانی که به اجبار به‌کار گرفته شده‌اند، کمتر از دستورات پیروی کنند. با وجود این، پول و امتیازات ویژه نمی‌توانند وفاداری این نخبگان را تضمین کنند. خودکامگان باید درس گارد اصلی پرتورین را به یاد بیاورند: برای مدتی، این گارد، امپراتوران روم را محافظت کرده و امنیتشان را تامین می‌کرد. اما پس از مدتی، پرتورین‌ها به جایگاه غیرقابل جایگزین و حیاتی خود پی بردند و تا سده دوم میلادی، امپراتوری را به بالاترین پیشنهاددهنده به مزایده می‌گذاشتند. این مجموعه جدید از نخبگان می‌توانند همین کار را انجام دهند. در ژوئن 2023، هنگامی که ستون گروهان شبه‌نظامی واگنر متعلق به یوگنی پریگوژین، در بزرگراه به سمت مسکو حرکت کرد، پوتین به سرویس‌های امنیتی خود متکی بود تا به او بگویند چه اتفاقی دارد می‌افتد. حاکمان آینده در جایگاه پوتین چنین هشدارهایی را از طریق ماشین‌ها دریافت خواهند کرد: ارتباطات شنودشده که به‌وسیله نرم‌افزار مرتب می‌شوند، فیدهای دوربین که از طریق سیستم‌های تشخیص فیلتر می‌شوند، گزارش‌های منطقه‌ای که در داشبوردها گردآوری می‌شوند. مهندسانی که این سیستم‌ها را اداره می‌کنند می‌توانند با یک رقیب تازه‌کار معامله کنند و سپس پا پس بکشند. آنها می‌توانند داده‌ها را به تاخیر بیندازند، اجازه دهند هشدارها چند ساعت دیر برسند، فیدها را در لحظات نامناسب کاهش دهند یا یک سیستم تشخیص را از کار بیندازند. در این سناریو، حاکم کورکورانه عمل خواهد کرد. گارد پرتورین برای جایگزینی امپراتور نرون نیازی به کشتن او نداشت، بلکه صرفاً باید او را به خاطر یک رقیب رها می‌کرد.

بعید است که این برنامه‌نویسان بتوانند قدرت را برای خود به‌دست بگیرند، زیرا بعید است که آنها آنچه رهبران کودتا درنهایت به آن نیاز دارند، یعنی اسلحه، را حمل کنند. اما پیش از این سابقه داشته است که مهندسان از قدرت خود برای شکل دادن به چالش‌های حاکم استفاده کنند. در سال ۱۹۹۱، هنگامی که ارتش شوروی تلاش کرد تا کنترل را از میخائیل گورباچف بگیرد، تعداد انگشت‌شماری از برنامه‌نویسان در شبکه «رلکوم» جریان اطلاعات را به خارج از کشور ادامه دادند و احکام رئیس‌جمهور روسیه، بوریس یلتسین، را به مخاطبان داخل کشور و خارج از کشور منتقل کردند. توطئه‌گران نتوانستند جلوی انتشار خبر سرپیچی یلتسین را بگیرند و کودتا ظرف سه روز شکست خورد.

کاهش قدرت

هوش مصنوعی به خودکامگان این امکان را نخواهد داد که تمام مجریان فرمان‌های خود را کنار بگذارند؛ زیرا هنوز به کسانی نیاز است که بازداشت‌ها را انجام دهند و زندان‌ها را اداره کنند، و مستبدان می‌توانند با اعطای مشاغل دولتی به حامیان خود، وفاداری آنها را بخرند. اما هوش مصنوعی به نظام‌های استبدادی اجازه می‌دهد تشکیلات خود را کوچک‌سازی کنند؛ ضمن اینکه درنهایت تعداد مقام‌ها نسبت به شیوه‌ای که حاکم بر آنها نظارت می‌کند اهمیت کمتری دارد. زیر نظر داشتن زیردستانی که دست به توطئه می‌زنند یا بی‌کفایت هستند، همواره اصلی‌ترین بار روی دوش مستبدان بوده است. هوش مصنوعی می‌تواند این بار را سبک‌تر کند و به حکمرانان اجازه دهد بدون نیاز به بذل توجه مستقیم و مداوم، مقامات خود را از نزدیک‌تر زیر نظر بگیرند.

بنابراین، در کوتاه‌مدت، هوش مصنوعی ممکن است به نفع حکومت‌های استبدادی باشد. با وجود موانع فراوان برای استقرار، این فناوری در حال حاضر مزایای نظارت ارزان‌تر، سانسور هوشمندتر و کاهش ترس و بی‌اعتمادی زیردستان انسانی را برای رژیم‌های استبدادی به ارمغان می‌آورد. اما برای حاکمان مستبد، وسوسه‌های هوش مصنوعی ممکن است همان تله‌ای را که به‌دنبال فرار از آن هستند، دوباره ایجاد کند. هرچه یک رژیم بیشتر به هوش مصنوعی وابسته باشد، بیشتر به افرادی که هوش مصنوعی را فعال نگه می‌دارند، وابسته خواهد بود. و این افراد، مانند هر طبقه پراتورین دیگر در تاریخ، به‌سرعت متوجه خواهند شد که ضرورت وجودی آنها چه ارزشی دارد.