بحران حاکمیت مصرف‌کننده

در چشم‌انداز معاصر اقتصاد جهانی، مرزهای دیجیتال از یک بازار ساده به موتورهای پیچیده‌ای برای استخراج داده و هدایت رفتاری تغییر پیدا کرده‌اند. همزمان با بهره‌برداری غول‌های فناوری نظیر گوگل، آمازون و متا از داده‌های خرد میلیاردها نفر، تنشی بنیادین در نقطه تلاقی کارایی اقتصادی و حاکمیت مصرف‌کننده پدیدار شده است. از یک سو، مدافعان «عصر اطلاعات» بر این باورند که هوش مصنوعی و کلان‌داده‌ها ابزارهای غایی برای پالایش بازار هستند. آنها مدعی‌اند که پلت‌فرم‌‌ها با تحلیل حجم عظیمی از رفتارهای کاربران، می‌توانند هزینه‌های جست‌وجو را حذف کرده، توصیه‌های فوق شخصی‌سازی‌شده ارائه دهند و عرضه محصول را با ترجیحات ظریف هر فرد همسو کنند. در این دیدگاه خوش‌بینانه، داده‌های بیشتر به بازاری بدون اصطکاک منجر می‌شود که در آن مصرف‌کنندگان با سهولتی بی‌سابقه، باکیفیت‌ترین کالاها را کشف می‌کنند.

بااین‌حال، روایتی متقابل و تاریک‌تر قدرت گرفته است که نماد آن نقد شوشانا زوبوف بر «سرمایه‌داری نظارتی» است. این دیدگاه هشدار می‌دهد که پلت‌فرم‌‌ها صرفاً به کاربران خدمت نمی‌کنند، بلکه آنان را مهندسی می‌کنند. نگرانی اصلی این است که هوش مصنوعی به سلاحی برای استخراج «مازاد رفتاری» تبدیل شده است؛ یعنی تغییر دادن همان انتخاب‌هایی که کاربران انجام می‌دهند تا سود شرکت‌ها حتی به قیمت کاهش رفاه انسانی به حداکثر برسد. دارون عجم‌ اوغلو و همکارانش در مقاله جریان‌ساز خود با عنوان «زمانی که کلان‌داده‌ها دستکاری رفتاری را ممکن می‌کنند»، چهارچوبی اقتصادی و دقیق برای داوری در این مناقشه ارائه می‌دهند. آنها مفهوم کلیدی «برازندگی» را معرفی می‌کنند؛ یعنی ویژگی‌های سطحی و موقتی یک محصول که کیفیت واقعی آن را پنهان می‌کند و قضاوت ناظر را به انحراف می‌کشاند.

نویسندگان نشان می‌دهند که خطر واقعی هوش مصنوعی در «عدم تقارن اطلاعاتی» نهفته است. درحالی‌که مصرف‌کننده یک برنامه یا محصول پرزرق‌وبرق را می‌بیند و فرض را بر کیفیت بالای آن می‌گذارد، پلت‌فرم‌ که به کلان‌داده‌های میلیون‌ها کاربر مشابه مجهز است، دقیقاً می‌داند چه زمانی این برازندگی فقط نقابی برای یک عرضه بی‌کیفیت است. پلت‌فرم‌ با سوءاستفاده از ناتوانی کاربر در تشخیص تفاوت میان کیفیت اصیل و فریبندگی گذرا، می‌تواند به‌طور استراتژیک افراد را به سمت انتخاب‌های درجه پایین‌تر سوق دهد. گنجاندن این دستکاری سیستماتیک در مکانیسم بازار، فرض کلاسیک یادگیری عقلانی مصرف‌کننده را به چالش می‌کشد. در عصری که با انفجار تنوع محصولات روبه‌روست، این پژوهش هشدار می‌دهد که بدون نظارت صحیح، همان فناوری که وعده توانمندسازی ما را داده بود، ممکن است به ابزاری برای نوع جدیدی از انقیاد دیجیتال تبدیل شود؛ جایی که از داده‌های خودمان برای گمراه کردنمان استفاده می‌شود.

مدل «برازندگی» و برتری اطلاعاتی هوش مصنوعی

برای درک چگونگی تاثیرگذاری سکوهای دیجیتال بر رفتار مصرف‌کننده، عجم ‌اوغلو و همکارانش یک مدل پویا و دقیق را طراحی کرده‌اند که بر تعامل میان یک پلت‌فرم‌ و کاربر در یک افق زمانی نامحدود تمرکز دارد. در این اکوسیستم دیجیتال، پلت‌فرم‌ در هر گام زمانی، یکی از n محصول موجود را به کاربر عرضه می‌کند. هر محصول دارای یک کیفیت ذاتی و ثابت است که با نماد θ نشان داده می‌شود و می‌تواند بالا (θ=1) یا پایین (θ=0) باشد. چالش اصلی برای مصرف‌کننده این است که این کیفیت بلافاصله قابل مشاهده نیست؛ بلکه باید از طریق فرآیند آزمون و خطا یا همان «یادگیری از طریق تجربه» استنباط شود.

بااین‌حال، این فرآیند یادگیری به‌طور سیستماتیک از طریق متغیری که نویسندگان آن را «برازندگی» یا «زرق‌وبرق» می‌نامند، مختل می‌شود. برازندگی نشان‌دهنده یک وضعیت موقتی است که در آن ویژگی‌های ظاهری یا سطحی محصول -مانند یک رابط کاربری اعتیادآور، بازاریابی گمراه‌کننده یا پیش‌پرده‌هایی با هزینه تولید بالا- به‌طور موثری «اخبار بد» مربوط به کیفیت پایین را پنهان می‌کنند. نکته حیاتی در این مدل این است که یک محصول بی‌کیفیت که دارای «برازندگی» است، تا زمانی که این وضعیت از بین نرود، هیچ سیگنالی از نقص خود ساطع نمی‌کند. مدت‌زمان این وضعیت فریبنده از طریق نرخ انتقال (p) کنترل می‌شود؛ نرخی که تعیین می‌کند یک محصول با چه سرعتی از حالت پرزرق‌وبرق به حالت غیرجذاب (جایی که ماهیت واقعی آن سرانجام فاش می‌شود) تغییر وضعیت می‌دهد.

این پژوهش سپس برای جداسازی تاثیر فناوری‌های مدرن، به دو رویه اطلاعاتی متمایز تقسیم می‌شود. در «محیط پیش از هوش مصنوعی»، پلت‌فرم‌ و کاربر در وضعیتی یکسان قرار دارند. هیچ‌کدام از وضعیت اولیه برازندگی یک محصول برای یک فرد خاص آگاه نیستند و هر دو باید باورهای خود را بر اساس سیگنال‌های مشاهده‌شده یکسان به‌روزرسانی کنند. در این جهان، توانایی پلت‌فرم‌ برای دستکاری رفتاری به دلیل جهل خود پلت‌فرم‌ محدود است.

چشم‌انداز در «محیط پس از هوش مصنوعی» به شکلی دراماتیک تغییر می‌کند. در اینجا، پلت‌فرم‌ از قدرت کلان‌داده‌ها برای کسب یک برتری اطلاعاتی قابل توجه بهره می‌برد. با تحلیل مجموعه‌داده‌های عظیم کاربران «مشابه» -افرادی با ویژگی‌های جمعیت‌شناختی یا رفتاری همسان- پلت‌فرم‌ می‌تواند با دقت تخمین بزند که آیا یک محصول خاص برای یک کاربر معین در وضعیت «برازندگی» خواهد بود یا خیر. این موضوع به پلت‌فرم‌ اجازه می‌دهد محصولاتی را شناسایی کند که از نظر عینی بی‌کیفیت هستند، اما برای مدتی طولانی در نظر کاربر بسیار جذاب جلوه می‌کنند.

یک عنصر محوری در این مدل، فرض رفتاری مربوط به آگاهی کاربر است. پژوهشگران فرض می‌کنند که کاربران دارای «عقلانیت محدود» هستند؛ آنها قادر به به‌روزرسانی باورها به روش استنباط بیزی هستند، اما از میزان برتری اطلاعاتی پلت‌فرم‌ غافل‌اند. آنان شک نمی‌کنند که پیشنهاد یک محصول، یک حرکت حساب‌شده بر اساس دانش پلت‌فرم‌ از نقاط ضعف خاص آنها در برابر برازندگی است؛ در نتیجه، پیشنهاد‌های پلت‌فرم‌ را به‌عنوان سیگنالی از کیفیت پایین  تفسیر نمی‌کنند.

این عدم تقارن اطلاعاتی به «موتور» دستکاری رفتاری تبدیل می‌شود. ازآنجا‌که پلت‌فرم‌ قیمت‌ها را بر اساس «باور» فعلی کاربر به کیفیت تعیین می‌کند (و نه کیفیت واقعی)، می‌تواند به‌شکلی استراتژیک کالاهای براق، اما بی‌کیفیت عرضه کند. کاربر که تنها «ظاهر براق» را می‌بیند، باوری اغراق‌آمیز نسبت به ارزش محصول پیدا می‌کند. سپس پلت‌فرم‌ این «مازاد رفتاری» را با دریافت قیمتی گزاف برای محصولی که عملاً یک کالای بنجل است، تصاحب می‌کند و به این ترتیب مسیر یادگیری کاربر را در جهت منافع خود به یغما می‌برد.

پویایی یادگیری و مخاطرات دستکاری رفتاری

نقطه ثقل پژوهش عجم ‌اوغلو و همکارانش در بعد زمانی فریب، یعنی نرخ انتقال (p) نهفته است. این پارامتر به‌عنوان «آزمون تورنسل» بنیادین عمل می‌کند تا مشخص شود که آیا هوش مصنوعی در نقش یک راهنمای دیجیتال ظاهر می‌شود یا یک نگهبان استثمارگر. پویایی یادگیری کاربر به‌طور ناگسستنی با این مسئله گره خورده است که «برازندگی» تا چه زمانی می‌تواند با موفقیت عیوب ذاتی یک محصول را  پنهان کند.

زمانی که برازندگی زودگذر باشد -که با نرخ p  بالا مشخص می‌شود- انگیزه‌های اقتصادی پلت‌فرم‌ به‌طور طبیعی با رضایت بلندمدت کاربر همسو می‌شود. در این رویه، تلاش برای فریب دادن کاربر یک استراتژی بازنده است؛ چرا که «زرق‌وبرق» محصول چنان سریع از بین می‌رود که ماهیت واقعی یک کالای بی‌کیفیت تقریباً بلافاصله فاش می‌شود. برای پلت‌فرم‌، هر لحظه‌ای که صرف تبلیغ یک محصول «بنجل» (که به‌زودی طرد خواهد شد) می‌شود، فرصتی ازدست‌رفته برای ایجاد یک رابطه ارزشمند و پایدار با کاربر است. در نتیجه، پلت‌فرم‌ از بینش‌های مبتنی بر هوش مصنوعی خود برای عبور از محصولات جذاب، اما نامرغوب استفاده کرده و کاربر را با سرعت بیشتری به سمت گزینه‌های باکیفیت هدایت می‌کند. در اینجا، «اثر سودمندی» حاکم است: هوش مصنوعی هزینه‌های جست‌وجو و اصطکاک اطلاعاتی را کاهش می‌دهد و به یک «بهبود پارتو» منجر می‌شود که در آن هم سود پلت‌فرم‌ و هم رفاه مصرف‌کننده افزایش می‌یابد.

بااین‌حال، زمانی که برازندگی پایدار باشد (p پایین)، چشم‌انداز بازار خطرناک می‌شود. در این سناریو، پلت‌فرم‌ با وسوسه‌ای قدرتمند برای دستکاری رفتاری مواجه است. ازآنجا‌که اخبار بد مربوط به کیفیت پایین محصول با تاخیر مواجه می‌شود، پلت‌فرم‌ می‌تواند بارها کالای پرزرق‌وبرق را به‌عنوان یک انتخاب باارزش عرضه کند. در این مرحله، یک تله روان‌شناختی ایجاد می‌شود: ازآنجا‌که کاربر محصول را مصرف می‌کند و هیچ بازخورد منفی فوری دریافت نمی‌کند، باور بیزی او به کیفیت محصول به شکلی متناقض تقویت می‌شود. این کار به پلت‌فرم‌ اجازه می‌دهد تا قیمت‌های گزاف را برای دوره‌ای طولانی حفظ کند. در این وضعیت، «اثر دستکاری» بر هرگونه افزایش کارایی غلبه کرده و به یک واگرایی شدید منجر می‌شود که در آن سود پلت‌فرم‌ به قیمت مستقیم کاهش مطلوبیت مصرف‌کننده، سر به فلک می‌کشد.

طنین تجربی این مدل را می‌توان در قلاب‌های اقتصاد دیجیتال مدرن یافت. توسعه‌دهندگان بازی‌های موبایلی، مانند زینگا (Zynga)، اغلب از عناصر «براق» پیچیده -مانند زیبایی‌شناسی بصری خیره‌کننده و «تزریق دوپامین» در مراحل اولیه بازی- استفاده می‌کنند تا پیش از آنکه فقدان عمق محتوایی بازی آشکار شود، تراکنش‌های مالی خرد را از کاربران دریافت کنند. به همین ترتیب، الگوریتم‌های رسانه‌های اجتماعی ممکن است محتوای «جذاب» و پرتعامل را که به کلیک‌های فوری می‌‌انجامد، در اولویت قرار دهند؛ حتی اگر این محتوا در خدمت رفاه اطلاعاتی یا عاطفی بلندمدت کاربر نباشد. در این موارد، هوش مصنوعی مسئله اطلاعات را حل نمی‌کند، بلکه هنر «انحراف ذهن» را به کمال می‌رساند.

گسترش بازار و «ضربه دوگانه» کلان‌داده‌ها

آخرین ستون از پژوهش عجم ‌اوغلو و همکارانش، یکی از مقدس‌ترین اصول اقتصاد کلاسیک را به چالش می‌کشد: این باور که افزایش تنوع بازار و حق انتخاب مصرف‌کننده ذاتاً سودمند است. در یک بازار سنتی، طیف گسترده‌تری از محصولات معمولاً باعث تقویت رقابت شده و به مصرف‌کنندگان اجازه می‌دهد گزینه‌هایی را بیابند که با ترجیحات آنها همسوتر است. بااین‌حال، نویسندگان یک روایت متقابل و تامل‌برانگیز را معرفی می‌کنند که آن را «ضربه دوگانه کلان‌داده‌ها» (Big Data Double Whammy) می‌نامند؛ این مفهوم نشان می‌دهد که در حضور هوش مصنوعی، گسترش حق انتخاب می‌تواند به شکلی متناقض، راه را برای استثمار عمیق‌تر هموار کند.

منطق این پدیده در توانایی پلت‌فرم‌ برای جست‌وجو در میان کاتالوگی رو به رشد از عرضه‌ها نهفته است. با افزایش تعداد محصولات موجود، احتمال اینکه هوش مصنوعی پلت‌فرم‌ محصولی را شناسایی کند که در آن لحظه برای یک کاربر خاص در وضعیت «برازندگی» قرار دارد، به‌شدت افزایش می‌یابد. در یک محیط پس از هوش مصنوعی که با برازندگیِ پایدار (p) مشخص می‌شود، تنوع بیشتر به معنای یافتن گزینه‌های بهتر نیست، بلکه طیف بزرگ‌تری از بنجل‌های با ظاهری جذاب را در اختیار پلت‌فرم‌ قرار می‌دهد. پلت‌فرم‌ می‌تواند به‌طور استراتژیک این عرضه‌ها را اولویت‌بندی کند و کاربر را از یک محصول بی‌کیفیت و براق به محصول دیگر سوق دهد. این موضوع مصرف‌کننده را در وضعیت دائمی یادگیری نگه می‌دارد، بدون اینکه هرگز به حقیقت دست یابد؛ درواقع کاربر در چرخه‌ای از دستکاری گرفتار می‌شود که رفاه او را تحلیل می‌برد و همزمان سود پلت‌فرم‌ را افزایش می‌دهد.

پژوهشگران با درک این ریسک سیستماتیک، مقاله را با ارائه چهارچوبی برای مداخله‌های تنظیم‌گری به پایان می‌برند. آنها سه مسیر اصلی را پیشنهاد می‌کنند:

1- کمینه‌سازی داده‌ها: با الزام پلت‌فرم‌‌ها به جمع‌آوری تنها آن دسته از داده‌هایی که برای یک تراکنش خاص ضروری هستند، رگولاتورها می‌توانند توانایی پلت‌فرم‌ را در ساخت الگو‌های فوق‌دقیق از سوگیری‌های کاربر -که پیش‌نیاز دستکاری است- محدود کنند.

2- شفافیت و آموزش: ازآنجاکه این مدل بر جهل کاربر نسبت به برتری اطلاعاتی پلت‌فرم‌ استوار است، پر کردن این «شکاف آگاهی» حیاتی است. آموزش کاربران درباره مکانیسم‌های برازندگی و هدف‌گیری الگوریتمیک می‌تواند بخشی از حاکمیت مصرف‌کننده را بازگرداند.

3- رقابت و اعتماد: نویسندگان مدافع سیاست‌هایی هستند که ورود پلت‌فرم‌‌های جدید را تشویق می‌کند؛ پلت‌فرم‌‌هایی که نه‌فقط بر سر قیمت یا تنوع، بلکه بر سر تعهدات معتبر به اخلاق داده‌ای و رفاه کاربر رقابت می‌کنند.