دروغ، تقلب و دزدی عوامل هوش مصنوعی

آلن گرینسپن فقید که تمام عمرش شهرنشین بود علاقه عجیبی به سیم خاردار داشت. مطمئناً رئیس سابق فدرال‌رزرو راه‌آهن، جویندگان طلا و کابوی‌های تنها را که به باز شدن مرزها در طلوع سرمایه‌داری آمریکایی کمک کردند، تحسین می‌کرد. اما او همچنین در قلب اقتصاددانش علاقه خاصی به سیم خاردار داشت که به گفته او، با فراهم کردن امکان حفاظت از املاک مهاجرانی که به‌دنبال آنها می‌آمدند، بهره‌وری را بالا می‌برد.

هوش مصنوعی مانند غرب وحشی پیشگامان خود را دارد. در آمریکا، تعداد آنها رو به کاهش است. شرکت‌های آنتروپیک (Anthropic) و اوپن ای‌آی (OpenAI) همچنان به گسترش مرزهای هوش مصنوعی مصمم هستند. سایر غول‌های فناوری، از جمله گوگل (که قبلاً پیشتاز بود و با سرعت زیادی دانشمندان پیشگام هوش مصنوعی را از دست می‌دهد) در این زمینه مرددند. به‌نظر می‌رسد که ابرمقیاس‌شوندگان، فروش زیرساخت‌های هوش مصنوعی به مشتریان ابری خود را سودآورتر از صرف هزینه‌های محاسباتی ارزشمند برای پیشرفت الگو‌های خود می‌دانند.

چیزی که هوش مصنوعی ندارد، وفاداران کافی است. یعنی افراد و کسب‌وکارهایی که از محصولاتی مانند عوامل هوش مصنوعی به‌طور کامل استفاده و به توجیه سرمایه‌گذاری‌های هنگفتی که به هوش مصنوعی مرزی سرازیر می‌شود کمک می‌کنند. از آنجا که مانند غرب وحشی، زندگی در مرز بی‌پرواست، آنها تا حدودی کنار گذاشته می‌شوند. همان‌طور که اپیزودهای اخیر «از دست دادن کنترل» از سوی پیشرفته‌ترین مدل‌های آنتروپیک و اوپن ای‌آی گواهی می‌دهند، عوامل هوش مصنوعی که قرار است از طرف مردم و در «همسویی» با ارزش‌هایشان کار کنند، در صورت لزوم دروغ می‌گویند، تقلب می‌کنند و دست به دزدی می‌زنند. آنها از اسارت آزاد می‌شوند و گروه‌های مضری را برای آسیب رساندن به مردم تشکیل می‌دهند. اگر می‌توانستند ویسکی می‌نوشیدند و دعوا می‌کردند.

چنین غیرقابل‌پیش‌بینی ‌بودنی، برای بسیاری از شرکت‌ها تحمل‌ناپذیر است. جارد سین از شرکت اینترنتی GoDaddy که سعی در ایجاد نظم در این هرج‌ومرج دارد، می‌گوید: «کافی است یک بار مارگزیده شوید و دیگر هرگز برنگردید.» نیاز به قانون و نظم باعث ایجاد گروه جدیدی از شرکت‌های زیرساخت هوش مصنوعی شده است. آنها تراشه یا کامپیوتر نمی‌فروشند که همان بیل و کلنگ‌های معمولی در تب طلای هوش مصنوعی هستند. آنها محافظت در برابر تهدیدات سایبری، رفع مشکلات عوامل غیرقابل‌اعتماد و نفوذناپذیر را ارائه می‌دهند و در صورت سرکشی آنها را کنترل می‌کنند. به عبارت دیگر، کسب‌و‌کار آنها همانند سیم خاردار است.

امنیت سایبری فوری‌ترین حوزه خطر و فرصت است. آزمایش‌های اخیر قابلیت‌های هک مدل‌های آنتروپیک و اوپن ای‌آی نشان داد که عوامل سرکش می‌شوند، اعتبارنامه‌ها را می‌دزدند، هویت‌های جعلی ایجاد می‌کنند، چت‌روم‌های مخفی راه‌اندازی می‌کنند و ردپای خود را می‌پوشانند. همه اینها در کمال تعجب و وحشت ارزیاب‌های انسانی آنها رخ داده است. مدل‌های امنیتی پیشرفته شامل Claude Mythos 5 از آنتروپیک و GPT 5.6-Cyber از اوپن ای‌آی بدون شک به مدافعان نیز کمک خواهند کرد. اما، به گفته خانم داون سونگ، متخصص هوش مصنوعی و امنیت سایبری در دانشگاه کالیفرنیا، برکلی، در حال حاضر تعادل قدرت کاملاً در دست مهاجمان است. یک مانع دیگر نیز وجود دارد. او می‌گوید، اگر سازمان‌ها عوامل خودمختار را بپذیرند، «سطح حمله» بالقوه هکرها را بالا می‌برند.

افزایش خطرات به توضیح این موضوع کمک می‌کند که چرا ارزش‌گذاری سهام شرکت‌های امنیت سایبری با قابلیت‌های هوش مصنوعی بالا می‌رود. قیمت سهام 

Palo Alto Networks و CrowdStrike، دوتا از بزرگ‌ترین شرکت‌های امنیت سایبری تاکنون، در سال جاری تقریباً دو برابر شده است. ادغام و تملیک شرکت‌ها به‌شدت افزایش یافته و با خرید ۳۲ میلیارد‌دلاری شرکت امنیت سایبری Wiz از سوی آلفابت، بیش از ۷۰ میلیارد دلار معاملات کلان مرتبط با امنیت سایبری در سال گذشته بسته شده است. شرکت جمع‌آوری داده Pitchbook می‌گوید، امنیت سایبری مرتبط با هوش مصنوعی یکی از داغ‌ترین حوزه‌های سرمایه‌گذاری خطرپذیر (VC) نیز هست.

این فرصت‌ها فراتر از امنیت سایبری هستند. در کنفرانس اخیر هوش مصنوعی عامل‌محور که خانم سونگ برگزار کرد، ستون‌نویس مهمان انبوهی از شکایات را نه‌تنها در مورد پتانسیل هک شدن از طریق مدل‌های زبانی بزرگ (LLM) در اوج قدرتشان، بلکه در مورد اشتباهاتی که می‌توانند در ناآگاهانه‌ترین حالت خود مرتکب شوند، شنید. یکی از متخصصان نموداری را که از طریق عامل ایجاد شده بود و درآمد برترین بازیکنان تنیس اروپا را اندازه‌گیری می‌کرد، نشان داد. این نمودار به اشتباه کارلوس آلکاراز اسپانیایی نفر دوم جهان را حذف کرده بود. او به طعنه گفت: «این تنیس است، چه کسی اهمیت می‌دهد؟» اما اگر این تحلیل مالی یک شرکت بود، مهم جلوه می‌کرد. دیگری به تضاد میان میزان دانش مدل‌های زبانی بزرگ در مورد فیزیک کوانتومی و ناتوانی آنها در سفارش بوریتو اشاره می‌کرد.

این نقاط ضعف باعث ایجاد گروه دیگری از شرکت‌های امنیت سایبری شده است که توجه سرمایه‌گذاران خطرپذیر را به خود جلب می‌کنند: آنهایی که قول می‌دهند «لایه اعتماد» هوش مصنوعی عامل‌محور را تقویت کنند. یکی از آنها Cyera است که ارزش‌گذاری آن در ۱۸ ماه چهار برابر شد و به ۱۲ میلیارد دلار رسید. این شرکت می‌گوید که فقدان اعتماد اخیراً پذیرش هوش مصنوعی را «متوقف» کرده است و خدماتی را برای جلوگیری از نشت داده‌ها و استفاده غیرمجاز از ابزار ارائه می‌دهد. شرکت دیگر 

Scaled Cognition نام دارد که دن کلاین، استاد دانشگاه برکلی، آن را تاسیس کرده و اخیراً ۱۰۰ میلیون دلار با حمایت سرمایه‌گذاران خطرپذیر جمع‌آوری کرده است. این شرکت قول می‌دهد آنچه آقای کلاین «خطاهای نامرئی» تولیدشده به وسیله هوش مصنوعی می‌نامد را با گنجاندن قابلیت اطمینان تضمین‌شده در آموزش الگوهای خود کاهش دهد. خطاهایی که به اندازه کافی محتمل هستند که با انجام وظایف طولانی‌تر توسط عامل‌ها از دست بروند و پیچیده شوند. سایر استارت‌آپ‌ها در ایجاد ارزیابی‌هایی برای اندازه‌گیری اثربخشی عامل‌ها، هویت عامل‌ها برای تعیین محل مسئولیت در صورت سرکشی و کنترل سیستم‌ها با یک کلید قطع، تخصص دارند. هوش مصنوعی مشکلات دیگری هم در مرز خود دارد و همانند غرب وحشی بی‌رحم است. الگوهای ارزان‌تر چینی با وزن آزاد به میدان رقابت وارد شده‌اند. در 10 آگوست، متای مارک زاکربرگ وارد میدان شد و نسخه‌ای با وزن آزاد از قدرتمندترین مدل خود به نام Muse Glimmer را منتشر کرد.

این مرز بی‌قانون نیز هست. نگرانی‌ها در مورد عوامل سرکش آنقدر قوی است که حتی مدیران آزمایشگاه‌های پیشرو هوش مصنوعی از دولت ترامپ می‌خواهند که نقش کلانتر را بر عهده بگیرد؛ هرچند دولت به طرز عجیبی آخرین چهارچوب خود در مورد ایمنی هوش مصنوعی را مخفی نگه می‌دارد. بااین‌حال، روشن است که سازمان‌ها قبل از اینکه عواملی را با اطمینان کامل به کار گیرند، باید بررسی‌ها و کنترل‌های بیشتری انجام دهند. یکی از کلمات کلیدی هوش مصنوعی امسال «مهار» است: سامانه‌ای که الگوهای زبانی بزرگ را احاطه می‌کند تا عوامل را در مسیر درست نگه دارد. این سامانه می‌تواند به‌‌خوبی سیم خاردار عمل کند.