ابزار فریب
اثر دیپ‌فیک بر اقتصاد و سیاست‌گذاری در گفت‌وگو با سیدمحمد محمدزاده‌ضیابری
در جهانی که مرز میان واقعیت و خیال به‌سرعت در حال محو شدن است، دیپ‌فیک به‌عنوان یکی از جنجالی‌ترین دستاوردهای هوش مصنوعی، هر روز حضور پررنگ‌تری در زندگی ما پیدا می‌کند. فناوری که زمانی صرفاً جالب و سرگرم‌کننده به نظر می‌رسید، حالا می‌تواند مرز میان حقیقت و دروغ را چنان ناپیدا کند که نه‌تنها اعتماد عمومی را به چالش می‌کشد، بلکه زیرساخت‌های اجتماعی، اقتصادی و حتی سیاسی را تهدید می‌کند. حتی تصور یک ویدئو جعلی که در آن یک مقام سیاسی اظهاراتی تحریک‌آمیز دارد، یا فردی مشهور در صحنه‌ای غیرواقعی دیده می‌شود، می‌تواند فضای جامعه را به‌شدت ملتهب کند. با گسترش این فناوری و در نبود قوانین و ابزارهای کافی برای تشخیص محتوا، مخاطبان دیگر نمی‌دانند چه چیزی را باور کنند. در چنین فضایی، نه‌تنها افکار عمومی به‌آسانی دستکاری می‌شود، بلکه تصمیم‌گیری‌های کلان نیز ممکن است بر اساس اطلاعات نادرست شکل بگیرند. اما این فقط یک روی سکه است، به این معنا که دیپ‌فیک تنها تهدید نیست؛ اگر درست مدیریت شود، می‌تواند به ابزاری برای خلاقیت، نوآوری و آموزش بدل شود. در این پرونده، گفت‌وگویی با «سیدمحمد محمدزاده‌ضیابری»، مدیرعامل شرکت پردازش هوشمند ترگمان و رئیس کمیسیون هوش مصنوعی سازمان نظام صنفی رایانه‌ای داشته‌ایم تا با نگاهی به وضعیت دیپ‌فیک در ایران و جهان، فرصت‌ها و مخاطرات آن را بررسی کنیم. همچنین راهکارهایی برای مواجهه هوشمندانه با این پدیده ارائه شده است.
♦♦♦
فناوری دیپ‌فیک چگونه در ایران و سایر کشورهای جهان به‌عنوان ابزاری در حوزه‌های مختلف از جمله سیاست، رسانه، سرگرمی و امنیت سایبری مورد استفاده قرار می‌گیرد؟ با توجه به کاربردهای مثبت و منفی آن، چه چالش‌ها و فرصت‌هایی در برابر جوامع، دولت‌ها و نهادهای مدنی وجود دارد و چگونه می‌توان میان بهره‌مندی از ظرفیت‌های نوآورانه این فناوری و مهار مخاطرات آن، توازن ایجاد کرد؟
دیپ‌فیک فناوری مبتنی بر هوش مصنوعی است که با استفاده از یادگیری عمیق، محتوای صوتی یا تصویری جعلی تولید می‌کند، مثل جعل چهره یا صدای افراد در ویدئوها به نحوی که واقعی به نظر برسد. این فناوری از حدود سال ۲۰۱۷ با پیشرفت الگوریتم‌های شبکه‌های مولد تخاصمی (GANs) با انتشار ابزارهای عمومی مانند DeepFaceLab و FakeApp به محبوبیت رسید و از آن زمان در حوزه‌های مختلف گسترش یافت.
در ایران، دیپ‌فیک بیشتر در شبکه‌های اجتماعی برای تولید محتوای طنز، سرگرمی یا تبلیغات استفاده می‌شود، اما مواردی از سوءاستفاده مانند جعل هویت یا انتشار شایعات نیز مشاهده شده است. نبود قوانین مشخص و زیرساخت‌های نظارتی کافی در ایران باعث شده که این فناوری گاهی حریم خصوصی افراد را تهدید کند و به اعتماد عمومی آسیب بزند. در سطح جهانی، دیپ‌فیک کاربردهای خلاقانه و متنوعی دارد. در فیلم‌سازی و بازی‌های ویدئویی، این فناوری برای خلق جلوه‌های بصری پیشرفته یا بازسازی چهره بازیگران استفاده می‌شود و هزینه‌های تولید را کاهش می‌دهد. در تبلیغات، برندها از دیپ‌فیک برای خلق کمپین‌های نوآورانه بهره می‌برند، و در آموزش، شبیه‌سازی سخنرانی‌های تاریخی یا سناریوهای آموزشی با آن انجام می‌شود. دیپ‌فیک البته همان‌طور که مشخص است معایب جدی هم دارد. انتشار اخبار جعلی، جعل هویت برای کلاهبرداری، و تولید محتوای غیراخلاقی از جمله تهدیدهای اصلی هستند که اعتماد عمومی به رسانه‌ها را کاهش می‌دهند. بسیاری از کشورها در حال تدوین قوانین سخت‌گیرانه برای مقابله با سوءاستفاده از این فناوری هستند، اما تشخیص محتوای جعلی همچنان دشوار است، چراکه ابزارهای تشخیص دیپ‌فیک به‌سرعت فناوری تولید آن پیشرفت نمی‌کنند. این شکاف فنی و قانونی، مدیریت اثرات منفی دیپ‌فیک را به یک چالش جهانی تبدیل کرده است.
با توجه به اینکه با این پدیده، مرزی میان دروغ و حقیقت نمی‌ماند، این قضیه چطور می‌تواند فضای اجتماعی را ملتهب کند؟ مخاطرات آن برای جامعه چیست؟
دیپ‌فیک با محو کردن مرز میان راست و دروغ، می‌تواند فضای اجتماعی را به‌شدت ملتهب کند. این فناوری قادر است محتوای صوتی یا تصویری را به نحوی جعل کند که چنان واقعی به نظر برسد که تشخیص آن برای عموم مردم دشوار باشد. در ایران، با توجه به فضای حساس سیاسی و اجتماعی و نقش پررنگ شبکه‌های اجتماعی، یک ویدئوی دیپ‌فیک که مثلاً یک مقام سیاسی را در حال بیان اظهارات جنجالی یا یک فرد سرشناس را در موقعیت غیراخلاقی نشان دهد، می‌تواند به‌سرعت در پلت‌فرم‌ها فراگیر شود. این امر می‌تواند خشم عمومی، شایعات گسترده یا حتی اعتراضات اجتماعی را برانگیزد، به‌ویژه در شرایطی که جامعه از قبل با شکاف‌های سیاسی یا فرهنگی مواجه است. متاسفانه همیشه سرعت انتشار و اثرگذاری شایعه از تکذیبیه آن بیشتر است؛ در نتیجه حتی اگر جعلی بودن محتوا بعداً اثبات شود، تاثیر اولیه آن می‌تواند تنش‌های قومی، مذهبی یا سیاسی را تشدید کند و اعتماد به نهادها و رسانه‌ها را کاهش دهد. مخاطرات دیپ‌فیک در جامعه چندبعدی است. نخست، این فناوری می‌تواند به ابزاری برای تولید و انتشار اخبار جعلی و دستکاری افکار عمومی تبدیل شود، مثلاً در انتخابات یا بحران‌های اجتماعی، که می‌تواند به بی‌ثباتی بینجامد. دوم، سوءاستفاده‌هایی مانند جعل هویت برای کلاهبرداری، اخاذی یا تولید محتوای غیراخلاقی، حریم خصوصی افراد را تهدید می‌کند و می‌تواند آسیب‌های روانی و اجتماعی جدی به همراه داشته باشد. سوم، کاهش اعتماد عمومی به محتوای دیجیتال و رسانه‌ها، یکی از جدی‌ترین تهدیدهای بلندمدت است. وقتی مردم نتوانند به آنچه می‌بینند یا می‌شنوند اطمینان کنند، فضای بی‌اعتمادی و سردرگمی در جامعه گسترش می‌یابد. از طرف دیگر حجم انبوه نشت‌های اطلاعاتی موجب شده تا کلاهبرداران به اطلاعات واقعی افراد دسترسی داشته باشند و بتوانند با استفاده از دیپ‌فیک و مهندسی اجتماعی افراد مختلف به‌خصوص کسانی که سطح دانش کمتری نسبت به فناوری دارند، سوءاستفاده کنند.
با توجه به نقش روزافزون پلت‌فرم‌های دیجیتال در شکل‌دهی به افکار عمومی، جریان‌های اطلاعاتی و رفتارهای اجتماعی، مسئولیت این پلت‌فرم‌ها در قبال محتوا، حریم خصوصی کاربران، امنیت داده‌ها و مقابله با اخبار جعلی چیست؟ فعالان این حوزه، از توسعه‌دهندگان گرفته تا سیاست‌گذاران و نهادهای مدنی، چه ملاحظات حقوقی، اخلاقی و تکنولوژیکی را باید در طراحی، تنظیم‌گری و بهره‌برداری از این پلت‌فرم‌ها در نظر بگیرند؟
پاسخ به این سوال ساده نیست، چرا که هنوز در مورد مسئولیت پلت‌فرم‌های دیجیتال در ایران قانون مدون و مشخصی نداریم و این موضوع به هر دو سمت تولیدکننده محتوا و ارائه‌دهنده محتوا آسیب زده است. با این حال، با توجه به خطرات دیپ‌فیک، پلت‌فرم‌های دیجیتال باید اقدامات پیش‌فعالانه‌ای برای مدیریت این فناوری انجام دهند. نبود چهارچوب‌های قانونی نباید بهانه‌ای برای بی‌عملی باشد، زیرا مسئولیت اجتماعی و حفظ اعتماد کاربران بر عهده این پلت‌فرم‌هاست. اولین گام، پیاده‌سازی سیستم‌های پیشرفته تشخیص دیپ‌فیک مبتنی بر هوش مصنوعی است که بتواند محتوای جعلی را قبل از انتشار انبوه شناسایی کند؛ کاری که البته با پیشرفت‌های مداوم فناوری ساده نیست. دوم، پلت‌فرم‌ها باید سیاست‌های شفافی برای مدیریت محتوای دیپ‌فیک تدوین کنند، مانند برچسب‌گذاری محتوای مشکوک، حذف سریع محتوای مضر یا محدود کردن انتشار ویدئوهای حساس تا تایید اصالت آنها. سوم، آموزش کاربران از طریق کمپین‌های آگاهی‌بخشی، اعلان‌های درون‌برنامه‌ای یا راهنماهای ساده درباره نحوه شناسایی دیپ‌فیک ضروری است، به‌ویژه در ایران که سطح سواد دیجیتال در برخی اقشار پایین است. پلت‌فرم‌ها می‌توانند با خودتنظیمی و ایجاد پروتکل‌های داخلی، خلأ قانونی را تا حدی جبران کنند. توجه نکردن به این موضوع نه‌تنها به کاربران آسیب می‌زند، بلکه اعتبار و پایداری تجاری پلت‌فرم‌ها را نیز تهدید می‌کند.
در این زمینه آگاهی‌بخشی به جامعه چگونه و از چه طریقی باید انجام شود؟
در زمینه مواجهه با پدیده دیپ‌فیک آگاهی‌بخشی به جامعه برای کاهش مخاطرات اقدام مهمی است. این آگاهی‌بخشی باید به‌صورت هدفمند، فراگیر و با زبانی ساده انجام شود تا همه اقشار بتوانند از آن بهره‌مند شوند. رسانه‌های جمعی مانند تلویزیون و رادیو، باید برنامه‌هایی با محتوای آموزشی تولید کنند که نشانه‌های دیپ‌فیک و راه‌های تشخیص آن را به زبان غیرفنی توضیح دهند. اما از آنجا که قشر جوان امروزه بیشتر مخاطب شبکه‌های اجتماعی است، لازم است تا از ظرفیت انواع سکوهای شبکه اجتماعی نیز بهره‌گیری شود و با تولید محتواهایی که به دلیل جذابیت قابلیت نشر وسیع داشته باشند، به تبیین این موضوع کمک کرد. آموزش در نظام آموزشی، از مدارس تا دانشگاه‌ها نیز ضروری است؛ البته در این حوزه باید اثرگذاری و سرعت تغییرات حتماً مدنظر قرار گیرد. سومین شیوه، کمپین‌های آگاهی‌بخشی از سوی دولت، سازمان‌های مردم‌نهاد و پلت‌فرم‌های دیجیتال، از طریق کارگاه‌های حضوری، وبینارها و انتشار راهنماهای ساده است. باید گروه‌های آسیب‌پذیر مانند سالمندان یا افراد با سواد دیجیتال پایین هدف قرار گیرند. در نهایت، پلت‌فرم‌های دیجیتال می‌توانند با ارائه اعلان‌های درون‌برنامه‌ای، ابزارهای گزارش‌دهی آسان برای محتوای مشکوک و اطلاع‌رسانی مداوم، کاربران را به مشارکت فعال در شناسایی دیپ‌فیک تشویق کنند. در کل این آگاهی‌بخشی باید به صورت چندسطحی انجام شود.
با توجه به گسترش دیپ‌فیک و قابلیت آن در تولید محتوای تصویری و صوتی جعلی اما باورپذیر، این پدیده چه پیامدهایی می‌تواند برای فضای اقتصاد، کسب‌وکارها و روابط تجاری به همراه داشته باشد؟ چگونه می‌تواند اعتماد عمومی، اعتبار برندها، امنیت اطلاعات و حتی رفتار مصرف‌کنندگان را تحت تاثیر قرار دهد؟
هر فناوری به صورت همزمان اثرات مثبت و منفی دارد. از منظر فرصت‌ها، دیپ‌فیک در تبلیغات و بازاریابی کاربردهای خلاقانه‌ای دارد. کسب‌وکارها می‌توانند با استفاده از این فناوری، کمپین‌های تبلیغاتی جذاب و شخصی‌سازی‌شده تولید کنند، مانند ویدئوهایی با حضور چهره‌های معروف یا شبیه‌سازی سناریوهای خلاقانه که هزینه تولید آنها نسبت به روش‌های سنتی کمتر است. در صنایع سرگرمی، مانند فیلم‌سازی و بازی‌های ویدئویی، دیپ‌فیک می‌تواند هزینه‌های تولید را کاهش دهد و نوآوری را تقویت کند. با این حال، تهدیدات این فناوری جدی‌تر است. دیپ‌فیک می‌تواند برای جعل هویت مدیران یا برندها استفاده شود، مثلاً انتشار ویدئوی جعلی از مدیرعامل یک شرکت که اخبار نادرست درباره وضعیت مالی شرکت اعلام می‌کند، می‌تواند ارزش سهام را کاهش دهد یا اعتماد مشتریان را از بین ببرد. کلاهبرداری‌های مالی با استفاده از دیپ‌فیک، مانند تقلید صدا برای درخواست انتقال وجه، در حال افزایش است. در ایران، با توجه به نشت‌های اطلاعاتی گسترده و سواد دیجیتال پایین برخی اقشار، این تهدیدات می‌توانند خسارات مالی سنگینی به کسب‌وکارها و افراد وارد کنند.
اثرات پدیده جعل عمیق بر تصمیم‌گیری‌ها و سیاست‌گذاری‌ها چیست؟
دیپ‌فیک با تولید محتوای جعلی و واقعی‌نما، تصمیم‌گیری‌ها و سیاست‌گذاری‌ها را مختل می‌کند. در تصمیم‌گیری، این فناوری می‌تواند با ویدئوهای جعلی، مثل اظهارات تحریک‌آمیز یک مقام سیاسی، افکار عمومی را دستکاری کرده و سیاست‌گذاران یا مردم را به انتخاب‌های شتاب‌زده سوق دهد. عدم اطمینان به اطلاعات دیجیتال، تصمیم‌گیری را کُند و پرخطر می‌کند، به‌ویژه در بحران‌ها که اطلاعات جعلی می‌توانند مبنای تصمیمات نادرست شوند. راستی‌آزمایی اطلاعات نیز هزینه و زمان را افزایش می‌دهد. در سیاست‌گذاری، دیپ‌فیک نیاز به قوانین جدید را برجسته می‌کند، اما نبود چهارچوب قانونی در ایران این فرآیند را دشوار کرده و می‌تواند سیاست‌گذاری را به واکنش‌های لحظه‌ای محدود کند که بارها اثرات مخرب آن را دیده‌ایم. این فناوری با تشدید تنش‌های سیاسی از طریق شایعات جعلی، سیاست‌گذاری را از مسائل اصلی منحرف می‌کند. سیاست‌گذاران باید با قانون‌گذاری، حمایت از توسعه ابزارهای تشخیص و آگاهی‌بخشی، این چالش‌ها را مدیریت کنند.
تجربه دیگر کشورها در مواجهه با پدیده جعل عمیق چگونه است؟
تجربه کشورها در مواجهه با دیپ‌فیک متنوع است و به سطح پیشرفت فناوری، قوانین و فرهنگ آنها بستگی دارد. به‌عنوان مثال در ایالات‌متحده، ایالت کالیفرنیا قوانینی مانند قانون AB-602 را تصویب کرده که تولید و انتشار دیپ‌فیک‌های غیراخلاقی را با اعمال جریمه‌های سنگین جرم‌انگاری می‌کند. اما در سطح فدرال، قانون جامعی وجود ندارد و پلت‌فرم‌ها اغلب خودتنظیمی می‌کنند. چین رویکرد سخت‌گیرانه‌تری دارد و از سال ۲۰۲۰ قوانینی برای ممنوعیت انتشار دیپ‌فیک‌های خبری بدون افشای ماهیت جعلی آنها وضع کرده است. استرالیا در سال ۲۰۲۳ تولید دیپ‌فیک‌های غیراخلاقی را جرم‌انگاری کرد، اما کارشناسان معتقدند حمایت از قربانیان، به‌ویژه زنان، کافی نیست و قوانین هنوز عقب‌تر از فناوری هستند. اتحادیه اروپا با قانون خدمات دیجیتال و مقررات هوش مصنوعی بر شفافیت پلت‌فرم‌ها و برچسب‌گذاری محتوای دیپ‌فیک تاکید دارد و جریمه‌های سنگینی برای تخلفات اعمال می‌کند. با این حال، چالش جهانی مشترک، عقب ماندن ابزارهای تشخیص از سرعت پیشرفت دیپ‌فیک است. بسیاری از کشورها آموزش عمومی و همکاری با شرکت‌های فناوری را ترویج می‌کنند، اما نیاز به هماهنگی بین‌المللی برای مقابله با سوءاستفاده‌های فرامرزی همچنان جدی است.
برای کمتر کردن تهدیدات این پدیده بر اکوسیستم دیجیتال و فضای جامعه چه راهکارهایی می‌توان ارائه داد؟
برای کاهش تهدیدات دیپ‌فیک بر اکوسیستم دیجیتال و جامعه، راهکارهای چندجانبه‌ای لازم است. نخست، توسعه ابزارهای تشخیص پیشرفته مبتنی بر هوش مصنوعی برای شناسایی سریع محتوای جعلی قبل از انتشار انبوه حیاتی است، هرچند که این ابزارها باید مدام به‌روزرسانی شوند. دوم، تدوین قوانین شفاف و سخت‌گیرانه، مانند جرم‌انگاری جعل هویت یا انتشار محتوای مضر، بازدارندگی ایجاد و خلأ قانونی فعلی را پر می‌کند. سوم، آگاهی‌بخشی عمومی از طریق رسانه‌های جمعی، شبکه‌های اجتماعی و آموزش سواد دیجیتال در مدارس و دانشگاه‌ها، به‌ویژه برای سالمندان و افراد با دانش کم نسبت به فناوری، اعتماد به محتوای دیجیتال را تقویت می‌کند. در نهایت، پلت‌فرم‌های دیجیتال باید مسئولیت‌پذیر باشند؛ برچسب‌گذاری محتوای مشکوک، حذف سریع ویدئوهای مضر و ارائه ابزارهای گزارش‌دهی آسان به کاربران، از انتشار محتوای جعلی جلوگیری می‌کند. همکاری بین‌المللی برای تبادل فناوری و هماهنگی قانونی نیز ضروری است تا تهدیدات فرامرزی مدیریت شوند. در نهایت باید تاکید کرد که هر پدیده فناوری مواهب و تهدیدات خاص خود را دارد. تجربه نشان داده که بگیر و ببند جواب نمی‌دهد؛ بهترین ابزار کاهش مخاطرات آگاهی‌رسانی است و در این حوزه همه باید دست به دست هم بدهیم.
