تله اطلاعات غلط
چرا دیپ‌فیک یک تهدید حقوقی جدی محسوب می‌شود؟
در روزگاری که تکنولوژی هر روز جلوه‌ای تازه از توانایی خود را به نمایش می‌گذارد، دیپ‌فیک یا جعل عمیق به‌عنوان یکی از پیچیده‌ترین و بحث‌برانگیزترین دستاوردهای هوش مصنوعی، توجه بسیاری از کارشناسان حقوقی و فعالان اجتماعی را به خود جلب کرده است. ترکیب خیره‌کننده‌ای از «یادگیری عمیق» و «محتوای جعلی»، دیپ‌فیک را به ابزاری قدرتمند و در عین حال تهدیدآمیز تبدیل کرده است. ویدئوهایی که در آنها افراد سخنانی می‌گویند یا رفتارهایی را انجام می‌دهند که هرگز رخ نداده، نه‌تنها اعتماد عمومی را هدف گرفته‌اند، بلکه چالش‌هایی جدی در حوزه حقوق و قانون ایجاد کرده‌اند.
در این گزارش، با «فرشید فرحناکیان»، وکیل دادگستری، به بررسی ابعاد حقوقی دیپ‌فیک، مسئولیت پلت‌فرم‌ها، چهارچوب‌های قانونی ایران و جهان و همچنین راهکارهای مقابله با این پدیده پرداخته‌ایم.
پدیده دیپ‌فیک، به‌عنوان یکی از دستاوردهای پیچیده هوش مصنوعی، چالش‌های حقوقی و اخلاقی فراوانی را در سطح جهانی و ملی ایجاد کرده است. دیپ‌فیک (Deepfake) ترکیبی از دو واژه «Deep Learning» و «Fake» است و به محتوای چندرسانه‌ای اطلاق می‌شود که با بهره‌گیری از یادگیری عمیق و هوش مصنوعی، به‌گونه‌ای واقع‌گرایانه جعل شده‌اند. این فناوری با وجود کاربردهای مثبت، پتانسیل سوءاستفاده فراوانی دارد که آن را به تهدیدی جدی برای حریم خصوصی، امنیت اجتماعی و اعتبار افراد و نهادها تبدیل کرده است. اینها را فرحناکیان، وکیل دادگستری به تجارت فردا می‌گوید که در ادامه توضیحات بیشتری را درباره پیامدهای حقوقی این پدیده ارائه می‌کند.
کاربردهای مجرمانه؛ از جعل هویت تا جنگ روانی
ابعاد حقوقی پدیده دیپ‌فیک متنوع و متعدد هستند. یکی از مهم‌ترین جوانب قانونی دیپ‌فیک، «نقض حریم خصوصی» افراد است. استفاده بدون رضایت از تصویر، صدا یا حرکات افراد در تولید محتواهای جعلی، موجب تعرض به حقوق شخصی آنان می‌شود. ساخت ویدئوهایی که افراد را در حال انجام اعمال یا گفتن سخنانی نشان می‌دهد که حقیقت ندارند، می‌تواند مصداق «افترا» یا «نشر اکاذیب» تلقی شود و مشمول پیگرد قضایی قرار گیرد. در این میان، یکی از خطرناک‌ترین مصادیق آن، استفاده از دیپ‌فیک برای جعل هویت، به‌ویژه در حوزه‌های مالی و سازمانی است؛ به این معنا که جعل صدای مدیر یک شرکت برای صدور دستور انتقال وجه، نمونه‌ای واقعی از این کاربرد مجرمانه است. در سطح کلان، دیپ‌فیک‌ها می‌توانند ابزار جنگ روانی، تضعیف اعتماد عمومی و «تخریب فرآیندهای دموکراتیک» مانند انتخابات باشند.
اما قانون‌گذاری جهانی و تجربه کشورها چه می‌گوید؟ مروری بر روند و اخبار جهان نشان می‌دهد وضعیت حقوقی کنونی مقابله با دیپ‌فیک در جهان در حال بهتر شدن است. به‌عنوان مثال، در ایالات‌متحده آمریکا برخی ایالت‌ها مانند کالیفرنیا و تگزاس قوانین مشخصی برای مقابله با دیپ‌فیک در زمینه‌های پورنوگرافی غیرقانونی و محتوای سیاسی تصویب کرده‌اند. در اتحادیه اروپا هم بر اساس مقررات عمومی حفاظت از داده (General Data Protection Regulation) استفاده بدون مجوز از داده‌های بیومتریک افراد (مانند چهره یا صدا) می‌تواند تخلف تلقی شود و مجازاتی به همراه داشته باشد.
از نکات قابل توجه که این وکیل دادگستری به آن اشاره می‌کند این است که «چین از کشورهای پیشرو در قانون‌گذاری شفاف علیه دیپ‌فیک است و تولیدکنندگان این محتواها موظف به درج هشدار و اطلاع‌رسانی به مخاطب هستند. چین در سال ۲۰۱۹ قانونی وضع کرد که کاربران را ملزم می‌کند هویت واقعی خود را هنگام انتشار محتوای دیپ‌فیک افشا کنند. همچنین، پلت‌فرم‌ها موظف به علامت‌گذاری صریح محتوای مصنوعی هستند. نهادهای بین‌المللی مانند یونسکو، شورای اروپا و اتحادیه بین‌المللی مخابرات (ITU) تلاش‌هایی برای تدوین چهارچوب‌های اخلاقی و حقوقی جهانی جهت کنترل کاربردهای منفی دیپ‌فیک انجام داده‌اند».
همکاری‌های بین‌المللی؛ ائتلاف‌ها علیه دیپ‌فیک
«آیا همکاری بین‌المللی برای مقابله با تهدیدات فرامرزی دیپ‌فیک وجود دارد؟» به گفته فرحناکیان؛ «همکاری‌های بین‌المللی در مقابله با دیپ‌فیک در چند سطح قابل رویت است. سطح نخست در قالب ائتلاف شرکت‌های فناوری تعریف شده است. شرکت‌هایی مانند گوگل، متا، مایکروسافت و آمازون در قالب نهادهایی نظیر Partnership on AI تلاش می‌کنند با توسعه ابزارهای تشخیص دیپ‌فیک و استانداردسازی تولید محتوا، گسترش اطلاعات نادرست را کاهش دهند.»
از سوی دیگر، اتحادیه اروپا در سطحی دیگر در چهارچوب پروژه‌هایی مانند Horizon 2020 و مقررات عمومی حفاظت از داده اتحادیه اروپا (GDPR) اقدام به تدوین سیاست‌ها و فناوری‌هایی برای تشخیص محتوای جعلی و حفاظت از داده‌های بیومتریک کرده است؛ این وکیل دادگستری علاوه‌بر اتحادیه اروپا از کشورهای عضو ائتلاف اطلاعاتی Five Eyes (آمریکا، انگلستان، کانادا، استرالیا و نیوزیلند) هم یاد می‌کند که «در قالب طرح‌های اطلاعاتی مشترک، در سطحی دیگر تهدیدات مرتبط با دیپ‌فیک را شناسایی و رصد می‌کنند.»
«در سطحی دیگر، سازمان ملل و یونسکو با انتشار گزارش‌هایی درباره خطرات دیپ‌فیک و ارائه دستورالعمل‌های اخلاقی برای توسعه هوش مصنوعی، به کشورهای عضو در تنظیم سیاست‌ها کمک می‌کنند. سازمان‌های پلیسی مانند اینترپل و یوروپل نیز برنامه‌هایی برای آموزش کارشناسان امنیت سایبری و توسعه فناوری‌های شناسایی دیپ‌فیک در پرونده‌های جنایی اجرا کرده‌اند.»
مسئولیت پلت‌فرم‌ها؛ مرز آزادی بیان و نظارت
پرسشی که در این میان مطرح می‌شود این است که این قضیه در قالب «مسئولیت‌پذیری پلت‌فرم‌های دیجیتال» تعریف شده است؟ پاسخ حقوقدانان روشن است؛ «موضوع دیپ‌فیک و چالش‌های آن قطعاً و به‌طور مستقیم با «مسئولیت‌پذیری پلت‌فرم‌های دیجیتال» مرتبط است. درواقع، مسئولیت‌پذیری پلت‌فرم‌های دیجیتال در زمینه مدیریت محتوای تولیدی کاربران و جلوگیری از سوءاستفاده‌های ناشی از تکنولوژی‌هایی مانند دیپ‌فیک یکی از مباحث کلیدی در دنیای حقوق دیجیتال است. پلت‌فرم‌های دیجیتال مانند یوتیوب، فیس‌بوک، ایکس (توئیتر) و تیک‌تاک در معرض مسئولیت حقوقی به دلیل محتوای تولیدی کاربرانشان قرار دارند.»
پلت‌فرم‌ها معمولاً با دو چالش اساسی مواجه هستند: نخست «شناسایی محتوای نادرست» است. پلت‌فرم‌ها باید به شکلی موثر و کارآمد، محتوای تولیدشده توسط کاربران را نظارت کنند و از انتشار محتوای دیپ‌فیک که می‌تواند به اطلاعات نادرست، افترا و آسیب‌های اجتماعی منجر شود، جلوگیری کنند. چالش دوم «تعهدات قانونی» پلت‌فرم‌هاست. بسیاری از کشورها در تلاش‌اند تا قوانین و مقرراتی وضع کنند که پلت‌فرم‌ها را به مسئولیت‌پذیری بیشتر در قبال محتوای منتشرشده وادار کنند. در این میان، چهارچوب‌های قانونی در مسئولیت‌پذیری پلت‌فرم‌ها در سطح بین‌المللی مورد توجه قرار می‌گیرد؛ نکته‌ای که فرحناکیان درباره آن می‌گوید: «در این زمینه چندین چهارچوب وجود دارد که به مسئله مسئولیت‌پذیری پلت‌فرم‌ها در قبال محتوای تولیدی کاربران پرداخته است. در اتحادیه اروپا قانون خدمات دیجیتال (Digital Services Act) که در سال ۲۰۲۰ تصویب شد، پلت‌فرم‌ها را موظف می‌کند تا اقداماتی در راستای جلوگیری از انتشار محتوای غیرقانونی یا گمراه‌کننده انجام دهند. این مقررات (DSA) پلت‌فرم‌ها را به شفافیت در تصمیم‌گیری‌های خود و همچنین نظارت بر محتوای کاربران موظف می‌کند. در این اتحادیه همچنین مقررات عمومی حفاظت از داده به طور خاص در زمینه حفاظت از داده‌های شخصی و جلوگیری از سوءاستفاده‌های احتمالی از این داده‌ها در محتوای دیجیتال از جمله دیپ‌فیک‌ها، برای پلت‌فرم‌ها الزامات و مسئولیت‌هایی تعیین کرده است.»
قانونی که در آمریکا سروصدای زیادی به پا کرد
در آمریکا قانون سلب مسئولیت دیجیتال آمریکا به پلت‌فرم‌ها اجازه می‌دهد که بدون مسئولیت قانونی در قبال محتوای تولیدی توسط کاربرانشان عمل کنند؛ اما این قانون به‌طور فزاینده‌ای در معرض انتقاد قرار گرفته است، به‌ویژه در مورد تهدیدهای جدید مانند دیپ‌فیک و اطلاعات غلط. «بسیاری از پلت‌فرم‌های دیجیتال برای کاهش خطرات ناشی از دیپ‌فیک‌ها و سایر انواع محتوای گمراه‌کننده، رأساً اقدام به استفاده از فناوری‌های تشخیص خودکار کرده‌اند. این اقدامات شامل استفاده از الگوریتم‌های هوش مصنوعی برای شناسایی تصاویر و ویدئوهای جعلی است. در این میان، یکی از چالش‌های اصلی در زمینه مسئولیت‌پذیری پلت‌فرم‌ها، تعادل میان آزادی بیان و حفاظت از حقوق افراد است. درحالی‌که پلت‌فرم‌ها موظف به جلوگیری از انتشار محتوای مضر مانند دیپ‌فیک هستند، درعین‌حال باید از سانسور بیش‌ازحد یا محدودیت‌های ناعادلانه آزادی بیان اجتناب کنند.» مسئولیت‌پذیری پلت‌فرم‌های دیجیتال در قبال دیپ‌فیک و محتوای مضر، یک چالش حقوقی و اجتماعی پیچیده است. این قضیه نیاز به تعادل دقیق میان مسئولیت‌پذیری، حفاظت از حقوق فردی و حمایت از آزادی بیان دارد. قوانین مختلف در سراسر جهان در حال تکامل هستند تا پلت‌فرم‌ها را ملزم به اقداماتی موثر برای مقابله با تهدیدات ناشی از فناوری‌هایی مانند دیپ‌فیک کنند.
چه کسی مسئول است؛ سازنده، منتشرکننده یا پلت‌فرم؟
در چنین وضعی، نهاد یا شخصی که مسئول استفاده نادرست از دیپ‌فیک‌هاست، کجا یا کیست؟ نقش حقوقی سازنده و منتشرکننده در این مورد چیست؟ «در مواجهه با پدیده دیپ‌فیک، مسئولیت حقوقی به‌طور کلی شامل مسئولیت سازندگان، منتشرکنندگان و در برخی موارد، پلت‌فرم‌هایی است که این محتواها را در دسترس عموم قرار می‌دهند. سازندگان دیپ‌فیک‌ها مسئولیت زیادی در قبال محتوای تولیدی خود دارند. اگر دیپ‌فیک‌ها به‌منظور ارتکاب جرم یا نقض حقوق افراد تولید شوند، سازنده آن به‌عنوان مسئول اصلی شناخته می‌شود. مسئولیت‌های قانونی سازنده می‌تواند جعل و دستکاری اطلاعات، نشر اکاذیب، نقض حریم خصوصی و افترا و توهین باشد.
منتشرکننده دیپ‌فیک (شخص یا نهادی که دیپ‌فیک‌ها را منتشر می‌کند، به‌ویژه اگر این کار به‌منظور آسیب رساندن به دیگران باشد) می‌تواند مسئول شناخته شود. اگر فرد یا نهادی به‌طور عمدی دیپ‌فیک‌ها را منتشر کند و این محتواها باعث افترا، توهین یا گمراهی عموم شوند، مسئولیت قانونی متوجه او خواهد بود. اگر منتشرکننده از دیپ‌فیک‌ها برای نقض حریم خصوصی افراد استفاده کند، مثلاً منتشر کردن ویدئوهای خصوصی یا تغییر تصاویر افراد، این عمل نیز می‌تواند تحت قوانین حمایت از حریم خصوصی قرار گیرد.» اما روی دیگر این سکه، مسئولیت پلت‌فرم‌ها (سایت‌ها و شبکه‌های اجتماعی) است که فرحناکیان درباره آن می‌گوید: «این موضوع نیز در مواردی که دیپ‌فیک‌ها در پلت‌فرم‌ها یا شبکه‌های اجتماعی مانند یوتیوب، فیس‌بوک یا اینستاگرام منتشر می‌شوند، قابل بررسی است. بسیاری از پلت‌فرم‌ها، به‌ویژه در کشورهای توسعه‌یافته، موظف به نظارت بر محتوای منتشرشده هستند و درصورتی‌که محتوای غیرقانونی مانند دیپ‌فیک‌ها شناسایی شود، باید آن را حذف کنند.»
چه زمانی پلت‌فرم‌ها در ایران با مسئولیت قانونی مواجه می‌شوند؟
«در قانون خدمات دیجیتال اتحادیه اروپا و قانون سلب مسئولیت دیجیتال آمریکا، پلت‌فرم‌ها معمولاً از مسئولیت قانونی در قبال محتوای تولیدشده توسط کاربران معاف هستند؛ مگر اینکه به‌طور فعال در نشر یا انتشار محتوای نادرست دخالت کنند. در ایران، طبق قانون جرائم رایانه‌ای، اگر پلت‌فرم‌ها از محتوای مضر یا غیرقانونی مانند دیپ‌فیک‌ها مطلع شوند و آنها را از بین نبرند، ممکن است به مسئولیت قانونی برخورد کنند.»
نهادهای قضایی و اجرایی نیز نقش مهمی در پیگیری و نظارت بر استفاده نادرست از دیپ‌فیک‌ها دارند. «این نهادها می‌توانند با طرح شکایات و پیگیری‌های قانونی، به شناسایی و برخورد با متخلفان بپردازند. پلیس فتا (پلیس فضای تولید و تبادل اطلاعات) مسئول نظارت بر فعالیت‌های مجرمانه در فضای مجازی است و می‌تواند در شناسایی و پیگیری استفاده نادرست از دیپ‌فیک‌ها نقش موثری داشته باشد.»
قانون در ایران و جای خالی یک رویکرد جامع
با همه اینها، سوالی که مطرح می‌شود این است که استفاده از دیپ‌فیک در مواردی می‌تواند ناقض حقوق خصوصی افراد و حریم شخصی آنها باشد؛ برای این موضوع آیا در ایران قانونی وجود دارد؟ به‌عبارت دیگر، استفاده نادرست از فناوری دیپ‌فیک در ایران تحت چه عناوین قانونی قابل تعقیب و پیگیری است؟ پرسشی که این وکیل دادگستری در پاسخ به آن می‌گوید: «استفاده نادرست از فناوری دیپ‌فیک می‌تواند در ایران تحت عناوین مختلف قانونی قابل تعقیب و پیگیری باشد. اگرچه قانون جرائم رایانه‌ای (مصوب ۱۳۸۸) به‌طور خاص به پدیده دیپ‌فیک اشاره ندارد؛ اما مواد مختلف آن می‌توانند برای برخورد با این پدیده به‌کار گرفته شوند و یکی از مهم‌ترین ابزارهای قانونی برای مقابله با جرائم مرتبط با فناوری‌های نوین در ایران است و بسیاری از تخلفات ناشی از استفاده نادرست از فناوری دیپ‌فیک را تحت پوشش خود قرار می‌دهد. برخی از مواد مهم این قانون عبارت‌اند از: ماده ۶ (دسترسی غیرمجاز به داده‌ها)، ماده ۱۲ (حفاظت از اطلاعات شخصی)، ماده ۱۷ (جعل و دستکاری اسناد و مدارک)، ماده ۲۱ (مجازات مربوط به افترا و توهین) و ماده ۲۵ (نشر اکاذیب).» «انتشار ویدئوهای دیپ‌فیک که باعث تشویش اذهان عمومی یا ترس و اضطراب در جامعه شوند، این عمل می‌تواند تحت قانون مجازات اسلامی (در قسمت کتاب پنجم مصوب ۱۳۷۵) قابل پیگیری باشد. در صورتی که دیپ‌فیک‌ها برای بهره‌برداری از تصاویر یا ویدئوهای کودکان مورداستفاده قرار گیرند، این عمل ممکن است نقض حقوق کودک و حریم شخصی او محسوب شود که تحت قانون حمایت از اطفال و نوجوانان (مصوب ۱۳۹۹) قابل پیگیری است.» «در صورتی که دیپ‌فیک‌ها به‌منظور نقض حقوق مالکیت فکری اشخاص استفاده شوند؛ مانند ساخت و انتشار دیپ‌فیک از شخصیت‌های عمومی یا هنرمندان بدون اجازه، این عمل تحت قوانین حقوق مالکیت فکری قرار می‌گیرد. البته هنوز در این زمینه، نیاز به ایجاد سازوکارهای نظارتی دقیق و قوانین به‌روز برای مقابله با این تهدیدات جدید، بیش‌ازپیش احساس می‌شود.»
راهکارها و توصیه‌ها؛ ایران چه باید بکند؟
مقابله با تهدیدات دیپ‌فیک نیازمند رویکردی چندبعدی است؛ از اصلاح قوانین و توسعه فناوری گرفته تا آموزش عمومی و نظارت موثر بر پلت‌فرم‌ها. ایران می‌تواند با استفاده از تجارب جهانی و تطبیق آنها با ساختارهای داخلی، به‌طور موثر با این تهدید نوظهور برخورد کند. همکاری میان دولت، دانشگاه‌ها، قوه قضائیه و جامعه مدنی برای اجرای این راهبردها ضروری است.
«برای تقویت قوانین و مقررات، بازنگری و به‌روزرسانی قانون جرائم رایانه‌ای با ذکر صریح مصادیق دیپ‌فیک و جرم‌انگاری تولید، انتشار یا استفاده غیرمجاز از آن، همچنین تدوین قوانین خاص برای حفاظت از داده‌ها و حریم خصوصی افراد، با تاکید بر ممنوعیت استفاده از تصویر، صدا یا هویت افراد بدون رضایت آنها لازم است. در بعد توسعه فناوری‌های تشخیص دیپ‌فیک، حمایت دولت از پژوهش‌ها و استارت‌آپ‌ها برای طراحی ابزارهای شناسایی و مقابله با محتوای جعلی و استفاده از هوش مصنوعی معکوس برای شناسایی امضاهای دیجیتال در فایل‌های تصویری و ویدئویی جعلی ضروری است.»
