فن­آوری جعل عمیق می­تواند هر کس را در دنیا به صورت یکپارچه به یک ویدیو یا عکسی که در واقع هرگز در آن حضور نداشته، تبدیل کند. چنین توانایی­ هایی برای دهه­ ها وجود داشته است و اینگونه بود که بازیگر فقید پاول واکر در فیلم سریع و خشن ۷ دوبار زنده شد! اکنون این فن­آوری – سیستم­های جدید اتوماتیک گرافیکی کامپیوتر یا سیستم­های یادگیری ماشین – می­توانند تصاویر و فیلم­ها را با سرعت بیشتری ترکیب کنند.

البته باید توجه کرد که در بسیاری از موارد جعل عمیق به همین سادگی نیست. به عنوان مثال می­توان فیلمی را در نظر گرفت که توسط مهارت های استاندارد ویرایش ویدئو ساخته شده و بعد به شخصی یا چیزی نسبت داده شده است. در این حالت جعل عمیق انجام نشده است.

چطور جعل عمیق ایجاد می­شود؟

جوهره اصلی جعل عمیق، یادگیری ماشین است که تولید سریعتر آن را با هزینه کمتر امکان­پذیر می­کند. برای ساختن یک ویدیوی جعل عمیق از یک شخص، ابتدا سازنده، یک شبکه عصبی را روی چندین ساعت فیلم واقعی از شخص آموزش می­دهد تا به آن درک واقع­بینانه­ای از آنچه که از بسیاری زوایا و تحت نورهای مختلف به نظر می­رسد، بدهد. سپس سازنده می­تواند شبکه آموزش دیده را با تکنیک­های گرافیک کامپیوتری ترکیب کند تا نسخه­ای از شخص را بر روی بازیگر دیگری قرار دهد.

در حالیکه افزودن هوش مصنوعی باعث می­شود که روند کار سریعتر از گذشته انجام شود، اما باز هم زمان لازم است تا این فرآیند بتواند ترکیبی باور پذیر داشته باشد که فرد را در یک موقعیت کاملاً ساختگی قرار دهد. سازنده همچنین باید بسیاری از پارامترهای برنامه آموزش­دیده را به صورت دستی تغییر دهد تا موارد گویا و مصنوعات استفاده شده در آن مشخص نشود. این فرآیند به شدت سرراست است.

چه کسی جعل عمیق را خلق کرد؟

حرفه­ای ترین نمونه­ های جعل عمیق از آزمایشگاههای دانشگاه و استارتاپ ­هایی که آنها را تهیه می­کنند، بو جود می­آید اما لازم نیست که حتماً دارای سطح آزمایشگاهی یا پیشرفته باشد تا تأثیر مخربی بر روی ساختار اجتماعی داشته باشد.

جعل عمیق نام اصلی خود را از مثال اصلی این ژانر گرفته است که در سال ۲۰۱۷ توسط یک کاربر Reddit که خود را r/deepfakes می­نامید، ایجاد شد و شخصی بود که از کتابخانه یادگیری عمیق منبع باز گوگل برای تعویض چهره مجریان پورن با چهره­ های بازیگران زن استفاده کرد. کد های موجود در جعل عمیق­ های DIY که امروزه در طبیعت یافت می­شوند، عمدتاً از این کد اصلی ناشی می­شوند و گرچه برخی از آنها را می­توان آزمایش­های تفکر سرگرم ­کننده دانست اما هیچ یک را نمی­توان قانع ­کننده خواند.

برای چه چیزی استفاده می­شود؟

واضح ­ترین تهدیدی که جعل عمیق در حال حاضر ایجاد می­کند، برای زنان است. به طور مثال هنری آجدر، رئیس تحقیق در شرکت Deeptrace در آمستردام می­گوید: این مورد بیشتر زنان مشهور را هدف قرار می­دهد اما موارد دیگری نیز گزارش شده است. البته زنان تنها هدف آن نیستند بلکه هر شخصی چه در مدرسه، چه در سر کار و … می­تواند در سناریوهای مضحک، خطرناک یا سازش ­پذیر قرار داده شود.

بر طبق یک نظرسنجی که توسط شرکت بیومتریک iProov انجام شده، کلاه­برداری از هویت، نگرانی اصلی بیش از سه چهارم کسانی بوده که در نظرسنجی شرکت کرده­اند و نگرانی آنها در مورد پرداخت آنلاین و جعلی و هک­ شدن خدمات بانکی شخصی بوده است.

مراجع:

1. https://spectrum.ieee.org/tech-talk/computing/software/what-are-deepfakes-how-are-they-created