پیشرفت هوش مصنوعی باعث داغ شدن بازار استفاده از محتوای دیپ فیک یا جعل عمیق برای کلاهبرداری از کانادایی ها شده است.
آیا تعجب می‌کنید که چرا یک مجری اخبار ملی در حال تبلیغ یک شرکت تولید و پخش ماریجوانا در یوتیوب است؟ یا چرا «ایلان ماسک»، میلیاردر فعال در حوزه فناوری، در تبلیغاتی که فرصت سرمایه گذاری را در یک کشور تبلیغ می‌کند، حضور پیدا کرده است؟ این ویدیوها آنقدر خوب و واقعی است که نمی‌توان به ساختگی بودن آنها ذره‌ای شک کرد. اما مهم نیست که تصویر آنها چقدر قانع کننده به نظر برسد، این محتواها همگی دیپ فیک هستند. دیپ فیک یا جعل عمیق اصطلاحی است که به رسانههای دستکاری شده یا ساخته شده با استفاده از هوش مصنوعی گفته میشود.
استفاده از دیپ فیک برای کلاهبرداری
«جف هورنکاسل»، کارمند ارتباطات مرکز مبارزه با کلاهبرداری‌های کانادا (CAFC)، به کانادایی‌ها درباره افزایش نرخ کلاهبرداری‌های صوتی و تصویری که از شخصیت‌های رسانه‌ای برای تبلیغ پلتفرم‌های ارزهای دیجیتال متقلبانه و سایر کلاهبرداری‌ها استفاده می‌کنند، هشدار می‌دهد.
«هورنکاسل» می‌گوید: «تمام چیزی که (کلاهبرداران) نیاز دارند، چند ثانیه صدا از شخصی است که می‌خواهند هویت او را دیپ فیک یا جعل عمیق کنند. سپس آنها از یک عکس یا کلیپ صوتی کوتاه به عنوان یک ابزار اضافی برای متقاعد کردن قربانیان احتمالی که فکر می‌کنند آن محتوا واقعی است استفاده می‌کنند.»
این کلاهبرداران اغلب برای ایجاد اعتماد از نام‌های آشنا مانند شخصیت‌های تلویزیونی آمریکایی همچون «گیل کینگ، تاکر کارلسون و بیل ماهر» استفاده می‌کنند. کلاهبرداری‌های تبلیغاتی در یوتیوب از ویدیوهای جعل عمیق با دیپ فیک گوینده اصلی اخبار CTV و سردبیر ارشد آن «عمر ساچدینا» استفاده می‌کنند. به نظر می‌رسد یکی از این تبلیغات «ساچدینا» را در حال ارائه خبری نشان می‌دهد که یک شرکت شاهدانه را تائید می‌کند. این صدا، در حالی که به خوبی با ویدیو مطابقت دارد، جعلی است. ویدیوی دیگری نشان می‌دهد که «ایلان ماسک»، بنیانگذار تسلا، در حال تلاش برای فروش سهام شرکت‌های کریپتوی تقلبی است.
اگرچه فناوری هوش مصنوعی موجود در پشت این محتواهای جعل عمیق جدید نیست، اما دسترسی به برنامه‌ها و وب‌سایت‌هایی که می‌توانند برای تولید تصاویر جعلی، ویدیوها و کلیپ‌های صوتی متقاعدکننده با چهره‌های آشنا مورد استفاده قرار گیرند، آسان‌تر شده است.
سازندگان این ویدئوهای جعل عمیق یا دیپ فیک، مانند تماس‌های خودکار و ایمیل‌های اسپم، هزاران دلار از مردم کلاهبرداری کرده‌اند. در حالی که هیچ داده مشخصی در مورد تعداد کانادایی‌هایی که به طور خاص با محتوای جعل عمیق کلاهبرداری شده‌اند وجود ندارد، اما مرکز مبارزه با کلاهبرداری‌های کانادا (CAFC) در سال ٢٠٢٢ گزارش داد که کانادایی‌ها در مجموع ۵٣١ میلیون دلار به دلیل کلاهبرداری از دست داده‌اند. همچنین تا ماه ژوئن ٢٠٢٣، رقم کلاهبرداری‌های صورت گرفته از کانادایی‌ها ۲۸۳.۵ میلیون دلار بوده است.
بهتر شدن هوش مصنوعی و بدتر شدن شیوه‌های کلاهبرداری
«مارک دالی»، کارشناس فناوری، معتقد است: «جدای از تصایر بسیار واقعی آنها، ترسناک‌ترین جنبه این دیپ‌فیک‌ها آن است که این فناوری در حال پیشرفت بوده و به همین ترتیب تشخیص جعلی بودن آن روز به روز سخت‌تر میشود.»
«دالی» که مدیر ارشد اطلاعات دیجیتال در دانشگاه وسترن است می‌گوید: «نکته مهمی که باید به خاطر بسپارید این است که دیپ فیک‌هایی که اکنون می‌بینید بدترین نسخه‌هایی هستند که تا آخر عمر می‌بینید و آنها روز به روز بهتر می‌شوند.»
«دالی» توضیح می‌دهد که پیشرفت فناوری در پنج سال گذشته بسیار پرسرعت بوده است. برای مثال در گذشته یک محتوای جعل عمیق یا دیپ فیک برای ساخته شدن نیاز به افراد بسیار ماهر با دسترسی به نرم افزارهای فنی انحصاری داشت، اما اکنون هرکسی که دانش متوسطی از هوش مصنوعی داشته و به رایانه‌های گیمینگ دسترسی داشته باشد، می‌تواند اطلاعات نادرست را از طریق یک چهره شناخته شده، مانند یک سیاستمدار مشهور، در فضای اینترنت منتشر کند.
از نظر روان‌درمانگر و روزنامه‌نگار حوزه فناوری، «جورجیا داو»، ترویج این اطلاعات نادرست و انتشار این ویدئوهای ساختگی می‌تواند باعث نفرت افراد از گروه‌ها و افراد خاص شود، یا آنها را وادار کند که چیزی را باور کنند که سلبریتی مورد علاقه‌شان در طول مصاحبه‌ای گفته است که هرگز در واقعیت اتفاق نیفتاده است.
این محتواها تقریباً شبیه خیال‌پردازی‌های انتقام‌جویانه است. افرادی را که دوست نداریم در موقعیت‌های خاص قرار می‌دهیم و افرادی که دوست داریم را نیز می‌خواهیم در موقعیت‌های خاصی ببینیم. این محتواها بسیار کلیک خور هستند و مردم اکنون آنها را دنبال می‌کنند.
پیامدهای احتمالی محتواهای جعل عمیق
یکی از راه‌های دیگر ضرررسانی این فناوری می‌تواند استفاده از آن در میانه رویدادهای مهم سیاسی باشد. به عنوان مثال، پیش از انتخابات ریاست جمهوری ٢٠٢۴ ایالات متحده، نامزدهای بالقوه، ویدیوهایی را از خود می‌بینند که علیه مبارزات انتخاباتی خودشان صحبت‌هایی را به زبان می‌آورد. «ران دیسانتیس»، فرماندار فلوریدا، که در حال حاضر به دنبال نامزدی برای حزب جمهوری خواه است، هفته گذشته در یک ویدیوی جعل عمیق دیده شد که به نظر می‌رسید دارد اعلام می‌کند که از رقابت‌ها خارج میشود.
«داو» می‌گوید: «این محتواها به نوعی همچون دانه‌های کوچک در سر ما کاشته میشود که شاید این شخص بدجنس باشد، یا شاید آنها احساسات دیگری دارند. من فکر می‌کنم که از نظر سیاسی این موضوع واقعاً ضربه زننده است.»
اخیراً، گوگل اعلام کرده است که از فناوری خود برای اضافه کردن هشدارهای واترمارک به تصاویر تولید شده توسط هوش مصنوعی استفاده می‌کند تا ادعاهای نادرست و عکس‌های ساختگی را مشخص کند. با این حال، نگرانی در مورد گسترش احتمالی اطلاعات نادرست حتی با تلاش‌هایی مانند این تصمیم نیز وجود دارد.
سخنگوی گوگل در بیانیه‌ای به سی‌تی‌وی نیوز گفت: «ما متعهد هستیم که مردم را در پلتفرم‌های خود ایمن نگه داریم و زمانی که محتوایی را مشاهده می‌کنیم که این سیاست‌ها را نقض می‌کند، در مقابل آن دست به اقدام می‌زنیم.»
ما همچنان به تقویت روش‌های اجرایی خود برای مبارزه با سوء استفاده و تقلب ادامه می‌دهیم. سیاست‌های صدور گواهینامه جدید را راه‌اندازی کرده‌ایم، تأیید صحت شخصیت فرد آگهی‌دهنده را اضافه کرده‌ایم و ظرفیت خود را برای شناسایی و جلوگیری از کلاهبرداری‌های برنامه ریزی شده افزایش داده‌ایم.
نحوه تشخیص یک محتوای دیپ فیک
کارشناسان می‌گویند که با پیشرفت فناوری، مردم تمایل دارند که رسانههای آنلاینی که دنبال می‌کنند را زیر سوال ببرند. پرچم‌های قرمزی که نشان می‌دهند یک ویدیو ممکن است جعلی باشد، شامل صدایی است که با حرکات دهان فرد مطابقت ندارد، یا ویدیویی است که حرکات غیرطبیعی چشم و تفاوت در نور روی فردی که در حال صحبت کردن است و پس‌زمینه، در آن مشهود است.
«داو» همچنین توصیه می‌کند که بر روی «تصویر اجمالی» یک فرد در مقایسه با پس زمینه تمرکز کنید، از جمله موها و نواحی اطراف صورت آنها، به خصوص زمانی که گوینده در حال حرکت است.
«هورنکاسل» می‌گوید که از خود بپرسید که چرا برخی از شخصیت‌های رسانه‌ای محصولاتی خارج از علایق خود را تبلیغ می‌کنند و اگر معمولا این قبیل محتوا را از آنها نمی‌بینید، با خود بگویید که چرا اصلاً آنها باید چیزی را تبلیغ کنند؟
به گفته وی، اولین پرچم قرمز باید این باشد که با خود بگویید، من فکر می‌کنم این سلبریتی این چیزها را تبلیغ نمی‌کند و اگر هنوز مطمئن نیستید، تا آنجا که می‌توانید تحقیق کنید، اما به احتمال زیاد این محتواها و وب سایت‌هایی که آنها را تبلیغ می‌کنند، تقلبی هستند. تحقیق در مورد شرکت‌هایی که پشت این محصولات هستند قبل از خرید از آنها، اطلاعاتی در مورد مشروعیت آنها و اینکه پولتان دقیقاً به کجا می‌رود را به شما ارائه می‌دهد.
