گوگل روز سه‌شنبه اعلام کرد که برای جلوگیری از انتشار اطلاعات نادرست قرار است بر تمامی تصاویری تولید شده توسط هوش مصنوعی، واترمارک بگذارد.
فناوری جدید گوگل که SynthID نام دارد، بر تصاویری که توسط Imagen تولید شده است واترمارک می‌گذارد. Imagen یکی از ابزارهای جدید گوگل است که متن را به تصویر تبدیل می‌کند. البته باید اضافه کنیم واترمارک‌هایی که از این پس شاهدشان خواهیم بود هیچ تغییری در فیلتر یا رنگ‌هایی که تغییر داده‌اید، ایجاد نمی‌کند.
ابزار هوش مصنوعی SynthID همچنین می‌تواند تصاویر شما را اسکن کند و در صورت وجود واترمارک، می‌تواند به شما بگوید که آیا تصویر مورد نظرتان توسط Imagen ایجاد شده است یا خیر. گوگل ضمن اعلام این خبر در بیانیه‌ای نوشت: «با اینکه این فناوری هوش مصنوعی کامل نیست، اما آزمایشات داخلی ما حاکی از آن است که SynthID می‌تواند اغلب دستکاری‌ها را به شما نشان دهد.»
نسخه‌ی بتای SynthID هم اکنون برای برخی از کاربران Vertex AI در دسترس است. Vertex AI یکی از پلتفرم‌های هوش مصنوعی گوگل است که توسعه‌دهندگان می‌توانند از آن استفاده کنند. به گفته‌ی این شرکت، SynthID که توسط واحد DeepMind گوگل به همراهی Google Cloud ساخته شده است، احتمالا نسخه‌های جدیتری هم خواهد داشت و به زودی برای تمام کاربران گوگل در دسترس خواهد بود.
افزایش عکس‌ها و ویدئوهای تقلبی
با توجه به اینکه در حال حاضر تعداد عکس‌ها و ویدئوهای تقلبی به شدت افزایش یافته است، شرکت‌های فناوری همانند گوگل در تلاشند تا برای تشخیص آنها از عکس‌های واقعی راه‌حل مطمئنی پیدا کنند. این مسئله این روزها به قدری در فضای مجازی پررنگ شده که حتی به «پاپ فرانسیس» هم رسیده است.
هوش مصنوعی این چهره مشهور را با یک پافر به تصویر کشیده و علاوه بر آن افرادی مانند «دونالد ترامپ»، رئیس جمهور سابق آمریکا، را هم به تمسخر گرفته و تصاویر بامزه‌ای از او ساخته است.
«ورا جورووا»، معاون کمیسیون اروپا که پیش از این برای جلوگیری از انتشار اطلاعات نادرست درخواستی را به شرکت‌های گوگل، مایکروسافت و تیک تاک امضا کرده بود در ماه ژوئن اعلام کرد که هوش مصنوعی باید برای تمیز دادن این عکس‌ها از عکس‌های واقعی فکری بکند و با افزودن واترمارک کاربران را در جریان قرار دهد.
گوگل با رونمایی از فناوری هوش مصنوعی SynthID به تعداد زیادی از شرکت‌های بزرگ و استارت‌اپ‌هایی پیوست که سعی می‌کنند برای این مشکل راه‌حلی پیدا کنند. شرکت‌هایی مانند Truepic و Reality Defender هم از جمله مجموعه‌های هستند که از خطرات بالقوه‌ی این مسئله گفته‌اند. هدف اصلی این کمپانی‌ها در نهایت تشخیص محتوای واقعی از غیرواقعی است.
با اینکه کنسرسیوم The Coalition for Content Provenance and Authenticity با پشتیبانی ادوبی تا کنون در تلاش بوده تا با افزودن واترمارک بر عکس‌های دیجیتال در حل این مسئله تلاش کند، به نظر می‌رسد که گوگل تمایل دارد که رویکرد خودش را پیش ببرد.
گوگل در ماه مه با رونمایی از ابزاری به نام About this image به کاربران خود این امکان را داد که بتوانند تمام جزئیات مربوط به تصاویر مورد نظر خود را دریافت کنند. این اطلاعات عبارتند از:
- امکان ایندکس شدن عکس توسط گوگل
- وبسایت و تاریخ اولین انتشار تصویر
- تمامی وبسایت‌های دارای تصویر مورد نظر
در نهایت، از آنجایی که فناوری هوش مصنوعی می‌تواند بسیار سریع‌تر از انسان‌ها پیشرفت کند، هنوز مشخص نیست که آیا این ابزارها واقعا می‌توانند به طور کامل این مشکل را حل کنند یا خیر.OpenAI، سازنده ChatGPT و Dall-E پیش از این تایید کرد که تلاش‌های این شرکت برای تشخیص نوشته‌هایی که توسط هوش مصنوعی نوشته شده‌اند ناقص بوده و نمی‌توان به طور قطع آن را تایید کرد.
