یوتیوب از ابزار تشخیص شباهت برای مبارزه با دیپفیک رونمایی کرد
یوتیوب به تازگی از رونمایی یک ابزار خاص تحت عنوان «شناسایی شباهت» خبر داده که به منظور مبارزه با دیپفیک و ویدیوهای غیرواقعی طراحی شده است.
به نقل از انگجت، قابلیت شناسایی شباهت (Likeness Detection) در حال حاضر برای تعدادی از اعضای YouTube Partner Program در دسترس قرار گرفته است. این ابزار فعلا فقط قادر به شناسایی مواردی است که در آنها چهره شخص به صورت مصنوعی تغییر یافته است. به همین دلیل، در شرایطی که صدای فرد بدون رضایت او از طریق هوش مصنوعی دچار تغییر شود، این قابلیت معمولاً نمیتواند آن را شناسایی کند.
یوتیوب با قابلیت Likeness Detection به مبارزه با دیپفیک میپردازد
برای استفاده از این قابلیت، کاربران یوتیوب موظف به ارائه یک کارت شناسایی و یک ویدیو سلفی کوتاه به پلتفرم هستند تا سیستم بتواند تأیید کند که آنها همان اشخاص ادعا شده هستند؛ همچنین اطلاعات ارائهشده بهعنوان مرجع شناسایی شباهتها در تحلیلها به کار می رود.
عملکرد قابلیت Likeness Detection شبیه به سیستم Content ID یوتیوب است، بدین معنا که ویدیوهای آپلود شده را بررسی کرده و به دنبال شباهتها یا استفاده غیرمجاز از چهره افراد میگردد. خود کاربران نیز میتوانند این ویدیوها را بازبینی کرده و در صورت تشخیص موارد غیرمجاز، درخواست حذف آنها از پلتفرم را ارائه دهند.
همزمان با گسترش ابزارهای هوش مصنوعی در فضای مجازی، نگرانیها درباره افزایش ویدیوهای دیپفیک و جعلی افراد به شدت افزایش یافته است. در ماه اخیر، ابزارهای تولید ویدیو با بهرهگیری از هوش مصنوعی نظیر Sora از سوی OpenAI عرضه شدهاند که توانایی بالایی در ساخت ویدیوها دارند.
ویدیوهای تولیدشده با استفاده از Sora به قدری حرفهای طراحی شدهاند که تشخیص آنها از ویدیوهای واقعی بسیار دشوار است. بنابراین، به طور طبیعی افراد مشهور و همچنین عموم مردم تمایل دارند کنترل بیشتری بر حفاظت از چهره و تصویر خود داشته باشند.
به تازگی، برخی از سوءاستفادهها از ابزار Sora سبب شده تا OpenAI تولید ویدیو با استفاده از چهره «مارتین لوتر کینگ» را ممنوع اعلام کند.
