پایان دیپ فیک های صوتی - صداهای ساخته شده با هوش مصنوعی قابل شناسایی می شوند

به گزارش سرویس علم و فناوری خبر ناب به نقل از همشهری - همشهری آنلاین، فرخنده رفائی: تا همین یکی دو سال پیش تشخیص محتوای تولیدشده با هوش مصنوعی کار چندان دشواری نبود، اما با پیشرفت خیره کننده این فناوری، امروز شرایط کاملا تغییر کرده است. صداهای ساخته شده با هوش مصنوعی حالا می توانند با خنده، مکث، لحن احساسی و حتی تغییرات طبیعی در گفتار، آن قدر واقعی به نظر برسند که بسیاری از کاربران نتوانند آن ها را از صدای یک انسان واقعی تشخیص دهند. با افزایش نگرانی ها درباره سوءاستفاده از فناوری «دیپ فیک صوتی» شرکت های فناوری به فکر یافتن راهکاری برای این مشکل افتادند.

به گزارش دیجیتال ترندز، شرکت ElevenLabs که یکی از شناخته شده ترین توسعه دهندگان فناوری تولید صدای هوش مصنوعی است، به تازگی اعلام کرده که از فناوری SynthID گوگل دیپ مایند برای نشانه گذاری فایل های صوتی استفاده خواهد کرد. این قابلیت ابتدا برای صداهای تولیدشده توسط کاربران رایگان فعال می شود و سپس طی هفته های آینده به تمام خروجی های صوتی این پلتفرم گسترش پیدا می کند.

برخلاف روش های قدیمی که اطلاعات شناسایی را به صورت متادیتا به فایل اضافه می کردند، فناوری SynthID یک واترمارک دیجیتالی نامرئی را مستقیما داخل خود فایل صوتی قرار می دهد؛ نشانه ای که با گوش انسان قابل شنیدن نیست، اما حتی پس از فشرده سازی فایل، تبدیل فرمت، حذف متادیتا، کوتاه کردن فایل یا تغییر سرعت پخش نیز باقی می ماند.

گوگل می گوید صداهای تولیدشده با هوش مصنوعی به گونه ای نشانه گذاری می شوند که کاربران بتوانند با استفاده از ابزار تشخیص بررسی کنند آیا یک فایل صوتی واقعی است یا با هوش مصنوعی ساخته شده است. این فناوری در حقیقت مثل اسکناس های دارای علائم امنیتی است که مردم با چشم غیرمسلح همه علائم را نمی بینند، اما دستگاه مخصوص می تواند اصالت آن را بررسی کند.

هم زمان با این تغییر، ElevenLabs ابزار رایگانی با نام Audio Detector نیز معرفی کرده که کاربران با استفاده از آن می توانند بررسی کنند که آیا یک فایل صوتی توسط پلتفرم ElevenLabs تولید شده است یا خیر. این موضوع می تواند برای خبرنگاران، تولیدکنندگان محتوا، کسب وکارها و حتی کاربران عادی که هر روز با فایل های صوتی در شبکه های اجتماعی روبه رو می شوند، کاربرد زیادی داشته باشد.

اهمیت این فناوری زمانی بیشتر مشخص می شود که بدانیم کلاهبرداری های مبتنی بر تقلید صدا به سرعت در حال افزایش هستند. در سال های اخیر نمونه های متعددی از تماس های تلفنی، پیام های صوتی و ویدئوهای جعلی منتشر شده که در آن ها صدای افراد مشهور، مدیران شرکت ها یا حتی اعضای خانواده با کمک هوش مصنوعی شبیه سازی شده است. چنین فایل هایی می توانند برای فریب کاربران، سرقت اطلاعات یا کلاهبرداری مالی مورد استفاده قرار گیرند.

البته خود ElevenLabs نیز تأکید می کند که واترمارک گذاری به تنهایی نمی تواند به دیپ فیک ها پایان دهد و افراد سودجو همچنان برای دور زدن سامانه های تشخیص تلاش خواهند کرد. با این حال، کارشناسان معتقدند در آینده ای که مرز میان صدای واقعی و صدای تولیدشده با هوش مصنوعی تقریبا از بین می رود، وجود ابزاری برای اثبات منشأ فایل های صوتی به یکی از مهم ترین عوامل حفظ اعتماد کاربران تبدیل خواهد شد.

این خبر توسط سایت همشهری آنلاین منتشر شده و خبر ناب صرفا آن را به اشتراک گذاشته است.

منبع : همشهری آنلاین