چگونه تشخیص دهیم یک فایل صوتی توسط هوش مصنوعی تولید شده است؟

فناوری کلون صدای هوش مصنوعی در سال‌های اخیر جهش‌های خیره‌کننده‌ای داشته و از یک فرآیند فنی پیچیده به ابزاری در دسترس برای عموم تبدیل شده است. این دسترسی گسترده، در کنار قابلیت تولید صداهای به‌شدت واقعی، نگرانی‌ها را در مورد سوءاستفاده‌های احتمالی، به‌ویژه در زمینه کلاهبرداری‌های مالی، به‌شدت افزایش داده است. در نتیجه، شناسایی فایل‌های صوتی جعلی که توسط هوش مصنوعی تولید شده‌اند، به یک ضرورت جدی تبدیل شده است.

تکامل چشمگیر کلون صدای هوش مصنوعی

به گزارش گجت نیوز، تنها سه سال پیش شبیه‌سازی دقیق یک صدا نیازمند ساعت‌ها ضبط و ابزارهای تخصصی متعدد بود؛ اما امروزه این فرآیند تنها با چند ثانیه فایل صوتی و چند کلیک انجام می‌شود و تشخیص جعلی بودن آن حتی برای متخصصان نیز دشوار است. سارا بارینگتون، پژوهشگر کلون صدای هوش مصنوعی در دانشگاه کالیفرنیا، برکلی، توضیح می‌دهد که پلتفرم‌های آنلاین می‌توانند با استفاده از تنها سه ثانیه از صدای یک فرد، یک کپی کاملاً مشابه ایجاد کنند.

او نشان می‌دهد که چگونه می‌توان صدای یک سخنران را تنها در ۹۰ ثانیه از یک کلیپ یوتیوب شبیه‌سازی کرد. این سهولت دسترسی، توجه کلاهبرداران را نیز جلب کرده است؛ به‌طوری‌که رویترز در سپتامبر گذشته گزارش داد که فردی با استفاده از یک صدای کلون شده، توانست یک بانک خصوصی بزرگ ایتالیایی را متقاعد کند تا حدود ۹۵ میلیون یورو (معادل ۱۰۵ میلیون دلار) را به خارج از کشور واریز کند.

چرا انسان‌ها در تشخیص صدای هوش مصنوعی ضعیف هستند؟

گوش‌های ما در حالت کلی توانایی کمی در تمایز بین صداهای واقعی و کلون شده دارند. در یک مطالعه، بارینگتون و همکارانش صداهای واقعی و کلون شده ۲۲۰ سخنران مختلف را برای بیش از ۶۰۰ شنونده پخش کردند. نیمی از شنوندگان تنها ۶۰ درصد مواقع توانستند صداهای تولیدشده توسط هوش مصنوعی را به‌درستی شناسایی کنند.

در آزمایشی جداگانه، زمانی که نیمه دیگر شنوندگان یک صدای کلون شده و یک صدای واقعی را هم‌زمان شنیدند، در حدود ۸۰ درصد مواقع آن‌ها را متعلق به یک فرد دانستند. در گذشته، صداهای شبیه‌سازی شده اغلب بیش از حد بی‌نقص و غیرطبیعی بودند و فاقد مکث، نفس یا تکرار کلماتی مانند «اوه» یا «اوم» بودند. اما اکنون، هوش مصنوعی عمداً این «مشکلات کلامی» را اضافه می‌کند تا فریبندگی خود را افزایش دهد. به همین دلیل، محققان در حال آموزش مدل‌های هوش مصنوعی برای شناسایی صداهای کلون شده بر اساس اندازه‌گیری‌های مرتبط با خود موج صوتی، در فرآیندی موسوم به «فورسیک صوتی»، هستند.

ابزارهای تخصصی برای شناسایی صداهای تولید شده توسط AI

از نزدیک شدن به شکل موج یک صدا، می‌توان کوچک‌ترین لرزش‌های تارهای صوتی را به‌عنوان نوسانات تکراری در سیگنال مشاهده کرد. تغییرات ریز در طول این چرخه‌ها، معروف به جیتر (Jitter)، و ارتفاع اوج‌های آن‌ها، معروف به شیمر (Shimmer)، از جمله ویژگی‌هایی هستند که یک مدل تشخیص‌دهنده می‌تواند برای تشخیص صدای هوش مصنوعی به کار گیرد. با این حال، حتی بهترین ردیاب‌ها نیز نقاط کوری دارند. مدل‌های هوش مصنوعی ممکن است برای شناسایی الگوهای خاص یک ابزار کلونینگ تنظیم شوند؛ اما این توانایی اغلب به سایر ارائه‌دهندگان منتقل نمی‌شود.

به عنوان مثال، تحلیل طیفی (Spectral Analysis) می‌تواند ویژگی‌های خاص ابزارهای کلونینگ را نشان دهد، اما هیچ معیار واحدی وجود ندارد که برای همه آن‌ها کارایی داشته باشد. سارا بارینگتون تأکید می‌کند که هیچ اندازه‌گیری واحدی نمی‌تواند جعلی بودن یک ضبط را اثبات کند و به مجموعه‌ای از ابزارها نیاز است. تماس‌های تلفنی نیز با تخریب یا کاهش جزئیات مهم صوتی، شناسایی صداهای کلون شده را دشوارتر می‌کنند.

واترمارکینگ: راهکاری نوین و امیدبخش

در حال حاضر، یکی از امیدبخش‌ترین روش‌ها برای تشخیص صداهای کلون شده از واقعی، در خود فناوری کلونینگ نهفته است. برخی شرکت‌هایی که ابزارهای صوتی هوش مصنوعی تولید می‌کنند، مانند گوگل، یک واترمارک نامحسوس و غیرقابل شنیدن را در صدای تولیدشده پنهان می‌کنند.

این واترمارک تغییرات کوچکی در سراسر صدا ایجاد می‌کند که آنقدر ضعیف هستند که با گوش شنیده نمی‌شوند، اما می‌توانند توسط یک ردیاب مخصوص خوانده شوند و با فایل صوتی هر کجا که به اشتراک گذاشته شود، همراه خواهند بود. اگرچه این واترمارک‌ها قدرتمند هستند، اما کاملاً بی‌نقص نیستند؛ ممکن است کسی با تغییر دادن ضبط، این علامت را پاک کند. همچنین، واترمارک‌ها در برخی برنامه‌های متن‌باز که آن‌ها را ارائه می‌دهند، اختیاری هستند. با این وجود، بارینگتون می‌گوید که یک واترمارک خوب می‌تواند «۹۹ درصد موارد بد را حذف کند» و برای مابقی، تکنیک‌های فارنزیک صوتی ما باید با سرعت پیشرفت ابزارهای کلونینگ تکامل یابند.

سیا و خزانه‌داری آمریکا خواستار ادامه محاصره ایران به جای حمله نظامی شدند

تماشاخانه

جتی که مثل موشک سقوط کرد؛ رؤیای دختری که در آسمان ناتمام ماند

پناهگاه زیرزمینی کرد علیا؛ راز شهری که زیر زمین پنهان شده است / ۲ هزار سال پیش با الهام از لانه مورچه‌ها ساخته شد

فیلم های دیگر