این هوش مصنوعی با انرژی نور می تواند تقلبی های عمیق را با دقت تقریباً 98 درصد تشخیص دهد

تفاوت اصلی این است که بخشی از فرآیند تشخیص از طریق انتشار فیزیکی نور انجام می شود. این اجازه می دهد تا بسیاری از ویدئوها به طور همزمان در طی یک پاس نوری واحد ارزیابی شوند، نه اینکه هر کدام به طور جداگانه در یک خط لوله پردازش دیجیتال معمولی حرکت کنند.

این فناوری در مطالعه به تفصیل آمده است “یک معماری عصبی نوری مقیاس پذیر و کم مصرف برای تشخیص ویدیوی چندگانه Deepfake” منتشر شده در eLight. محققان سیستم هوش مصنوعی نوری را طوری طراحی کردند که به عنوان اولین لایه دفاعی با کارایی بالا و مقاوم در برابر حمله برای نمایش مقادیر زیادی از ویدئوهای دستکاری شده و تولید شده توسط هوش مصنوعی عمل کند.

چالش رو به رشد تشخیص Deepfake

پیشرفت های سریع در هوش مصنوعی مولد، ویدیوهای مصنوعی را به طور فزاینده ای واقع گرایانه کرده است و نیاز به سیستم های تشخیص دقیق و توانایی کار در مقیاس را افزایش داده است.

بسیاری از آشکارسازهای جعل عمیق پیشرفته به مقادیر عظیمی از محاسبات دیجیتالی بستگی دارند. یک تجزیه و تحلیل منفرد می تواند به صدها میلیارد عملیات ممیز شناور نیاز داشته باشد و فیلم ها اغلب به صورت متوالی پردازش می شوند. از آنجایی که محتوای بیشتری باید بررسی شود، هم زمان پردازش و هم نیازهای انرژی می‌توانند به طور متناسب رشد کنند.

سیستم های تشخیص دیجیتال با مشکل دیگری روبرو هستند. مهاجمان می‌توانند عمداً ویدیوهای جعلی را به روش‌های ظریفی که برای گیج‌کردن آشکارساز طراحی شده‌اند و فیلم‌های دستکاری شده واقعی به نظر می‌رسند، تغییر دهند.

پروفسور Aydogan Ozcan و تیمش در UCLA یک سیستم دیجیتال-اپتیکی ترکیبی طراحی کرده اند که برای رفع هر دو چالش طراحی شده است.

رمزگذار دیجیتال سبک وزن ابتدا اطلاعات فشرده ای را در مورد هر ویدیو از جمله ویژگی های مکانی، طیفی و زمانی جمع آوری می کند. این اطلاعات به یک الگوی فاز تبدیل شده و بر روی یک مدولاتور نور فضایی قابل برنامه ریزی نمایش داده می شود.

سپس جبهه موج نوری حاصل از یک رمزگشای نوری غیرفعال مبتنی بر فضای آزاد عبور می کند. از سوی دیگر، آشکارسازهای نوری جفت شده به طور مستقیم برای هر ویدیو یک امتیاز اصالت تولید می کنند.

در واقع، سیستم یک شبکه رمزگشایی دیجیتال محاسباتی را با یک فرآیند فیزیکی جایگزین می‌کند که می‌تواند بسیاری از جریان‌ها را به صورت موازی اداره کند.

دقت تقریباً 98 درصد در 15 ویدیو به طور همزمان

در آزمایش‌هایی با استفاده از نور مرئی، پردازنده 15 ویدیوی Celeb-DF را به طور همزمان در طول هر عبور نوری بررسی می‌کند.

میانگین دقت تشخیص 97.79% همراه با حساسیت 99.86% و ویژگی 95.72% را به دست آورد. حساسیت میزان موفقیت سیستم را اندازه‌گیری می‌کند که ویدیوهای دستکاری شده را شناسایی می‌کند، و حساسیت بالا را برای ابزار غربالگری که برای جلوگیری از از دست رفتن محتوای جعلی طراحی شده است، مهم می‌کند.

حساسیت 99.86٪ به میانگین نرخ منفی کاذب ~ 0.14٪ ترجمه می شود. به عبارت دیگر، تنها بخش بسیار کمی از ویدیوهای دستکاری شده به اشتباه به عنوان معتبر طبقه بندی می شوند.

محققان همچنین سیستم را با افزایش ظرفیت آن به 18 ویدیو در یک پاس نوری بهبود دادند. حتی در این سطح، میانگین دقت تشخیص 96.13٪ باقی می ماند.

لایه های نوری بیشتر عملکرد را افزایش می دهند

این تیم دریافت که این پردازنده همچنین می تواند با افزایش عمق فیزیکی رمزگشای نوری غیرفعال خود بدون افزایش قابل توجه مصرف انرژی یا تأخیر خروجی، توانایی بیشتری پیدا کند.

هنگامی که محققان دو لایه پراش غیرفعال بهینه‌سازی شده را در حین آزمایش دستکاری‌های سخت‌تر دیپ فیک اضافه کردند، دقت تشخیص تا 6.8 درصد بهبود یافت.

این لایه‌های پراش فقط فاز را می‌توان به‌عنوان ساختار/سطح نوری غیرفعال و استاتیک ساخت. آنها محاسبات اضافی را با پراش نور انجام می دهند، به این معنی که در حالی که سیستم در حال استنباط است، به توان الکتریکی اضافی نیاز ندارند.

این رویکرد می‌تواند امکان پردازش پیچیده‌تر را بدون هزینه‌های انرژی مشابهی که معمولاً شبکه‌های عصبی دیجیتال بزرگ‌تر را همراهی می‌کنند، فراهم کند.

تست سیستم در برابر ویدیوهای Google VEO-3

محققان آزمایش های خود را به تعویض چهره های جعلی عمیق معمولی محدود نکردند. آنها همچنین با ویدئوهایی که با استفاده از مدل VEO-3 گوگل ایجاد شده بودند، پردازنده را به چالش کشیدند.

سیستم‌های هوش مصنوعی مولد جدیدتر می‌توانند فیلمی تولید کنند که فاقد بسیاری از مصنوعات آشکار مرتبط با فناوری دیپ‌فیک قبلی است، و آنها را به هدف سخت‌تری برای آشکارسازهایی تبدیل می‌کند که عمدتاً در اشکال قدیمی‌تر دستکاری آموزش دیده‌اند.

تنها با حداقل تنظیم دقیق، پردازشگر نوری به دقت 94.80 درصد و حساسیت 97.61 درصد در ویدیوهای VEO-3 که قبلاً دیده نشده بود، در طول آزمایشات دست یافت.

نتایج نشان می‌دهد که این رویکرد به طور بالقوه می‌تواند با ادامه تکامل فناوری هوش مصنوعی مولد سازگار شود.

آشکارساز Deepfake طوری طراحی شده است که گول زدن آن سخت تر است

سیستم نوری همچنین در برابر حملات جعبه سیاه دشمن مقاومت نشان داده است و محافظت ذاتی در برابر حملات جعبه سفید را فراهم می کند.

بخشی از این اطمینان ناشی از روشی است که آشکارساز به صورت فیزیکی محاسبات خود را انجام می دهد. از آنجایی که بخشی از فرآیند استنتاج توسط پراش انجام می شود، پارامترهای مهم مدل نوری به طور موثر در سخت افزار تعبیه شده است.

اندازه گیری، بازتولید یا مهندسی معکوس این پارامترها برای مهاجم دشوار است. این امر بازسازی آشکارساز و طراحی اصلاحات مسابقه ای با دقت طراحی شده که می تواند از آن جلوگیری کند، بسیار دشوارتر می کند.

هنگامی که ویدیوها تحت تأثیر نویز تصویر، تاری، فشرده‌سازی JPEG و مغایرت‌های آزمایشی قرار می‌گرفتند، پردازنده نیز به عملکرد قابل اعتماد خود ادامه داد. به گفته محققان، این نتایج نشان می دهد که چگونه محاسبات نوری می تواند پایه ای امن تر و قابل اعتمادتر برای برخی از سیستم های هوش مصنوعی فراهم کند.

اولین خط دفاع در برابر دیپ فیکس

به جای جایگزینی کامل آشکارسازهای دیجیتال پیچیده، پردازنده UCLA طوری طراحی شده است که به عنوان اولین مرحله بسیار حساس از یک سیستم تشخیص بزرگتر عمل کند.

حجم عظیمی از ویدئو در ابتدا می تواند از طریق پردازنده نوری موازی عبور کند. محتوای مشکوک شناسایی شده می‌تواند برای ارزیابی نهایی دقیق‌تر به مدل‌های دیجیتالی محاسباتی‌تر ارسال شود.

چنین سیستمی می تواند نقاط قوت هر دو رویکرد را ترکیب کند. پردازش نوری می‌تواند عملکرد موازی، نیاز به توان رسیور کم، حساسیت بالا، مقاومت در برابر حملات متخاصم و سازگاری با ژنراتورهای ویدیویی جدیدتر هوش مصنوعی را فراهم کند، در حالی که سیستم‌های دیجیتال معمولی می‌توانند در صورت نیاز تحلیل عمیق‌تری ارائه دهند.

محققان می گویند این ترکیب در نهایت می تواند برای تعدیل محتوا در مقیاس بزرگ، احراز هویت رسانه، نظارت و سایر برنامه های کاربردی هوش مصنوعی حیاتی برای امنیت مفید باشد.

نویسندگان این اثر پرنیان قپندار کاشانی و دکتر شیقی چن هستند که به طور مساوی مشارکت داشتند و پروفسور آیدوگان اوزجان. محققان وابسته به دپارتمان مهندسی برق و کامپیوتر UCLA، دپارتمان مهندسی زیستی UCLA و موسسه نانوسیستم های کالیفرنیا هستند.