مایکروسافت ابزاری را به منظور شناسایی دیپ فیک توسعه داده است

ابزاری که مایکروسافت برای جلوگیری از انتشار اطلاعات غلط توسعه داده است با تحلیل ویدیوها و عکس‌های می‌تواند دیپ فیک را تشخیص دهد و به میزان دستکاری شدن آن نیز امتیاز می‌دهد.

در دیپ فیک برای دستکاری فایل‌های عکس، ویدیو و صدا از هوش مصنوعی استفاده می‌شود، با این روش نمی‌توان جعلی بودن آن را به راحتی تشخیص داد. این فایل‌ها معمولا در کمپین‌های انتخاباتی و برای بدنام کردن کاندیداها به کار می‌روند.

مایکروسافت ابزار جدیدی را به نام Video Authenticator توسعه داده است که هم‌زمان با پخش هر فریم ویدیو می‌تواند امتیازی را به آن بدهد. ابزار مایکروسافت براساس شناسایی مرزهای ترکیب‌شده سوژه‌ها، محو شدن ظریف یا المان‌های خاکستری می‌تواند نسخه‌های تقلبی آن را تشخیص دهد. البته انسان به راحتی نمی‌تواند مواردی را که ابزار تشخیص دیپ فیک مایکروسافت بررسی می‌کند تشخیص دهد.

این ابزار به منظور استفاده عمومی افراد به منتشر نمی‌شود. مایکروسافت برای توسعه این ابزار با شرکت تجاری و غیر انتفاعی «AI Foundation» که در سان ‌فرانسیسکو قرار دارد مشارکت داشته است. این ابزار ابتدا تنها ویژه بنیاد Reality Defender 2020 طراحی شده بود سپس سازمان‌های دیگری که در روندهای دموکراتیک مانند رسانه‌های خبری و کمپین‌های سیاسی درگیری دارند به آن دسترسی پیدا کردند.

یکی از محدودیت‌هایی که تکنولوژی جدید مایکروسافت دارد این است که ریسک قدیمی شدن آن بسیار زیاد است؛ زیرا دیپ فیک به مروز زمان پیشرفت می‌کند و پیچیده‌تر می‌شود. مایکروسافت سیستم جداگانه‌ای نیز داشته است که به تولیدکنندگان محتوا این امکان را می‌دهد که بتواننددر ویدیوها کدهای پنهانی اضافه کنند تا بتوان هر نوع دستکاری را تشخیص داد. همچنین با کنسرسیومی از شرکت‌های فعال در حوزه رسانه از جمله بی‌بی‌سی، رادیو کانادا و‌ نیویورک تایمز همکاری دارد تا این تکنولوژی آزمایش شود و به عنوان یک استاندارد توسعه یابد.

مایکروسافت برای جلوگیری از انتشار اطلاعات غلط خلاقیت داشته است و برنامه حفاظت از دموکراسی را تدوین کرده است. این برنامه شامل تکنولوژی‌هایی مانند ElectionGuard برای محافظت از آرا و AccountGuard برای کمک به ایمن نگه داشتن کمپین‌ها می‌شود.