تصویر روز ـ شرکت گوگل ابزار تحت‌وب «SynthID Detector» را که برای شناسایی محتوای تولید یا ویرایش‌شده با هوش مصنوعی طراحی شده، در دسترس عموم قرار می‌دهد.

این ابزار قادر است تصاویر، ویدیوها و فایل‌های صوتی ساخته‌شده با ابزارهای هوش مصنوعی شرکت‌های مختلف نظیر خود گوگل، اوپن‌ای‌آی(OpenAI)، آنتروپیک(Anthropic)، انویدیا(NVIDIA) و دیگران را شناسایی کند.

استفاده از این ابزار رایگان است، اما کاربران باید با حساب کاربری گوگل، اوپن‌ای‌آی یا اپل وارد سیستم شوند.

این وب‌سایت همچنین یکی از نخستین ابزارهای تشخیص هوش مصنوعی خواهد بود که می‌تواند تصاویر خلق‌شده با قابلیت‌های هوش مصنوعی اپل، مانند «Image Playground» را شناسایی کند. گوگل اعلام کرده است که پشتیبانی از تصاویر ایجاد یا ویرایش‌شده با «هوش اپل»(Apple Intelligence) نیز به‌زودی اضافه خواهد شد.

گوگل بیش از یک سال روی «SynthID Detector» کار کرده و پیش‌تر نسخه‌هایی از آن را در اختیار روزنامه‌نگاران و سایر کارشناسان رسانه قرار داده بود. اکنون هر کسی می‌تواند با مراجعه به وب‌سایت synthid.com بررسی کند که آیا محتوای مورد نظر دارای واترمارک SynthID است یا خیر.

این شرکت روش‌های دیگری نیز برای تشخیص واترمارک‌های SynthID و گواهی‌های محتوایی C2PA از جمله قابلیت «Circle to Search» و خودِ اپلیکیشن جمینای(Gemini) دارد. با این حال، ایجاد یک وب‌سایت اختصاصی برای این کار، دسترسی به این قابلیت‌ها را به‌ویژه برای کسانی که از ابزارهای هوش مصنوعی گوگل استفاده نمی‌کنند، آسان‌تر می‌کند.

مانند تمام قابلیت‌های تشخیص هوش مصنوعی، در اینجا نیز محدودیت‌هایی وجود دارد. ابزار SynthID Detector نمی‌تواند تمام محتوای تولیدشده با هوش مصنوعی را شناسایی کند، زیرا شرکت‌های بسیاری از استانداردهای متفاوتی برای واترمارک‌گذاری استفاده می‌کنند. همچنین در برخی شرایط، امکان حذف واترمارک از محتوا وجود دارد.

علاوه بر این، وب‌سایت گوگل میان محتوایی که کاملاً توسط هوش مصنوعی ساخته شده و محتوایی که صرفاً با آن ویرایش شده است، تفاوتی قائل نمی‌شود. بنابراین، جزئیات دقیقی درباره نحوه خلق یک محتوای خاص یا اینکه کدام بخش‌های آن ممکن است مصنوعی (ساختگی) باشند، ارائه نمی‌دهد.

اگرچه SynthID Detector گامی در مسیر درست محسوب می‌شود، اما راستی‌آزمایی محتوای تولیدشده با هوش مصنوعی هنوز تا رسیدن به روشی بی‌نقص فاصله زیادی دارد.

ابزارهای تشخیص هوش مصنوعی مانند SynthID Detector به مجموعه‌ای از استانداردهای گوناگون متکی هستند و از این رو، ابزاری جامع و فراگیر که بتواند همه موارد را پوشش دهد، وجود ندارد.

برای مثال، شرکت متا(Meta) در حال آزمایش ابزار وب خود است که می‌تواند تصاویر ایجاد شده یا ویرایش شده با جدیدترین مدل‌های «Muse Image» خود را شناسایی کند، اما نمی‌تواند تصاویر شرکت‌های دیگر یا حتی مدل‌های قبلی خود را شناسایی کند.

به نظر می‌رسد که گوگل به مرور زمان شرکت‌های بیشتری را به SynthID جذب خواهد کرد. این شرکت پیش از این گفته بود که ElevenLabs متعهد به افزودن پشتیبانی از واترمارک‌ها شده است. گوگل در وب‌سایت خود خاطرنشان می‌کند که به طور مداوم در حال گسترش همکاری‌های خود برای امکان شناسایی رسانه‌های تولید شده بیشتر است.

منبع: ایسنا