گسترش رسانههای تولید شده توسط هوش مصنوعی به سطحی رسیده که تصور آن برای انسان دشوار است. بر اساس آمارهای منتشر شده توسط آزمایشگاه استارلینگ، هوش مصنوعی مولد تنها در مدت ۱۸ ماه توانست به رکورد تولید ۱.۵ میلیارد تصویر برسد؛ در حالی که برای رسیدن به همین رقم در صنعت عکاسی، بشر به حدود ۱۵۰ سال زمان نیاز داشت.
گوگل اخیراً در جریان رویداد I/O فاش کرد که کاربران با استفاده از ابزارهای این شرکت، بیش از ۱۰۰ میلیارد تصویر و ویدیوی هوش مصنوعی تولید کردهاند. گوگل برای مدیریت این حجم عظیم، فناوری SynthID را معرفی کرده است؛ ابزاری که با استفاده از واترمرکهای نامرئی و مقاوم، به کاربران کمک میکند محتوای مصنوعی را از واقعی تشخیص دهند. با این حال، با وجود دقت بالای این سیستم، کارشناسان هشدار میدهند که این تکنولوژی به تنهایی نمیتواند معضل گسترده اطلاعات جعلی و دیپفیکها را به طور کامل حل کند.