چگونه بفهمیم یک تصویر یا ویدئو با هوش مصنوعی ساخته شده است: نشانه‌ها، ابزارها و محدودیت‌ها
خلاصه
هیچ آزمون واحدی نمی‌تواند بهطور قابل اعتماد ثابت کند که تصویری با هوش مصنوعی ساخته شده است. در یک آزمایش آنلاین بزرگ در سال ۲۰۲۴، افراد تنها در ۶۲ درصد موارد تصاویر واقعی و تصاویر هوش مصنوعی را درست تشخیص دادند [1]. بهترین رویکرد، ترکیب نشانه‌های بصری [3]، بررسی واترمارک یا Content Credentials [5][7] و جست‌وجوی منبع اصلی است، با این آگاهی که هر روش کاستی‌هایی دارد [4].
نکته‌های کلیدی
- در آزمایش «Real or Not» مایکروسافت، بیش از ۱۲٬۵۰۰ شرکتکننده تنها در ۶۲ درصد موارد تصاویر واقعی و تصاویر هوش مصنوعی را درست تشخیص دادند [1].
- نشانه‌های بصری در پنج گروه جای می‌گیرند: کالبدی، سبکی، کارکردی، نقض قوانین فیزیک و ناهمخوانی‌های اجتماعی‌ـ‌فرهنگی؛ اما این نشانه‌ها همیشه وجود ندارند [3].
- اپلیکیشن Gemini شرکت Google می‌تواند واترمارک SynthID را بررسی کند، اما فقط محتوایی را تشخیص میدهد که با ابزارهای هوش مصنوعی Google ساخته شده باشد [5].
- Content Credentials (استاندارد C2PA) چگونگی ساخت یک فایل را ثبت میکند، اما سکوهای اجتماعی اغلب این اطلاعات را حذف می‌کنند؛ در آزمونی از Washington Post، هیچ‌یک از هشت سکو آن‌ها را حفظ نکرد [7][8].
- NIST هشدار میدهد که واترمارک‌ها قابل حذف‌اند، فراداده‌ها اغلب پاک می‌شوند و آشکارسازها روی همان مولدهایی بهترین عملکرد را دارند که با آن‌ها آموزش دیده‌اند [4].
- از ۲ اوت ۲۰۲۶، قواعد شفافیت قانون هوش مصنوعی اتحادیهٔ اروپا الزام میکند که خروجی‌های هوش مصنوعی نشانه‌گذاری و دیپ‌فیک‌ها برچسب‌گذاری شوند [11].
در این صفحه ۱۲ بخش
- چگونه می‌توان فهمید تصویری با هوش مصنوعی ساخته شده است؟
- چه نشانه‌های بصری‌ای تصاویر هوش مصنوعی را لو می‌دهند؟
- آیا واترمارکهای هوش مصنوعی و Content Credentials منشأ تصویر را ثابت می‌کنند؟
- چرا برچسب‌ها و فراداده‌ها این‌قدر زیاد از میان می‌روند؟
- آیا ابزارهای تشخیص تصویر هوش مصنوعی قابل اعتمادند؟
- از کدام روش و در چه زمانی باید استفاده کرد؟
- چه قواعدی برچسب‌گذاری تصاویر هوش مصنوعی را الزامی می‌کنند؟
- آیندهٔ تشخیص جعل‌ها چه خواهد بود؟
- اشتباه‌های رایج
- پرسش‌های پرتکرار
- واژه‌نامه
- منابع
چگونه می‌توان فهمید تصویری با هوش مصنوعی ساخته شده است؟
پاسخ صادقانه این است که اغلب نمی‌توان تنها با نگاه کردن تشخیص داد. در یک آزمون آنلاین که آزمایشگاه AI for Good مایکروسافت برگزار کرد، شرکت‌کنندگان حدود ۲۸۷٬۰۰۰ داوری انجام دادند و تنها در ۶۲ درصد موارد تصاویر واقعی و تصاویر تولیدشده با هوش مصنوعی را درست تشخیص دادند [1]. پژوهشی نماینده روی ۳٬۰۰۲ نفر در آمریکا، آلمان و چین که در سال ۲۰۲۴ در همایش امنیت و حریم خصوصی IEEE ارائه شد، نشان داد که جعلهای پیشرفته تقریباً از رسانه‌های واقعی تمایزناپذیرند و بیشتر شرکت‌کنندگان صرفاً حدس میزدند [2].
این بدان معنا نیست که بررسی بی‌فایده است، بلکه یعنی رویکرد قابل اعتماد، رویکردی چندلایه است: به دنبال خطاهای بصری باشید، نشانه‌های قابل خواندن برای ماشین مانند واترمارک یا Content Credentials را بررسی کنید و تصویر را تا نخستین جایی که منتشر شده است ردیابی کنید. مؤسسهٔ ملی استانداردها و فناوری ایالات متحده (NIST) همین ایده را در مقیاسی بزرگ‌تر شرح میدهد: به گفتهٔ این مؤسسه هیچ راه‌حل جادویی‌ای وجود ندارد و ردیابی منشأ، برچسب‌گذاری و تشخیص، هر کدام محدودیت‌هایی دارند [4].
یک فهرست وارسی سریع
- پیش از همرسانی درنگ کنید. تصاویر خبرهای فوری به دقت بیشتری نیاز دارند؛ در ژوئن ۲۰۲۵، ویدئویی از انفجاری در زندان اوین تهران، که کارشناسان به CBS News گفتند ممکن است با هوش مصنوعی ساخته شده باشد، تنها چند دقیقه پس از حملهٔ واقعی اسرائیل به این زندان در فضای آنلاین منتشر شد [12].
- با دقت نگاه کنید به دست‌ها، نوشته‌ها، سایه‌ها، بازتاب‌ها و اشیایی که باید از نظر فیزیکی کارکرد درستی داشته باشند [3].
- اعتبارنامه‌ها یا واترمارک‌ها را بررسی کنید، با ابزاری که بتواند آن‌ها را بخواند؛ مانند استاندارد Content Credentials یا ابزار بررسی SynthID شرکت Google در Gemini [5][7].
- منبع را جست‌وجو کنید. صفحهٔ راهنمای خود Google بررسی بصری و جست‌وجوی معکوس تصویر را در کنار ابزار واترمارک خود توصیه میکند [5].
- هر نتیجه‌ای را شاهد بدانید، نه دلیل قطعی، زیرا هر روشی ممکن است محتوایی را نبیند یا نادرست تفسیر کند [4].
چه نشانه‌های بصری‌ای تصاویر هوش مصنوعی را لو می‌دهند؟
پژوهشگران دانشگاه نورث‌وسترن راهنمایی را بر پایهٔ ۱۳۸ تصویر تولیدشده با مدل‌های انتشاری (diffusion)، ۹ تصویر برگزیده از شبکههای اجتماعی و ۴۲ عکس واقعی تهیه کردند [3]. آن‌ها مشکلات افشاگر را در پنج دسته گروه‌بندی کردند [3]:
- کالبدی: دست‌ها، چشم‌ها، دندان‌ها و بدن‌های ناپذیرفتنی، از جمله بدن‌هایی که در هم ادغام شدهاند [3].
- سبکی: تصاویری که اندکی بیش از حد بی‌نقص به نظر می‌رسند، با پوستی براق یا مومی، ظاهری شبیه عکس مجله یا نمایی از فیلم، یا بخش‌هایی از تصویر با سطح جزئیات یا رنگی متفاوت [3].
- کارکردی: اشیایی که نمی‌توانند کار کنند، طراحی‌های نامعمول و نوشته‌ها یا نشانهای نامفهوم، زیرا مولدها درک ساختاری از چگونگی کارکرد اشیا ندارند [3].
- نقض قوانین فیزیک: سایه‌ها و بازتاب‌های ناهمخوان و مشکلات عمق و پرسپکتیو [3].
- اجتماعی‌ـ‌فرهنگی: صحنه‌هایی که بعید، نامناسب، مغایر با هنجارهای یک فرهنگ یا از نظر تاریخی نادرست‌اند [3].
نویسندگان تأکید می‌کنند که خطاهای قابل درک برای انسان، هرچند اغلب دیده می‌شوند، همیشه وجود ندارند و ناهنجاری‌های کالبدی مانند دستی با ظاهر عجیب لزوماً به این معنا نیست که تصویر با هوش مصنوعی ساخته شده است [3]. مولدها نیز به‌سرعت بهتر می‌شوند: پژوهشگران مایکروسافت یادآوری می‌کنند که نتایجشان احتمالاً توانایی افراد در تشخیص تصاویر هوش مصنوعی کنونی را بیش از حد واقعی برآورد میکند [1].
تشخیص کدام جعل‌ها از همه دشوارتر است؟
در آزمایش مایکروسافت، دو نوع تصویر بیشتر وقت‌ها افراد را فریب دادند: چهره‌های انسانی ساخته‌شده با GANها (نوعی قدیمی‌تر از مولدهای تصویر) و ترمیم تصویر (inpainting)، یعنی جایگزین کردن بخشی از یک عکس واقعی با محتوای تولیدشده [1]. NIST نیز همین نکته را مطرح میکند: تصویری که بخشی از آن ویرایش شده، بیشترش واقعی است و همین کار هر روش تشخیصی را پیچیده میکند [4]. بنابراین عکس واقعی‌ای که یک جزء آن تغییر کرده است، از یک صحنهٔ کاملاً مصنوعی دشوارتر شناسایی میشود.
ویدئو چطور؟
ویدئو از این هم دشوارتر است. هانی فرید، استاد دانشگاه کالیفرنیا در برکلی، در ژوئن ۲۰۲۵ به CBS News گفت که جعل‌ها از تصاویر ثابت به ویدئوهای کامل با صحنه‌های انفجار رسیده‌اند که به فیلم‌های گرفته‌شده با گوشی در دست شباهت دارند [12]. در ویدئویی از انفجاری در ورودی زندان اوین تهران، که کارشناسان گفتند ممکن است با هوش مصنوعی ساخته شده باشد، آن‌ها به تابلوی نادرست بالای در و ناهمخوانی‌هایی در خود انفجار اشاره کردند [12]. از جمله مواردی که بررسی آن‌ها سودمند است: تابلوها و دیگر نوشته‌ها، نورپردازی، و اینکه آیا همان صحنه در تصاویر دوربین‌های دیگر نیز دیده میشود یا نه.
آیا واترمارکهای هوش مصنوعی و Content Credentials منشأ تصویر را ثابت می‌کنند؟
نشانه‌های قابل خواندن برای ماشین از چشم انسان قوی‌ترند، اما فقط هنگامی که وجود داشته باشند و ابزار مناسب بتواند آن‌ها را بخواند. این نشانه‌ها دو نوع اصلی دارند.
واترمارکهای نامرئی
واترمارک نشانهای است که در پیکسل‌ها یا صدا پنهان شده است. SynthID شرکت Google نشانه‌هایی نامحسوس را در محتوای تولیدشده با هوش مصنوعی جای میدهد و Google میگوید تا نوامبر ۲۰۲۵ بیش از ۲۰ میلیارد محتوا با آن واترمارک شده بود [6]. از ۲۰ نوامبر ۲۰۲۵، کاربران میتوانند تصویری را در اپلیکیشن Gemini بارگذاری کنند و بپرسند که آیا با هوش مصنوعی Google ساخته شده است یا نه [6]. صفحهٔ راهنمای Google بررسی ویدئو و صدا را نیز می‌افزاید، با محدودیت ۱۰۰ مگابایت برای هر فایل، ویدئوهای کوتاه‌تر از ۹۰ ثانیه و تقریباً ۱۰ بررسی از هر نوع در هر ۲۴ ساعت [5].
این محدودیت‌ها مهم‌اند. Gemini در حال حاضر تنها محتوایی را تشخیص میدهد که با ابزارهای هوش مصنوعی Google ساخته شده باشد و Google تصریح میکند که پیدا نشدن واترمارک SynthID به این معنا نیست که محتوا با هوش مصنوعی تولید نشده است [5]. Google میگوید واترمارک‌ها معمولاً پس از تغییر اندازه، تغییر رنگ و فشرده‌سازی باقی می‌مانند، اما ممکن است پس از تغییرات فراوان قابل تشخیص نباشند [5].
Content Credentials
Content Credentials، استانداردی که ائتلاف منشأ و اصالت محتوا (C2PA) تدوین کرده است، روشی با امنیت رمزنگاریشده برای ثبت چگونگی، زمان و مکان ساخت محتوا و تغییرات آن است [7]. اگر فایل یا داده‌های منشأ آن تغییر کند، پیوند رمزنگاری می‌گسلد و این نشانهٔ دستکاری است [7]. Gemini می‌تواند Content Credentials نسخهٔ ۲٫۲ و بالاتر را از محصولات فهرست‌شده در فهرست محصولات منطبق با C2PA، در وب و در اپلیکیشن اندروید خود، بخواند [5].
با این حال، اعتبارنامه‌ها ادعایی دربارهٔ منشأ را ثبت می‌کنند، نه درستی یک صحنه را. Google یادآوری میکند که نتیجه‌ای که نام یک شرکت را نشان میدهد، فقط نشان میدهد چه کسی اطلاعات را ارائه کرده است و اعتبارنامه‌ها بهطور قطعی ثابت نمی‌کنند که محتوا با هوش مصنوعی تولید شده است یا نه [5]. C2PA میگوید اعتبارنامه‌ها ممکن است از فایل جدا شوند و از «پیوندهای نرم» (soft bindings)، مانند واترمارک‌ها یا اثرانگشت‌های دیجیتال، برای یافتن دوبارهٔ آن‌ها پشتیبانی میکند [7].
چرا برچسب‌ها و فراداده‌ها این‌قدر زیاد از میان می‌روند؟
فراداده درون فایل جابه‌جا میشود، پس هر چیزی که فایل را دوباره ذخیره کند می‌تواند آن را حذف کند. NIST یادآوری میکند که فرادادهٔ جاسازیشده اغلب هنگام همرسانی فایلها، برای نمونه از طریق سکوهای شبکههای اجتماعی، پاک میشود و افراد ممکن است آن را با هدف فریب یا به دلایل بی‌ضرری مانند حفظ حریم خصوصی حذف کنند [4].
Washington Post این موضوع را در اکتبر ۲۰۲۵ آزمود. این روزنامه با Sora شرکت OpenAI ویدئویی ساخت که Content Credentials داشت، آن را در هشت اپلیکیشن اجتماعی منتشر کرد و دریافت که هیچ‌کدام اعتبارنامه‌ها را حفظ نکردند یا امکان مشاهدهٔ آن‌ها را به کاربران ندادند [8]. تنها YouTube هشداری افزود و آن هشدار، با عبارت «محتوای تغییریافته یا مصنوعی»، در توضیحات ویدئو قرار داشت [8].
شکست دادن واترمارکهای مرئی از این هم آسان‌تر است. 404 Media گزارش داد که سه وب‌سایتی که آزموده بود، واترمارک مرئی Sora 2 را در عرض چند ثانیه از ویدئوها حذف کردند [9]. NIST همچنین پژوهش‌هایی را شرح میدهد که نشان می‌دهند بسیاری از واترمارکهای نامرئی تصویر قابل حذف‌اند؛ برای نمونه با افزودن نویز و سپس نویزگیری تصویر [4].
سکوها چه می‌گویند؟
Meta در سال ۲۰۲۴ اعلام کرد که برای برچسب‌گذاری تصاویر در Facebook، Instagram و Threads، نشانگرهای هوش مصنوعی را در استانداردهای فرادادهٔ C2PA و IPTC می‌خواند [10]. همان اطلاعیه اذعان داشت که هنوز شناسایی همهٔ محتوای تولیدشده با هوش مصنوعی ممکن نیست و افراد میتوانند نشانگرهای نامرئی را حذف کنند [10]. در عوض، Meta از کاربران می‌خواهد هنگام انتشار ویدئوی واقع‌نمای ساخته‌شده با هوش مصنوعی و صدایی که واقعی به نظر می‌رسد، این موضوع را اعلام کنند [10].
آیا ابزارهای تشخیص تصویر هوش مصنوعی قابل اعتمادند؟
آشکارسازهای خودکار طبقه‌بندهایی‌اند که احتمال مصنوعی بودن یک فایل را برآورد می‌کنند. این ابزارها میتوانند از انسان بهتر عمل کنند: آشکارساز خود تیم مایکروسافت در پژوهش آن‌ها، هم روی تصاویر واقعی و هم روی تصاویر هوش مصنوعی، به دقتی بالاتر از ۹۵ درصد رسید [1]. این رقم مربوط به یک ابزار پژوهشی روی یک مجموعه‌داده است، نه هر وب‌سایت رایگانی که ممکن است پیدا کنید.
مزایا
- پژوهشگران مایکروسافت ابزارهای تشخیص را بهطور چشمگیری قابل اعتمادتر از انسان توصیف می‌کنند، هرچند یادآوری می‌کنند که همچنان خطا دارند [1].
- دقت آن‌ها در آن پژوهش در دسته‌های مختلف تصویر یکسان بود، برخلاف دقت انسان که بسته به موضوع تصویر تغییر می‌کرد [1].
محدودیت‌ها
- NIST میگوید آشکارسازها اغلب روی محتوای مولدهایی که با آن‌ها آموزش دیده‌اند بهترین عملکرد را دارند، در حالی که مدل‌های تازه پیوسته از راه می‌رسند [4].
- به گفتهٔ NIST، به‌محض پیدایش یک روش تشخیص تازه، مولدها بهتر می‌شوند و مهاجمان راه گریز از آن را یاد می‌گیرند [4].
- مثبت‌های کاذب، یعنی برچسب هوش مصنوعی زدن به محتوای واقعی، میتوانند بسیار زیان‌بار باشند و به آسیب آبرویی یا رفتار ناعادلانه بینجامند [4].
- طبقه‌بندی تصاویری که بخشی از آن‌ها ویرایش شده دشوار است و اینکه آیا یک ویرایش «اساسی» است یا نه، ممکن است امری سلیقه‌ای باشد [4].
بنابراین امتیاز آشکارساز تنها یکی از ورودی‌هاست. این امتیاز وقتی بیشترین سود را دارد که با شواهد دیگر، مانند نبود منبع اصلی یا خطاهای آشکار، هم‌خوان باشد.
از کدام روش و در چه زمانی باید استفاده کرد؟
هر روش به پرسش متفاوتی پاسخ میدهد. بررسی بصری می‌پرسد آیا محتوا از نظر فیزیکی پذیرفتنی به نظر می‌رسد [3]. بررسی واترمارک می‌پرسد آیا هوش مصنوعی یک شرکت مشخص نشانهٔ خود را بر جای گذاشته است [5]. Content Credentials می‌پرسد تاریخچهٔ امضاشدهٔ فایل چه میگوید [7]. جست‌وجوی معکوس تصویر می‌پرسد تصویر نخستین بار کجا و چه زمانی منتشر شده است؛ روشی که Google در کنار ابزار خود توصیه میکند [5]. جدول زیر این روش‌ها را مقایسه میکند.
برای تصمیم‌های حساس، مانند گزارش یک رویداد خبری یا متهم کردن کسی به جعل شواهد، از چند روش استفاده کنید و به دنبال هم‌خوانی میان آن‌ها باشید. NIST یادآوری میکند که سازمان‌ها ممکن است چند فن تشخیص را با هم به کار ببرند و میگوید هیچ راه‌حل جادویی‌ای وجود ندارد [4].
چه قواعدی برچسب‌گذاری تصاویر هوش مصنوعی را الزامی می‌کنند؟
در اتحادیهٔ اروپا، تعهدات شفافیت مادهٔ ۵۰ قانون هوش مصنوعی از ۲ اوت ۲۰۲۶ اجرا میشود [11]. بر اساس این قواعد، ارائه‌دهندگان سامانه‌های هوش مصنوعی باید خروجی‌های صوتی، تصویری، ویدئویی و متنی را به شیوه‌ای قابل خواندن برای ماشین نشانه‌گذاری کنند تا بتوان مصنوعی بودن آن‌ها را تشخیص داد، و به‌کارگیرندگان باید دیپ‌فیک‌ها را برچسب‌گذاری کنند؛ آیین‌نامهٔ رفتاری کمیسیون اروپا چگونگی انجام این کار را شرح میدهد [11]. این آیین‌نامه دیپ‌فیک را محتوای تصویری، صوتی یا ویدئویی‌ای تعریف میکند که به افراد، اشیا، مکان‌ها، نهادها یا رویدادهای واقعی شباهت دارد و ممکن است به‌دروغ اصیل به نظر برسد [11].
پایبندی به خود این آیین‌نامه داوطلبانه است، هرچند وظایف مادهٔ ۵۰ تعهدات قانونی‌اند [11]. در جدول زمانی کمیسیون، انتشار نسخهٔ نهایی آیین‌نامه در ۱۰ ژوئن ۲۰۲۶ ذکر شده است و تا پایان ژوئیهٔ ۲۰۲۶ حدود ۱۹۰ سازمان آن را امضا کرده بودند [11]. اتحادیهٔ اروپا همچنین مجموعه‌ای از نمادها پدید آورده است که به‌کارگیرندگان میتوانند برای برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی از آن‌ها استفاده کنند [11]. در خارج از اتحادیهٔ اروپا، سیاست‌های سکوها مانند قواعد اعلام Meta اعمال میشود [10]، اما قواعد از کشوری به کشور دیگر متفاوت است و پیوسته تغییر میکند؛ پس نسخهٔ جاری را تا ۳ نوامبر ۲۰۲۶ بررسی کنید.
آیندهٔ تشخیص جعل‌ها چه خواهد بود؟
روند کلی به سوی برچسب‌هایی است که هنگام ساخت در خود فایل جای می‌گیرند، نه به سوی تشخیص خطا به دست انسان. Google از برنامه‌هایی برای گسترش راستی‌آزمایی Gemini به Content Credentials محصولاتی بیرون از زیست‌بوم خود خبر داد [6] و صفحهٔ راهنمای آن اکنون این بررسی‌ها را شرح میدهد [5]، و در همین حال قواعد نشانه‌گذاری اتحادیهٔ اروپا بر ارائه‌دهندگان اعمال میشود [11]. در عین حال، NIST حمله‌هایی را شرح میدهد که واترمارک‌ها را حذف یا جعل (spoof) می‌کنند [4] و آزمون Washington Post نشان داد که سکوها اغلب نشانه‌های موجود را دور می‌ریزند [8].
آنچه همچنان نامعلوم است
- عملکرد افراد در سال آینده. نویسندگان پژوهش مایکروسافت انتظار دارند با بهتر شدن مولدها، دقت انسان کاهش یابد [1].
- اینکه آیا سکوها اعتبارنامه‌ها را حفظ خواهند کرد. مشارکت در Content Credentials داوطلبانه است و در آزمون Post هیچ سکویی این داده‌ها را حفظ نکرد [8].
- پوشش واترمارکهای شرکت‌های دیگر. تا ۳ نوامبر ۲۰۲۶، ابزار بررسی Gemini هنوز نمی‌تواند واترمارکهای شرکت‌های دیگر را بخواند [5].
فعلاً بررسی‌هایی که به ابزار خاصی نیاز ندارند همچنان اهمیت دارند: Google جست‌وجوی معکوس تصویر را برای یافتن منبع اصلی توصیه میکند [5] و هانی فرید به خوانندگان CBS News توصیه کرد که برای خبرهای فوری به شبکههای اجتماعی تکیه نکنند [12].
| روش | آنچه می‌تواند نشان دهد | محدودیت اصلی |
|---|---|---|
| بررسی بصری | خطاهای کالبدی، سبکی، کارکردی، فیزیکی یا اجتماعی‌ـ‌فرهنگی [3] | خطاها همیشه وجود ندارند؛ دقت افراد حدود ۶۲ درصد است [1][3] |
| بررسی SynthID در Gemini | اینکه آیا هوش مصنوعی Google فایل را ساخته یا ویرایش کرده است [5] | فقط محتوای هوش مصنوعی Google را تشخیص میدهد؛ نبود واترمارک دلیل واقعی بودن عکس نیست [5] |
| Content Credentials (C2PA) | سابقهٔ امضاشده‌ای از چگونگی ساخت و ویرایش فایل [7] | اغلب سکوها آن را حذف می‌کنند؛ ثبت میکند چه کسی ادعایی کرده است، نه حقیقت را [5][8] |
| جست‌وجوی معکوس تصویر | نسخه‌های پیشین و بافت اصلی، به توصیهٔ Google [5] | ممکن است جعلهای تازه هیچ نسخهٔ پیشینی نداشته باشند |
| آشکارساز خودکار | احتمال مصنوعی بودن فایل [4] | روی مولدهای ناآشنا ضعیف‌تر است؛ مثبت‌های کاذب ممکن است آسیب‌زا باشند [4] |
اشتباه‌های رایج
این تصور که «پیدا نشدن واترمارک» دلیل واقعی بودن تصویر است
راه درست: Google میگوید نبود واترمارک SynthID به این معنا نیست که محتوا با هوش مصنوعی تولید نشده است؛ ممکن است از یک سامانهٔ هوش مصنوعی دیگر آمده باشد [5].
تکیه بر یک نشانهٔ بصری واحد مانند دست‌ها
راه درست: هر پنج دستهٔ خطا را بررسی کنید و به یاد داشته باشید که خطاها همیشه وجود ندارند [3].
اعتماد به امتیاز یک آشکارساز آنلاین واحد
راه درست: NIST یادآوری میکند که آشکارسازها روی مولدهایی که با آن‌ها آموزش دیده‌اند بهترین عملکرد را دارند؛ به دنبال هم‌خوانی با شواهد دیگر باشید [4].
این تصور که اگر محتوا با هوش مصنوعی ساخته شده بود، سکو برچسبی نشان می‌داد
راه درست: در آزمون Washington Post، هفت سکو از هشت سکو هیچ هشداری نشان ندادند [8].
متهم کردن کسی به جعل تصویر بر پایهٔ شواهد ضعیف
راه درست: مثبت‌های کاذب ممکن است بسیار زیان‌بار باشند؛ پس تردید خود را بیان کنید و به دنبال شواهد تأییدکننده باشید [4].
پرسش‌های پرتکرار
آیا افراد میتوانند بهطور قابل اعتماد تصاویر هوش مصنوعی را از عکسهای واقعی تشخیص دهند؟
نه بهطور قابل اعتماد. در آزمایش مایکروسافت با بیش از ۱۲٬۵۰۰ شرکتکننده، نرخ کلی موفقیت ۶۲ درصد بود [1] و پژوهشی در سه کشور نشان داد که بیشتر افراد در برابر جعلهای پیشرفته صرفاً حدس میزدند [2].
چگونه بررسی کنم که آیا تصویری با هوش مصنوعی Google ساخته شده است؟
آن را در اپلیکیشن Gemini بارگذاری کنید و بپرسید آیا با هوش مصنوعی Google ساخته شده است؛ Gemini به دنبال واترمارک SynthID می‌گردد [6]. این روش فقط برای محتوای ساخته‌شده با ابزارهای هوش مصنوعی Google کار میکند [5].
Content Credentials چیست؟
سابقهای با امنیت رمزنگاریشده بر اساس استاندارد C2PA که نشان میدهد محتوا چگونه، چه زمانی و کجا ساخته و ویرایش شده است [7]. این سابقه به آشکار شدن دستکاری کمک میکند، اما ممکن است حذف شود و درستی یک صحنه را ثابت نمیکند [5][7].
آیا گرفتن اسکرینشات برچسبهای هوش مصنوعی را حذف میکند؟
ممکن است فراداده را حذف کند. NIST یادآوری میکند که فرادادهٔ جاسازیشده اغلب هنگام همرسانی فایلها، برای نمونه از طریق سکوهای شبکههای اجتماعی، پاک میشود [4]. واترمارکهای نامرئی برای ماندگاری طراحی شدهاند، اما Google میگوید SynthID ممکن است پس از تغییرات فراوان تشخیص داده نشود [5] و Meta میگوید افراد میتوانند نشانگرهای نامرئی را حذف کنند [10].
آیا انتشار دیپ‌فیک بدون برچسب غیرقانونی است؟
قواعد از کشوری به کشور دیگر متفاوت است. در اتحادیهٔ اروپا، وظایف شفافیت قانون هوش مصنوعی، از جمله برچسب‌گذاری دیپ‌فیک توسط به‌کارگیرندگان، از ۲ اوت ۲۰۲۶ اعمال میشود [11]. این مطلب اطلاعات عمومی است و مشاورهٔ حقوقی به شمار نمی‌رود.
واژه‌نامه
- دیپ‌فیک (Deepfake)
- تصویر، صدا یا ویدئوی تولیدشده یا دستکاری‌شده با هوش مصنوعی که به افراد، مکان‌ها یا رویدادهای واقعی شباهت دارد و ممکن است به‌دروغ اصیل به نظر برسد؛ بر اساس تعریف آیین‌نامهٔ رفتاری اتحادیهٔ اروپا [11].
- ترمیم تصویر (Inpainting)
- جایگزین کردن بخشی از یک عکس واقعی با محتوای تولیدشده با هوش مصنوعی؛ یکی از دشوارترین دستکاری‌ها برای تشخیص به دست انسان [1].
- SynthID
- فناوری Google که واترمارک‌هایی نامحسوس را در محتوای تولیدشده با هوش مصنوعی جای میدهد [6].
- Content Credentials (C2PA)
- استانداردی باز برای اطلاعات منشأ با امضای رمزنگاریشده که به فایل‌های رسانه‌ای پیوست میشود [7].
- مثبت کاذب (False positive)
- برچسب اشتباه تولیدشده با هوش مصنوعی که آشکارساز به محتوای ساخت انسان می‌زند [4].
منابع
- How good are humans at detecting AI-generated images? Learnings from an experiment Microsoft AI for Good Lab (Roca et al.), arXiv
- A Representative Study on Human Detection of Artificially Generated Media Across Countries Frank et al., IEEE Symposium on Security and Privacy 2024 (arXiv) · 2023-12-10
- How to Distinguish AI-Generated Images from Authentic Photographs Kamali, Nakamura, Chatzimparmpas, Hullman, Groh (arXiv) · 2024-06-12
- NIST AI 100-4: Reducing Risks Posed by Synthetic Content US National Institute of Standards and Technology
- Verify AI-generated images, videos, and audio Google Gemini Apps Help; retrieved 2026-11-03
- How we're bringing AI image verification to the Gemini app Google · 2025-11-20
- FAQs Coalition for Content Provenance and Authenticity (C2PA); retrieved 2026-11-03
- We uploaded a fake video to 8 social apps. Only one told users it wasn't real. The Washington Post · 2025-10-22
- Sora 2 Watermark Removers Flood the Web 404 Media · 2025-10-07
- Labeling AI-Generated Images on Facebook, Instagram and Threads Meta · 2024-02-06
- Code of Practice on transparency of AI-generated content European Commission; retrieved 2026-11-03
- AI-generated videos are fueling falsehoods about Iran-Israel conflict, researchers say CBS News · 2025-06-27
نظرات
نظرهای برتر