Şəkil və ya videonun süni intellektlə yaradıldığını necə anlamaq olar: əlamətlər, alətlər və məhdudiyyətlər

Şəklin süni intellektlə yaradıldığını necə anlamaq olar?

Səmimi cavab budur ki, çox vaxt yalnız baxmaqla bunu anlamaq mümkün olmur. Microsoft-un AI for Good Lab laboratoriyasının keçirdiyi onlayn testdə iştirakçılar təxminən 287,000 qiymətləndirmə aparıb və real və süni intellektlə yaradılmış şəkilləri yalnız halların 62%-ində düzgün müəyyən ediblər ^[1]. 2024-cü ildə IEEE Symposium on Security and Privacy-də təqdim olunmuş, ABŞ, Almaniya və Çində 3,002 nəfəri əhatə edən reprezentativ tədqiqat müəyyən edib ki, ən müasir saxtalar real mediadan demək olar ki, fərqlənmir və iştirakçıların çoxu sadəcə təxmin edirdi ^[2].

Bu, yoxlamanı mənasız etmir. Sadəcə etibarlı yanaşma çoxqatlıdır: vizual səhvləri axtarın, su nişanları və ya Content Credentials kimi maşın tərəfindən oxunan siqnalları yoxlayın və şəkli ilk dəfə harada göründüyünə qədər izləyin. ABŞ Milli Standartlar və Texnologiya İnstitutu (NIST) eyni ideyanı daha geniş miqyasda təsvir edir: onun sözlərinə görə, möcüzəvi həll yoxdur və mənşənin izlənməsi, etiketləmə və aşkarlamanın hər birinin məhdudiyyətləri var ^[4].

Qısa yoxlama siyahısı

1. Paylaşmazdan əvvəl dayanın. Son dəqiqə xəbərlərinin görüntüləri xüsusi diqqət tələb edir; iyun 2025-də Tehranın Evin həbsxanasında partlayışı göstərən və ekspertlərin CBS News-a dediyinə görə süni intellektlə yaradılmış ola biləcək video həbsxanaya real İsrail zərbəsindən bir neçə dəqiqə sonra internetdə yayılıb ^[12].
2. Diqqətlə baxın: əllərə, mətnə, kölgələrə, əks olunmalara və fiziki cəhətdən işləməli olan əşyalara ^[3].
3. Etimadnamələri və ya su nişanlarını yoxlayın: onları oxuyan alətlə, məsələn, Content Credentials standartı və ya Gemini-dəki Google SynthID yoxlayıcısı ilə ^[5][7].
4. Mənbəni axtarın. Google-un öz yardım səhifəsi su nişanı aləti ilə yanaşı vizual yoxlama və tərs şəkil axtarışını tövsiyə edir ^[5].
5. Hər nəticəyə sübut kimi deyil, dəlil kimi yanaşın, çünki hər üsul məzmunu buraxa və ya səhv oxuya bilər ^[4].

Süni intellekt şəkillərini hansı vizual əlamətlər ələ verir?

Northwestern Universitetinin tədqiqatçıları diffuziya modelləri ilə yaradılmış 138 şəkil, sosial mediadan seçilmiş 9 şəkil və 42 real fotoşəkil əsasında bələdçi hazırlayıblar ^[3]. Onlar xarakterik problemləri beş kateqoriyaya ayırıblar ^[3]:

• Anatomik: inandırıcı olmayan əllər, gözlər, dişlər və bədənlər, o cümlədən bir-birinə qarışan bədənlər ^[3].
• Üslub: bir qədər həddindən artıq mükəmməl görünən şəkillər: parıltılı və ya mumlu dəri, jurnal və ya film kadrı görünüşü, yaxud təsvirin detallaşma səviyyəsi və ya rəngi fərqli olan hissələri ^[3].
• Funksional: işləyə bilməyəcək əşyalar, qeyri-adi dizaynlar və anlaşılmaz mətn və ya loqotiplər, çünki generatorlar əşyaların necə işlədiyini struktur baxımından anlamır ^[3].
• Fizika qanunlarının pozulması: uyğunsuz kölgələr, əks olunmalar, dərinlik və perspektiv problemləri ^[3].
• Sosial-mədəni: ehtimalı az olan, yersiz, mədəniyyətin normalarına zidd və ya tarixən qeyri-dəqiq ssenarilər ^[3].

Müəlliflər vurğulayır ki, insanın görə biləcəyi artefaktlar çox vaxt üzə çıxsa da, həmişə mövcud olmur, qəribə görünən əl kimi anatomik qəribəliklər isə şəklin mütləq süni intellektlə yaradıldığı demək deyil ^[3]. Generatorlar da sürətlə təkmilləşir: Microsoft tədqiqatçıları qeyd edir ki, onların nəticələri insanların indiki süni intellekt şəkillərini nə qədər yaxşı tanıya bildiyini çox güman ki, şişirdir ^[1].

Hansı saxtaları tanımaq ən çətindir?

Microsoft eksperimentində iki növ şəkil insanları əksər hallarda aldadıb: GAN-larla (daha köhnə tipli şəkil generatoru) yaradılmış insan üzləri və real fotonun bir hissəsinin yaradılmış məzmunla əvəz edildiyi inpainting ^[1]. NIST də eyni fikri bildirir: qismən redaktə edilmiş şəkil əsasən realdır və bu, hər aşkarlama üsulunu çətinləşdirir ^[4]. Buna görə də bir detalı dəyişdirilmiş real fotonu tamamilə sintetik səhnədən aşkarlamaq daha çətindir.

Bəs video?

Video daha da çətindir. Kaliforniya Universitetinin Berkeley kampusunun professoru Hany Farid iyun 2025-də CBS News-a bildirib ki, saxtalar statik şəkillərdən əl telefonu ilə çəkilmiş görüntüyə bənzəyən, partlayışlı tam videolara keçib ^[12]. Tehranın Evin həbsxanasının girişində partlayışı göstərən və ekspertlərin süni intellektlə yaradılmış ola biləcəyini dediyi videoda onlar qapının üstündəki yanlış lövhəyə və partlayışın özündəki uyğunsuzluqlara diqqət çəkiblər ^[12]. Lövhələri və digər mətnləri, işıqlandırmanı və eyni səhnənin başqa kameraların görüntülərində olub-olmadığını yoxlamaq faydalıdır.

Süni intellekt su nişanları və Content Credentials şəklin haradan gəldiyini sübut edirmi?

Maşın tərəfindən oxunan siqnallar gözlə baxmaqdan daha etibarlıdır, lakin yalnız onlar mövcud olduqda və uyğun alət onları oxuya bildikdə. Onların iki əsas növü var.

Görünməz su nişanları

Su nişanı piksellərdə və ya audioda gizlədilmiş siqnaldır. Google-un SynthID texnologiyası süni intellektlə yaradılmış məzmuna hiss olunmayan siqnallar yerləşdirir və Google bildirir ki, noyabr 2025-ə qədər onunla 20 milyarddan çox məzmun nümunəsi işarələnib ^[6]. 20 noyabr 2025-ci ildən istifadəçilər şəkli Gemini tətbiqinə yükləyib onun Google süni intellekti ilə yaradılıb-yaradılmadığını soruşa bilər ^[6]. Google-un yardım səhifəsi video və audio yoxlamalarını da əlavə edir; məhdudiyyətlər hər fayl üçün 100 MB, 90 saniyədən qısa videolar və hər növdən 24 saat ərzində təxminən 10 yoxlamadır ^[5].

Məhdudiyyətlər əhəmiyyətlidir. Gemini hazırda yalnız Google süni intellekt alətləri ilə yaradılmış məzmunu tanıya bilir və Google bildirir ki, SynthID su nişanının tapılmaması məzmunun süni intellektlə yaradılmadığı demək deyil ^[5]. Google-a görə, su nişanları adətən ölçü dəyişikliyi, rəng dəyişikliyi və sıxılmadan sonra qorunur, lakin çoxsaylı dəyişikliklərdən sonra aşkarlanmaya bilər ^[5].

Content Credentials

Content Credentials, yəni Coalition for Content Provenance and Authenticity (C2PA) tərəfindən hazırlanmış standart, məzmunun necə, nə vaxt və harada yaradıldığını və necə dəyişdiyini qeydə almağın kriptoqrafik cəhətdən təhlükəsiz üsuludur ^[7]. Fayl və ya onun mənşə məlumatları dəyişdirilərsə, kriptoqrafik əlaqə qırılır və bu, müdaxilədən xəbər verir ^[7]. Gemini veb-versiyada və Android tətbiqində C2PA Conforming Products List siyahısındakı məhsullardan Content Credentials-ın 2.2 və daha yeni versiyalarını oxuya bilir ^[5].

Lakin etimadnamələr səhnənin həqiqiliyini deyil, mənşə barədə iddianı qeydə alır. Google qeyd edir ki, şirkət adını göstərən nəticə yalnız məlumatı kimin təqdim etdiyini göstərir və etimadnamələr məzmunun süni intellektlə yaradılıb-yaradılmadığını qəti sübut etmir ^[5]. C2PA bildirir ki, etimadnamələr fayldan ayrıla bilər və onları yenidən tapmaq üçün su nişanları və ya barmaq izləri kimi «yumşaq bağlamaları» dəstəkləyir ^[7].

Etiketlər və metaməlumatlar niyə bu qədər tez-tez itir?

Metaməlumatlar faylın daxilində ötürülür, ona görə də faylı yenidən saxlayan istənilən proses onları silə bilər. NIST qeyd edir ki, daxili metaməlumatlar fayllar, məsələn, sosial media platformaları vasitəsilə paylaşıldıqda çox vaxt silinir və insanlar onları ya aldatmaq, ya da məxfilik kimi zərərsiz səbəblərlə silə bilər ^[4].

Washington Post bunu oktyabr 2025-də sınaqdan keçirib. Qəzet OpenAI-ın Sora aləti ilə Content Credentials daşıyan video hazırlayıb, onu səkkiz sosial tətbiqdə paylaşıb və onların heç birinin etimadnamələri saxlamadığını və ya istifadəçilərə onlara baxmaq imkanı vermədiyini müəyyən edib ^[8]. Yalnız YouTube xəbərdarlıq əlavə edib, «Dəyişdirilmiş və ya sintetik məzmun» yazılı həmin bildiriş isə videonun təsvirində yerləşib ^[8].

Görünən su nişanlarını aradan qaldırmaq daha da asandır. 404 Media xəbər verib ki, sınaqdan keçirdiyi üç vebsayt videolardakı görünən Sora 2 su nişanını bir neçə saniyə ərzində silib ^[9]. NIST həmçinin bir çox görünməz şəkil su nişanının, məsələn, şəklə səs-küy əlavə edib sonra onu təmizləməklə silinə biləcəyini göstərən tədqiqatları təsvir edir ^[4].

Platformalar nə deyir?

Meta 2024-cü ildə bildirib ki, Facebook, Instagram və Threads-də şəkilləri etiketləmək üçün C2PA və IPTC metaməlumat standartlarındakı süni intellekt göstəricilərini oxuyacaq ^[10]. Eyni elanda etiraf olunub ki, süni intellektlə yaradılmış bütün məzmunu müəyyən etmək hələ mümkün deyil və insanlar görünməz markerləri silə bilər ^[10]. Bunun əvəzinə Meta istifadəçilərdən fotorealistik süni intellekt videosu və real səslənən audio paylaşarkən bunu açıqlamağı tələb edir ^[10].

Süni intellekt şəkil detektorları etibarlıdırmı?

Avtomatlaşdırılmış detektorlar faylın sintetik olma ehtimalını qiymətləndirən təsnifatçılardır. Onlar insanları üstələyə bilər: Microsoft komandasının öz detektoru tədqiqatda həm real, həm də süni intellekt şəkillərində 95%-dən yüksək dəqiqlik göstərib ^[1]. Bu rəqəm tapa biləcəyiniz istənilən pulsuz vebsayta deyil, bir məlumat dəsti üzrə bir tədqiqat alətinə aiddir.

Üstünlüklər

• Microsoft tədqiqatçıları aşkarlama alətlərini insanlardan əhəmiyyətli dərəcədə etibarlı kimi təsvir edir, lakin onların yenə də səhv etdiyini qeyd edirlər ^[1].
• Həmin tədqiqatda onların dəqiqliyi şəkil kateqoriyaları üzrə sabit olub, insan dəqiqliyi isə mövzudan asılı olaraq dəyişib ^[1].

Məhdudiyyətlər

• NIST bildirir ki, detektorlar çox vaxt üzərində öyrədildikləri generatorların məzmununda daha yaxşı işləyir, yeni modellər isə daim meydana çıxır ^[4].
• NIST-ə görə, yeni aşkarlama üsulu meydana çıxan kimi generatorlar təkmilləşir, rəqiblər isə ondan yayınmağı öyrənir ^[4].
• Yalançı pozitivlər, yəni real məzmunun süni intellekt kimi işarələnməsi, nüfuza zərər və ya ədalətsiz münasibətə səbəb olaraq son dərəcə ziyanlı ola bilər ^[4].
• Qismən redaktə edilmiş şəkilləri təsnif etmək çətindir, redaktənin «əhəmiyyətli» olub-olmaması isə subyektiv ola bilər ^[4].

Buna görə də detektor balı yalnız məlumat mənbələrindən biridir. O, ilkin mənbələrin olmaması və ya görünən səhvlər kimi digər dəlillərlə üst-üstə düşdükdə daha faydalıdır.

Hansı üsuldan nə vaxt istifadə etməli?

Hər üsul fərqli suala cavab verir. Vizual yoxlama məzmunun fiziki baxımdan inandırıcı görünüb-görünmədiyini soruşur ^[3]. Su nişanı yoxlaması konkret şirkətin süni intellektinin öz siqnalını qoyub-qoymadığını soruşur ^[5]. Content Credentials faylın imzalanmış tarixçəsinin nə dediyini soruşur ^[7]. Tərs şəkil axtarışı isə şəklin ilk dəfə harada və nə vaxt göründüyünü soruşur; Google bunu öz aləti ilə yanaşı tövsiyə edir ^[5]. Aşağıdakı cədvəl onları müqayisə edir.

Xəbər hadisəsi barədə məlumat vermək və ya kimisə dəlil saxtalaşdırmaqda ittiham etmək kimi yüksək riskli qərar üçün bir neçə üsuldan istifadə edin və onların üst-üstə düşməsinə baxın. NIST qeyd edir ki, təşkilatlar bir neçə aşkarlama texnikasından birlikdə istifadə edə bilər və möcüzəvi həllin olmadığını bildirir ^[4].

Hansı qaydalar süni intellekt şəkillərinin etiketlənməsini tələb edir?

Avropa İttifaqında Süni İntellekt Aktının 50-ci maddəsindəki şəffaflıq öhdəlikləri 2 avqust 2026-cı ildən tətbiq olunur ^[11]. Bu qaydalara əsasən, süni intellekt sistemlərinin provayderləri audio, şəkil, video və mətn nəticələrini süni şəkildə yaradılmış kimi aşkarlana bilməsi üçün maşın tərəfindən oxunan formada işarələməli, tətbiq edənlər isə dipfeykləri etiketləməlidir; Avropa Komissiyasının təcrübə məcəlləsi bunun necə ediləcəyini müəyyən edir ^[11]. Məcəllə dipfeykləri real insanlara, əşyalara, yerlərə, qurumlara və ya hadisələrə bənzəyən və yanlış olaraq həqiqi görünə bilən şəkil, audio və ya video məzmun kimi müəyyən edir ^[11].

Məcəlləyə əməl etmək könüllüdür, lakin 50-ci maddədəki öhdəliklər hüquqi öhdəliklərdir ^[11]. Komissiyanın qrafikində yekun məcəllənin dərci 10 iyun 2026-cı il kimi göstərilir və iyul 2026-nın sonuna qədər onu təxminən 190 təşkilat imzalayıb ^[11]. Aİ həmçinin tətbiq edənlərin süni intellektlə yaradılmış məzmunu etiketləmək üçün istifadə edə biləcəyi nişanlar dəsti yaradıb ^[11]. Aİ-dən kənarda Meta-nın açıqlama qaydaları kimi platforma siyasətləri tətbiq olunur ^[10], lakin qaydalar ölkədən ölkəyə fərqlənir və tez-tez dəyişir, ona görə də 3 noyabr 2026-cı il tarixinə cari versiyanı yoxlayın.

Saxtaların aşkarlanmasında bundan sonra nə olacaq?

Tendensiya insanların səhvləri tapmasından çox, yaradılma anında fayllara daxil edilən etiketlərə doğrudur. Google Gemini-nin yoxlamasını öz ekosistemindən kənar məhsulların Content Credentials-ına da genişləndirmək planlarını elan edib ^[6], onun yardım səhifəsi artıq bu yoxlamaları təsvir edir ^[5], Aİ-nin işarələmə qaydaları isə provayderlərə şamil olunur ^[11]. Eyni zamanda NIST su nişanlarını silən və ya saxtalaşdıran («spoof» edən) hücumları təsvir edir ^[4], Washington Post-un testi isə platformaların mövcud siqnalları çox vaxt atdığını göstərib ^[8].

Qeyri-müəyyən qalanlar

• Gələn il insanlar nə qədər yaxşı nəticə göstərəcək. Microsoft müəllifləri generatorlar təkmilləşdikcə insan dəqiqliyinin düşəcəyini gözləyir ^[1].
• Platformalar etimadnamələri qoruyacaqmı. Content Credentials-da iştirak könüllüdür və Post-un testində heç bir platforma məlumatları saxlamayıb ^[8].
• Digər şirkətlərin su nişanlarının əhatəsi. 3 noyabr 2026-cı il tarixinə Gemini-nin yoxlayıcısı hələ digər şirkətlərin su nişanlarını oxuya bilmir ^[5].

Hələlik xüsusi alət tələb etməyən yoxlamalar da vacib olaraq qalır: Google ilkin mənbəni tapmaq üçün tərs şəkil axtarışını tövsiyə edir ^[5], Hany Farid isə CBS News oxucularına son dəqiqə xəbərləri üçün sosial mediaya güvənməməyi məsləhət görüb ^[12].