Süni intellekt halüsinasiyaları: çat-botlar niyə uydurur və dəqiq cavabı necə almaq olar

Süni intellekt halüsinasiyaları nədir?

Süni intellekt halüsinasiyası çat-botun və ya digər generativ süni intellekt sisteminin yanlış, uydurulmuş və ya ziddiyyətli olan, lakin həqiqət kimi təqdim edilən cavabıdır. ABŞ Milli Standartlar və Texnologiya İnstitutu (NIST) konfabulyasiya terminindən istifadə edir və onu generativ süni intellekt sistemlərinin səhv və ya yanlış məzmun yaratdığı və inamla təqdim etdiyi hadisə kimi müəyyən edir ^[1]. NIST buraya sorğudan uzaqlaşan və ya sistemin öz əvvəlki ifadələrinə zidd olan nəticələri də daxil edir və qeyd edir ki, danışıq dilində bunlar «halüsinasiyalar» və ya «uydurmalar» adlanır ^[1].

Nümunələr 2023-cü ildə ABŞ-da baxılmış iddiada olduğu kimi saxta sitatları olan uydurma məhkəmə işlərindən ^[3] tutmuş xəbərlərlə bağlı cavablardakı uydurulmuş detallara və köhnəlmiş faktlara qədər müxtəlifdir ^[5]. NIST xəbərdarlıq edir ki, sistemlər cavabı əsaslandırırmış kimi görünən uydurma məntiq və ya istinadlar da yarada bilər və bu, insanların nəticəyə lazım olduğundan çox etibar etməsinə səbəb ola bilər ^[1].

Qısaca, onlardan necə qaçmaq olar?

1. Çat-bota mənbə materialını verin və ondan yalnız həmin material əsasında cavab verməsini istəyin ^[7].
2. Ona açıq şəkildə «bilmirəm» deməyə icazə verin ^[7].
3. Hər iddia üçün birbaşa sitat və istinad istəyin, sonra mənbələri özünüz açın ^[7].
4. Vacib olan hər şeyi müstəqil, nüfuzlu mənbə ilə yoxlayın, çünki heç bir üsul problemi tamamilə aradan qaldırmır ^[7].

Süni intellekt çat-botları niyə uydurur?

Böyük dil modelləri (LLM) ehtimal olunan növbəti sözləri proqnozlaşdıraraq mətn yaradır. NIST izah edir ki, konfabulyasiyalar bu dizaynın təbii nəticəsidir: modellər öyrədilmə məlumatlarının statistik paylanmasına yaxın nəticələr yaradır; bu nəticələr dəqiq ola bilər, lakin faktiki baxımdan yanlış və ya daxilən ziddiyyətli də ola bilər ^[1]. NIST bildirir ki, problem xüsusilə açıq uclu, uzun cavablar və ixtisaslaşmış bilik tələb edən suallar üçün aktualdır ^[1].

Modellər niyə sadəcə «bilmirəm» demir?

Adam Tauman Kalai və həmkarlarının (onlardan üçü OpenAI-da, biri Georgia Tech-dədir) 2025-ci il məqaləsi iddia edir ki, halüsinasiyalar sirli olmamalıdır: onlar ikili təsnifatdakı səhvlər kimi yaranır ^[2]. Əgər yanlış ifadələri faktlardan ayırmaq mümkün deyilsə, öyrədilmə zamanı statistik təzyiqlər onları təbii şəkildə yaradır ^[2]. Müəlliflər əlavə edir ki, halüsinasiyalar ona görə davam edir ki, benchmark-ların çoxu cavabları inamlı təxmini səmimi «bilmirəm»dən üstün tutacaq şəkildə qiymətləndirir, ona görə də modellər, onların sözləri ilə desək, yaxşı imtahan verən olmaq üçün optimallaşdırılır ^[2]. Onların təklif etdiyi həll geniş istifadə olunan benchmark-ların qiymətləndirilmə qaydasını dəyişməkdir ^[2].

Niyə onlar bu qədər əmin səslənir?

Rəvan, inamlı ifadə modellərin yaratmağı öyrəndiyi şeyin bir hissəsidir. NIST qeyd edir ki, risklər istifadəçilər yanlış məzmuna inandıqda yaranır və bu, çox vaxt cavabın inamlı xarakteri ilə bağlıdır ^[1]. Buna görə də tondakı əminlik dəqiqliyin sübutu deyil.

Süni intellekt çat-botları nə qədər tez-tez halüsinasiya edir?

Vahid halüsinasiya dərəcəsi yoxdur. O, modeldən, tapşırıqdan, dildən və səhvlərin necə hesablandığından asılıdır. Müstəqil tədqiqatlar konkret tapşırıqlar üçün miqyas barədə təsəvvür yaradır.

Xəbər sualları

Avropa Yayım İttifaqının (EBU) koordinasiya etdiyi və BBC-nin rəhbərlik etdiyi tədqiqatda 18 ölkədən 14 dildə işləyən 22 ictimai media təşkilatı iştirak edib ^[5]. Jurnalistlər ChatGPT, Copilot, Gemini və Perplexity-nin 3,000-dən çox cavabını qiymətləndiriblər ^[5]. Onlar müəyyən ediblər ki, cavabların 45%-ində ən azı bir ciddi problem, 31%-ində ciddi mənbə problemləri olub, 20%-ində isə uydurulmuş detallar və köhnəlmiş məlumatlar daxil olmaqla böyük dəqiqlik problemləri olub ^[5]. Gemini-nin cavablarının 76%-ində ciddi problemlər aşkarlanıb ^[5]. EBU bildirir ki, bu təhriflər dillər və ərazilər üzrə eyni olub; bu, süni intellektdən ingilis dilindən başqa dillərdə istifadə edən oxucular üçün vacibdir ^[5].

Peşəkar hüquqi alətlər

Stanford tədqiqatçıları LexisNexis və Thomson Reuters şirkətlərinin süni intellekt əsaslı hüquqi araşdırma alətlərini sınaqdan keçirib və onların hər birinin halların 17%-dən 33%-ə qədərində halüsinasiya etdiyini müəyyən ediblər ^[6]. Bu alətlər cavab verməzdən əvvəl sənədləri tapan axtarışla gücləndirilmiş generasiyadan (RAG) istifadə edir və müəlliflər provayderlərin halüsinasiyaları aradan qaldırdıqları barədə iddialarının şişirdildiyi qənaətinə gəliblər ^[6].

Bu rəqəmlər müəyyən tarixlərdə konkret sistemləri təsvir edir; daha yeni versiyalar daha yaxşı və ya daha pis nəticə göstərə bilər. Onlar göstərir ki, hətta sənədlərə əsaslanan ixtisaslaşmış alətlər də səhvlərə yol verir ^[6].

İnsanlar süni intellekt halüsinasiyalarına etibar etdikdə nə baş verir?

ABŞ məhkəməsində saxta işlər

Mata v. Avianca işində Nyu-Yorkdakı federal hakim 22 iyun 2023-cü ildə iki vəkilə və onların hüquq firmasına sanksiya tətbiq edib; onlar ChatGPT-nin yaratdığı saxta sitat və istinadlarla mövcud olmayan məhkəmə qərarları təqdim etmişdilər ^[3]. Vəkillər sonradan istinad etdikləri qərarlardan altısının ChatGPT tərəfindən yaradıldığını və mövcud olmadığını etiraf ediblər ^[3]. Vəkillərdən biri ChatGPT-dən işin real olub-olmadığını soruşduqda, o, işin «həqiqətən mövcud olduğunu» və Westlaw və LexisNexis-də tapıla biləcəyini cavab verib ^[3]. Hakim P. Kevin Castel yazıb ki, etibarlı süni intellekt alətindən istifadədə mahiyyət etibarilə yolverilməz heç nə yoxdur, lakin mövcud qaydalar vəkillərə təqdim etdikləri sənədlərin dəqiqliyini təmin etmək üçün nəzarətçi rolu verir; o, $5,000 məbləğində cərimə tətbiq edib ^[3].

Problem o vaxtdan bəri böyüyüb. Tədqiqatçı Damien Charlotin-in apardığı məlumat bazası tərəflərdən birinin halüsinasiya edilmiş məzmuna istinad etdiyi müəyyən edilmiş məhkəmə və tribunal qərarlarını siyahıya alır; 2 noyabr 2026-cı il tarixli yeniləməyə görə, o, 2,262 belə iş müəyyən edib ^[4].

Çat-botun müştəriyə verdiyi yanlış vəd

2024-cü il qərarında (Moffatt v. Air Canada, 2024 BCCRT 149) Britaniya Kolumbiyasının Mülki Mübahisələr Tribunalı aviaşirkətin vebsaytındakı çat-botun müştəriyə yas tarifi üçün geriyə qüvvəli müraciət edə biləcəyini səhvən bildirməsindən sonra Air Canada-nı ehtiyatsız yanlış məlumat verməyə görə məsuliyyətli tanıyıb; vebsaytın başqa səhifəsi bununla ziddiyyət təşkil edirdi ^[9]. Tribunal çat-bota ayrıca subyekt kimi yanaşılmalı olduğu arqumentini rədd edib və məlumatın statik səhifədən, yoxsa çat-botdan gəlməsinin heç bir fərq yaratmadığını bildirib ^[9].

Süni intellekt çat-botlarından daha dəqiq cavabları necə almaq olar?

Anthropic-in Claude modelləri üçün tərtibatçı bələdçisi əksər çat-botlara aid olan üsulları təsvir edir ^[7]:

1. Qeyri-müəyyənliyə icazə verin. Modelə bilmədiyini və ya kifayət qədər məlumatı olmadığını deyə biləcəyini bildirin; Anthropic-ə görə, bu, yanlış məlumatı kəskin şəkildə azalda bilər ^[7].
2. Cavabları sitatlara əsaslandırın. Uzun sənədlər üçün modeldən əvvəlcə sözbəsöz sitatlar çıxarmasını, sonra isə cavabını yalnız onlara əsaslandırmasını istəyin ^[7].
3. İstinad və geri götürmə tələb edin. Hər iddia üçün dəstəkləyici sitat və ya mənbə istəyin və modelə əsaslandıra bilmədiyi istənilən iddianı silməsini deyin ^[7].
4. Onun biliyini məhdudlaşdırın. Ona ümumi biliyindən deyil, yalnız sizin təqdim etdiyiniz sənədlərdən istifadə etməyi tapşırın ^[7].
5. Bir neçə cavabı müqayisə edin. Eyni sualı bir neçə dəfə verin; cavablar arasındakı uyğunsuzluqlar halüsinasiyadan xəbər verə bilər ^[7].
6. Əlavə yoxlama sualları verin. Cavabı geri verin və modeldən konkret ifadələri yoxlamasını və ya genişləndirməsini istəyin ^[7].

Özünüzün etməli olduğunuz yoxlamalar

• Hər istinadı açın. Mənbənin mövcud olduğunu və cavabda iddia edilən şeyi dediyini təsdiqləyin; EBU tədqiqatında cavabların 31%-ində ciddi mənbə problemləri olub ^[5].
• Çat-botdan özünə zəmanət verməsini istəməyin. Mata v. Avianca işindəki vəkillər məhz bunu ediblər və onlara saxta işin real olduğu deyilib ^[3].
• Yüksək riskli faktlar üçün ilkin mənbələrdən istifadə edin, məsələn, rəsmi hüquqi məlumat bazalarından, tənzimləyici qurumlardan və ya tibb mütəxəssislərindən. NIST səhiyyəni uydurma xülasələrin yanlış diaqnoz və ya müalicəyə səbəb ola biləcəyi sahə kimi qeyd edir ^[1].
• Tarixi yoxlayın. Köhnəlmiş məlumat EBU-nun aşkarladığı böyük dəqiqlik problemləri arasında olub ^[5].

Anthropic-in öz bələdçisi vurğulayır ki, bu üsullar halüsinasiyaları əhəmiyyətli dərəcədə azaldır, lakin aradan qaldırmır və kritik məlumatı yoxlamağı məsləhət görür ^[7].

Texnologiya halüsinasiyaları avtomatik aşkarlaya bilərmi?

Tədqiqatçılar avtomatik xəbərdarlıq siqnalları yaradır. Oksford Universitetindən Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn və Yarin Gal tərəfindən 2024-cü ildə Nature jurnalında dərc olunmuş yanaşmalardan biri semantik entropiya adlanır ^[8]. O, eyni suala bir neçə, adətən təxminən beş cavab seçir, onları mənaya görə qruplaşdırır və bu mənaların nə qədər səpələndiyini ölçür; yüksək səpələnmə modelin çox güman ki, səhv cavab verəcəyini göstərir ^[8].

Metodun məhdudiyyətləri var. Müəlliflər bildirir ki, o, modelin yanlış faktlar toplusu və ya mühakimə üslubu ilə öyrədildiyi halları, öyrədilmənin yeni kontekstə keçmədiyi halları və ya qəsdən aldatmanı aşkarlamayacaq ^[8]. Hər dəfə eyni yanlış cavabı inamla təkrarlayan model ardıcıl görünəcək. Məhz buna görə eyni məntiqə əsaslanan sadə istifadəçi üsulu, yəni sualı iki dəfə vermək, zəmanət deyil, işarədir ^[7][8].

Modelə sənədləri axtarmağa imkan verən axtarışla gücləndirilmiş generasiya kömək edir, lakin çarə deyil: Stanford tədqiqatı RAG əsaslı hüquqi alətlərdə iki rəqəmli halüsinasiya dərəcələri aşkarlayıb ^[6].

Hansı prompt yazma üsulları ən yaxşı işləyir?

Heç bir üsul mükəmməl deyil və onlar birlikdə daha yaxşı işləyir. Aşağıdakı cədvəl geniş yayılmış yanaşmaları, onların nəyi hədəflədiyini və harada çatışmadığını müqayisə edir. Cavabları sizin təqdim etdiyiniz sənədlərə bağlayan üsullar modellərin əks halda statistik qanunauyğunluqlara güvənməsi kimi əsas problemi həll edir ^[1][7], ardıcıllıq yoxlamaları isə səhvlərin yalnız bəzi növlərini tutur ^[8].

Faktlar üçün süni intellekt çat-botlarından istifadənin üstünlükləri və məhdudiyyətləri nələrdir?

Üstünlüklər

• NIST qeyd edir ki, statistik proqnozlaşdırma yalnız səhvlər deyil, faktiki baxımdan dəqiq və ardıcıl nəticələr də yarada bilər ^[1].
• Mənbə sənədləri verildikdə modellər dəqiq sitatları çıxarıb istinad edə bilir və bu, onların cavablarını yoxlanıla bilən edir ^[7].

Məhdudiyyətlər

• Bəzi tapşırıqlarda səhvlər geniş yayılıb: EBU tədqiqatında xəbər cavablarının 45%-ində ciddi problem olub ^[5].
• Stanford testlərində hətta ixtisaslaşmış hüquqi alətlər də halların 17%-dən 33%-ə qədərində halüsinasiya edib ^[6].
• Səhvlər inandırıcı, lakin yanlış izahlar və istinadlarla müşayiət oluna bilər ^[1].
• Məsuliyyət istifadəçidə və ya biznesdə qalır: məhkəmələr vəkillərə sanksiya tətbiq edib ^[3], tribunal isə şirkəti çat-botunun ifadələrinə görə məsuliyyətli tanıyıb ^[9].

Süni intellekt halüsinasiyaları nə vaxtsa həll olunacaqmı?

Halüsinasiyaları nə qədər azaltmağın mümkün olduğu açıq sualdır, lakin yuxarıdakı izahların bəziləri üzərində işləmək mümkün olan səbəblərə işarə edir. Kalai və həmkarlarının iddia etdiyi kimi, əgər benchmark-lar təxmin etməyi mükafatlandırırsa, onların qiymətləndirilmə qaydasını dəyişmək modelləri qeyri-müəyyənliyi ifadə etməyə təşviq edə bilər ^[2]. Semantik entropiya kimi aşkarlama üsulları ehtimal olunan bəzi səhvləri işarələyə bilir ^[8]. Lakin NIST konfabulyasiyanı generativ modellərin dizayn üsulunun təbii nəticəsi kimi təsvir edir ^[1] və bu, müəyyən səhv dərəcəsinin qalacağını göstərir.

Hələ qeyri-müəyyən olanlar

• Cari modellərin real dünyadakı səhv dərəcələri. Dərc olunmuş tədqiqatlar konkret versiyaları və tapşırıqları sınaqdan keçirir və nəticələr hər buraxılışla dəyişir ^[5][6].
• Məhkəmələr təkrarlanan işlərə necə yanaşacaq. Charlotin-in məlumat bazası 2 noyabr 2026-cı ilə qədər artıq 2,262 belə qərarı qeydə alıb və hər yenisi məhkəmə təcrübəsini zənginləşdirir ^[4].
• Benchmark islahatları geniş qəbul ediləcəkmi; Kalai məqaləsi bunu sosial-texniki dəyişiklik adlandırır ^[2].

3 noyabr 2026-cı il tarixinə ən təhlükəsiz iş fərziyyəsi budur: istənilən çat-bot inamlı səslə yanıla bilər və mənbəni yoxlamaq istifadəçinin işidir.