בקצרה
הזיה של בינה מלאכותית היא תוכן שגוי או מומצא שצ׳טבוט מציג בביטחון [1]. היא נגרמת משום שמודלי שפה חוזים טקסט סביר, ומאומנים ומוערכים בדרכים שמתגמלות ניחוש [1][2]. אי אפשר לכבות אותה, אבל ביסוס התשובות על מקורות, מתן אפשרות לומר "אני לא יודע" ובדיקה עצמאית של הטענות מפחיתים את הסיכון [7].
עיקרי הדברים
- NIST מכנה הזיות "קונפבולציה": תוכן שגוי המוצג בביטחון, שהוא תוצאה טבעית של אופן הפעולה של מודלים יוצרים [1].
- חוקרים מ-OpenAI ומג׳ורג׳יה טק טוענים שמודלים הוזים בין היתר משום שמדדי השוואה מתגמלים ניחוש על פני הודאה בחוסר ודאות [2].
- במחקר של EBU ו-BBC על יותר מ-3,000 תשובות, ב-45% מהתשובות של עוזרי בינה מלאכותית לשאלות חדשותיות הייתה לפחות בעיה משמעותית אחת [5].
- מאגר ציבורי תיעד 2,262 החלטות של בתי משפט שעסקו בתוכן שבינה מלאכותית הזתה, נכון ל-2 בנובמבר 2026 [4].
- לשאול צ׳טבוט אם התשובה שלו עצמו אמיתית אינו אימות; בפרשת Mata v. Avianca, ChatGPT התעקש שתיק מזויף קיים [3].
- טכניקות ניסוח הנחיות מפחיתות הזיות אך אינן מבטלות אותן, ולכן עובדות קריטיות עדיין דורשות בדיקה עצמאית [7].
בעמוד הזה 13 חלקים
- מה הן הזיות של בינה מלאכותית?
- למה צ׳טבוטים של בינה מלאכותית ממציאים דברים?
- באיזו תדירות צ׳טבוטים של בינה מלאכותית הוזים?
- מה קורה כשאנשים סומכים על הזיות של בינה מלאכותית?
- איך מקבלים תשובות מדויקות יותר מצ׳טבוטים של בינה מלאכותית?
- האם טכנולוגיה יכולה לזהות הזיות באופן אוטומטי?
- אילו טכניקות ניסוח הנחיות עובדות הכי טוב?
- מה היתרונות והמגבלות של שימוש בצ׳טבוטים של בינה מלאכותית לבירור עובדות?
- האם בעיית ההזיות של בינה מלאכותית תיפתר אי פעם?
- טעויות נפוצות
- שאלות נפוצות
- מילון מונחים
- מקורות
מה הן הזיות של בינה מלאכותית?
הזיה של בינה מלאכותית היא תשובה של צ׳טבוט או של מערכת בינה מלאכותית יוצרת אחרת שהיא שגויה, מומצאת או לא עקבית, ובכל זאת מוצגת כאילו הייתה נכונה. המכון הלאומי לתקנים ולטכנולוגיה של ארצות הברית (NIST) משתמש במונח קונפבולציה ומגדיר אותו כתופעה שבה מערכות בינה מלאכותית יוצרת מפיקות תוכן שגוי או כוזב ומציגות אותו בביטחון [1]. NIST כולל בכך גם פלטים שסוטים מההנחיה או סותרים אמירות קודמות של המערכת עצמה, ומציין שבשפה המדוברת הם נקראים "הזיות" או "בדיות" [1].
הדוגמאות נעות מתיקי בית משפט מומצאים עם ציטוטים מזויפים, כמו בתביעה בארצות הברית ב-2023 [3], ועד פרטים מדומיינים ועובדות מיושנות בתשובות לשאלות חדשותיות [5]. NIST מזהיר שמערכות יכולות גם להפיק היגיון או מקורות בדויים שנראים כאילו הם מצדיקים תשובה, מה שעלול לגרום לאנשים לתת בפלט יותר אמון ממה שראוי [1].
איך נמנעים מהן, בקצרה?
למה צ׳טבוטים של בינה מלאכותית ממציאים דברים?
מודלי שפה גדולים (LLM) מפיקים טקסט באמצעות חיזוי של המילים הבאות הסבירות. NIST מסביר שקונפבולציות הן תוצאה טבעית של התכנון הזה: המודלים מפיקים פלטים שמקרבים את ההתפלגות הסטטיסטית של נתוני האימון שלהם, ואלה יכולים להיות מדויקים אבל גם שגויים עובדתית או לא עקביים פנימית [1]. לדברי NIST, הבעיה רלוונטית במיוחד לתשובות פתוחות וארוכות ולשאלות שדורשות ידע מומחה [1].
למה המודלים פשוט לא אומרים "אני לא יודע"?
מאמר מ-2025 של אדם טאומן קלאי (Adam Tauman Kalai) ועמיתיו, שלושה מהם ב-OpenAI ואחד בג׳ורג׳יה טק, טוען שאין סיבה שהזיות יהיו מסתוריות: מקורן בשגיאות בסיווג בינארי [2]. אם אי אפשר להבחין בין טענות שגויות לעובדות, לחצים סטטיסטיים במהלך האימון מייצרים אותן באופן טבעי [2]. המחברים מוסיפים שההזיות נמשכות משום שרוב מדדי ההשוואה מנקדים תשובות באופן שמתגמל ניחוש בטוח על פני "אני לא יודע" כן, כך שהמודלים, במילותיהם, ממוטבים להיות נבחנים טובים [2]. התיקון שהם מציעים הוא לשנות את אופן הניקוד של מדדי ההשוואה הנפוצים [2].
למה הם נשמעים בטוחים כל כך?
ניסוח שוטף ובטוח הוא חלק ממה שהמודלים לומדים להפיק. NIST מציין שסיכונים נוצרים כשמשתמשים מאמינים לתוכן שגוי, לעיתים קרובות בגלל האופי הבטוח של התשובה [1]. לכן טון בטוח אינו ראיה לדיוק.
באיזו תדירות צ׳טבוטים של בינה מלאכותית הוזים?
אין שיעור הזיות אחד. הוא תלוי במודל, במשימה, בשפה ובאופן שבו סופרים שגיאות. מחקרים בלתי תלויים נותנים מושג על סדר הגודל במשימות מסוימות.
שאלות חדשותיות
מחקר שתיאם איגוד השידור האירופי (EBU) והובילה ה-BBC כלל 22 גופי שידור ציבורי ב-18 מדינות שעבדו ב-14 שפות [5]. עיתונאים העריכו יותר מ-3,000 תשובות של ChatGPT, Copilot, Gemini ו-Perplexity [5]. הם מצאו שב-45% מהתשובות הייתה לפחות בעיה משמעותית אחת, ב-31% היו בעיות חמורות בציון מקורות, ו-20% הכילו בעיות דיוק מהותיות, כולל פרטים מדומיינים ומידע מיושן [5]. ל-Gemini היו בעיות משמעותיות ב-76% מהתשובות שלו [5]. לדברי ה-EBU, העיוותים האלה היו עקביים בכל השפות והאזורים, וזה חשוב לקוראים שמשתמשים בבינה מלאכותית בשפות שאינן אנגלית [5].
כלים משפטיים מקצועיים
חוקרים בסטנפורד בדקו כלי מחקר משפטי מבוססי בינה מלאכותית של LexisNexis ושל Thomson Reuters, ומצאו שכל אחד מהם הזה ב-17% עד 33% מהמקרים [6]. הכלים האלה משתמשים ביצירה מועשרת באחזור (RAG), שמביאה מסמכים לפני המענה, והמחברים הסיקו שטענות הספקים על חיסול ההזיות היו מוגזמות [6].
הנתונים האלה מתארים מערכות מסוימות במועדים מסוימים; גרסאות חדשות יותר עשויות להצליח יותר או פחות. הם מראים שגם כלים מתמחים המבוססים על מסמכים עדיין טועים [6].
מה קורה כשאנשים סומכים על הזיות של בינה מלאכותית?
תיקים מזויפים בבית משפט בארצות הברית
בפרשת Mata v. Avianca, שופט פדרלי בניו יורק הטיל ב-22 ביוני 2023 סנקציות על שני עורכי דין ועל המשרד שלהם, לאחר שהגישו פסקי דין שאינם קיימים עם ציטוטים ומראי מקום מזויפים שיצר ChatGPT [3]. מאוחר יותר הודו עורכי הדין ששש מההחלטות שציטטו נוצרו על ידי ChatGPT ואינן קיימות [3]. כשאחד מעורכי הדין שאל את ChatGPT אם תיק מסוים אמיתי, הוא השיב שהתיק "אכן קיים" ושאפשר למצוא אותו ב-Westlaw וב-LexisNexis [3]. השופט פ׳ קווין קסטל (P. Kevin Castel) כתב שאין שום פסול מהותי בשימוש בכלי בינה מלאכותית אמין, אבל הכללים הקיימים מטילים על עורכי הדין תפקיד של שומרי סף שמוודאים שכתבי הטענות שלהם מדויקים, והטיל קנס של $5,000 [3].
הבעיה גדלה מאז. מאגר שמנהל החוקר דמיאן שרלוטן (Damien Charlotin) מונה החלטות של בתי משפט ושל טריבונלים שבהן נקבע שצד הסתמך על תוכן מדומיין; נכון לעדכון שלו ב-2 בנובמבר 2026, הוא זיהה 2,262 מקרים [4].
הבטחה שגויה של צ׳טבוט ללקוח
בהחלטה מ-2024 (Moffatt v. Air Canada, 2024 BCCRT 149), הטריבונל ליישוב סכסוכים אזרחיים של קולומביה הבריטית קבע ש-Air Canada אחראית למצג שווא רשלני, לאחר שהצ׳טבוט באתר של חברת התעופה רמז בטעות ללקוח שהוא יכול להגיש בקשה לתעריף שכול בדיעבד, דבר שדף אחר באתר סתר [9]. הטריבונל דחה את הטענה שיש להתייחס לצ׳טבוט כאל ישות נפרדת, וקבע שאין זה משנה אם המידע מגיע מדף סטטי או מצ׳טבוט [9].
איך מקבלים תשובות מדויקות יותר מצ׳טבוטים של בינה מלאכותית?
מדריך המפתחים של Anthropic למודלי Claude שלה מפרט טכניקות שחלות על רוב הצ׳טבוטים [7]:
- אפשרו חוסר ודאות. אמרו למודל שמותר לו לומר שהוא אינו יודע או שאין לו מספיק מידע; לדברי Anthropic, הדבר יכול להפחית באופן דרסטי מידע שגוי [7].
- בססו תשובות על ציטוטים. במסמכים ארוכים, בקשו מהמודל לחלץ קודם ציטוטים מילה במילה ואז לבסס את תשובתו רק עליהם [7].
- דרשו מקורות וחזרה מטענות. בקשו ציטוט תומך או מקור לכל טענה, ואמרו למודל להסיר כל טענה שאינו יכול לתמוך בה [7].
- הגבילו את הידע שלו. הנחו אותו להשתמש רק במסמכים שאתם מספקים ולא בידע הכללי שלו [7].
- השוו כמה תשובות. הריצו את אותה שאלה יותר מפעם אחת; חוסר עקביות בין הפלטים יכול לאותת על הזיה [7].
- שאלו שאלות בדיקה המשך. הזינו את התשובה בחזרה ובקשו מהמודל לאמת אמירות מסוימות או להרחיב עליהן [7].
בדיקות שכדאי לעשות בעצמכם
- פתחו כל מקור. ודאו שהמקור קיים ושהוא אומר את מה שהתשובה טוענת; ב-31% מהתשובות במחקר של ה-EBU היו בעיות חמורות בציון מקורות [5].
- אל תבקשו מהצ׳טבוט לערוב לעצמו. עורכי הדין בפרשת Mata v. Avianca עשו בדיוק את זה, ונאמר להם שתיק מזויף הוא אמיתי [3].
- השתמשו במקורות ראשוניים לעובדות בעלות השלכות כבדות, כמו מאגרים משפטיים רשמיים, רגולטורים או אנשי מקצוע רפואיים. NIST מציין את תחום הבריאות כתחום שבו סיכומים בדויים עלולים להוביל לאבחנות או לטיפולים שגויים [1].
- בדקו את התאריך. מידע מיושן היה בין בעיות הדיוק המהותיות שמצא ה-EBU [5].
המדריך של Anthropic עצמה מדגיש שהטכניקות האלה מפחיתות משמעותית את ההזיות אך אינן מבטלות אותן, וממליץ לאמת מידע קריטי [7].
האם טכנולוגיה יכולה לזהות הזיות באופן אוטומטי?
חוקרים בונים סימני אזהרה אוטומטיים. גישה אחת, שפרסמו ב-Nature ב-2024 סבסטיאן פרקהר (Sebastian Farquhar), יאניק קוסן (Jannik Kossen), לורנץ קון (Lorenz Kuhn) וירין גל (Yarin Gal) מאוניברסיטת אוקספורד, נקראת אנטרופיה סמנטית [8]. היא דוגמת כמה תשובות לאותה שאלה, לעיתים קרובות כחמש, מקבצת אותן לפי משמעות ומודדת עד כמה המשמעויות מפוזרות; פיזור גבוה מרמז שהמודל צפוי לענות לא נכון [8].
לשיטה יש מגבלות. לדברי מחבריה, היא לא תתפוס מקרים שבהם מודל אומן על מערכת עובדות שגויה או על סגנון הסקה שגוי, מקרים שבהם האימון אינו עובר להקשר חדש, או הטעיה מכוונת [8]. מודל שחוזר בביטחון על אותה תשובה שגויה בכל פעם ייראה עקבי. זו הסיבה שהטכניקה הפשוטה של המשתמש, לשאול פעמיים, שפועלת לפי אותו היגיון, היא רמז ולא ערובה [7][8].
יצירה מועשרת באחזור, שמאפשרת למודל לחפש מסמכים, עוזרת אבל אינה תרופה: המחקר מסטנפורד מצא שיעורי הזיות דו-ספרתיים בכלים משפטיים מבוססי RAG [6].
אילו טכניקות ניסוח הנחיות עובדות הכי טוב?
אף טכניקה אינה מושלמת, והן עובדות הכי טוב בשילוב. הטבלה שלהלן משווה בין גישות נפוצות, את מה שהן מכוונות אליו ואת המקומות שבהם הן אינן מספיקות. טכניקות שקושרות תשובות למסמכים שאתם מספקים מטפלות בשורש הבעיה, שבלעדיהן המודלים נשענים על דפוסים סטטיסטיים [1][7], ואילו בדיקות עקביות תופסות רק סוגים מסוימים של שגיאות [8].
מה היתרונות והמגבלות של שימוש בצ׳טבוטים של בינה מלאכותית לבירור עובדות?
יתרונות
- NIST מציין שחיזוי סטטיסטי יכול להפיק פלטים מדויקים ועקביים מבחינה עובדתית, ולא רק שגיאות [1].
- כשמספקים להם מסמכי מקור, המודלים יכולים לחלץ ולצטט ציטוטים מדויקים, וכך אפשר לבקר את התשובות שלהם [7].
מגבלות
- שגיאות נפוצות בחלק מהמשימות: ב-45% מהתשובות לשאלות חדשותיות הייתה בעיה משמעותית במחקר של ה-EBU [5].
- אפילו כלים משפטיים מתמחים הזו ב-17% עד 33% מהמקרים בבדיקות של סטנפורד [6].
- שגיאות עלולות להגיע עם הסברים ומקורות משכנעים אך כוזבים [1].
- האחריות נשארת אצל המשתמש או העסק: בתי משפט הטילו סנקציות על עורכי דין [3], וטריבונל קבע שחברה אחראית להצהרות של הצ׳טבוט שלה [9].
האם בעיית ההזיות של בינה מלאכותית תיפתר אי פעם?
השאלה עד כמה אפשר לצמצם הזיות נותרה פתוחה, אבל חלק מההסברים שלעיל מצביעים על סיבות שאפשר לעבוד עליהן. אם, כפי שטוענים קלאי ועמיתיו, מדדי ההשוואה מתגמלים ניחוש, שינוי אופן הניקוד שלהם עשוי לעודד מודלים להביע חוסר ודאות [2]. שיטות זיהוי כמו אנטרופיה סמנטית יכולות לסמן חלק מהשגיאות הסבירות [8]. עם זאת, NIST מתאר קונפבולציה כתוצאה טבעית של האופן שבו מודלים יוצרים מתוכננים [1], מה שמרמז ששיעור שגיאה כלשהו יישאר.
מה עדיין לא ודאי
- שיעורי השגיאה בעולם האמיתי של המודלים הנוכחיים. מחקרים שפורסמו בודקים גרסאות ומשימות מסוימות, והתוצאות משתנות עם כל השקה [5][6].
- איך בתי המשפט יתייחסו למקרים חוזרים. המאגר של שרלוטן כבר תיעד 2,262 החלטות כאלה עד 2 בנובמבר 2026, וכל החלטה חדשה מוסיפה לפסיקה [4].
- האם רפורמות במדדי ההשוואה יאומצו באופן נרחב, שינוי שהמאמר של קלאי מכנה שינוי סוציו-טכני [2].
נכון ל-3 בנובמבר 2026, ההנחה המעשית הבטוחה ביותר היא שכל צ׳טבוט יכול לטעות בקול בטוח, ושבדיקת המקור היא תפקידו של המשתמש.
| טכניקה | מה היא עושה | מגבלה |
|---|---|---|
| לאפשר "אני לא יודע" | נותנת למודל רשות להודות בחוסר ודאות [7] | אינה עוצרת שגיאות בטוחות שהמודל אינו מזהה [2][7] |
| לענות רק מתוך המסמכים שסופקו | מגבילה את המודל לחומר שאתם מספקים [7] | שגיאות עדיין אפשריות, כפי שהראו הכלים המשפטיים מבוססי RAG [6] |
| ציטוטים ישירים ומקורות | הופכת כל טענה לניתנת לביקורת ולחזרה [7] | גם המקורות עצמם עלולים להיות בדויים, ולכן פתחו אותם [1][3] |
| לשאול כמה פעמים ולהשוות | תשובות לא עקביות יכולות לאותת על הזיה [7][8] | מחמיצה שגיאות שהמודל חוזר עליהן בעקביות [8] |
| בדיקה אנושית בלתי תלויה | מאמתת עובדות מול מקורות ראשוניים | לוקחת זמן, אבל בתי משפט מצפים לה מאנשי מקצוע [3] |
טעויות נפוצות
לשאול את הצ׳טבוט אם התשובה שלו עצמו נכונה
הדרך הנכונה: אמתו מחוץ לצ׳אט; בפרשת Mata v. Avianca, ChatGPT טען שתיק מזויף קיים [3].
לסמוך על תשובה כי היא כוללת מקורות
הדרך הנכונה: פתחו כל מקור; NIST מזהיר שמערכות יכולות לבדות מקורות [1].
להניח שכלים המבוססים על מסמכים אינם יכולים להזות
הדרך הנכונה: כלים משפטיים מבוססי RAG הזו ב-17% עד 33% מהמקרים בבדיקות של סטנפורד [6].
לראות בטון בטוח סימן לדיוק
הדרך הנכונה: הצגה בטוחה היא חלק מהסיכון ש-NIST מתאר; שפטו את הראיות, לא את הטון [1].
להשתמש בתשובה של צ׳טבוט כמות שהיא להחלטות משפטיות, רפואיות או פיננסיות
הדרך הנכונה: בדקו מול מקורות ראשוניים או מול איש מקצוע מוסמך; זהו מידע כללי ולא ייעוץ מקצועי [1][3].
שאלות נפוצות
מהי הזיה של בינה מלאכותית?
זהו תוכן שגוי או מומצא שמערכת בינה מלאכותית מציגה בביטחון כנכון; NIST מכנה זאת קונפבולציה [1].
למה ChatGPT ממציא מקורות?
מודלי שפה מפיקים טקסט סביר מבחינה סטטיסטית במקום לחפש עובדות [1], וחוקרים טוענים שהאימון והניקוד מתגמלים ניחוש על פני "אני לא יודע" [2].
איזה צ׳טבוט של בינה מלאכותית הוזה הכי מעט?
הדירוגים משתנים עם כל גרסת מודל. במחקר החדשות של EBU ו-BBC, ל-Gemini היו בעיות משמעותיות ב-76% מהתשובות, יותר מפי שניים מהעוזרים האחרים שנבדקו [5], אבל זה משקף משימה אחת בנקודת זמן אחת.
האם אפשר למנוע מצ׳טבוט להזות?
לא לגמרי. מתן אפשרות לחוסר ודאות, ביסוס תשובות על ציטוטים ודרישת מקורות מפחיתים את הבעיה, אבל Anthropic מציינת שהם אינם מבטלים אותה [7].
האם חברה אחראית למה שהצ׳טבוט שלה אומר?
במקרה קנדי אחד, טריבונל קבע ש-Air Canada אחראית למידע השגוי של הצ׳טבוט שלה [9]. הכללים משתנים ממדינה למדינה; זהו מידע כללי ולא ייעוץ משפטי.
מילון מונחים
- הזיה (קונפבולציה)
- תוכן שגוי או מומצא שמערכת בינה מלאכותית יוצרת מפיקה ומציגה בביטחון [1].
- מודל שפה גדול (LLM)
- מודל בינה מלאכותית שמפיק טקסט באמצעות חיזוי המילים הבאות הסבירות על סמך דפוסים בנתוני האימון [1].
- יצירה מועשרת באחזור (RAG)
- טכניקה שבה מודל מאחזר מסמכים לפני שהוא עונה, כדי לבסס את הפלט שלו [6].
- אנטרופיה סמנטית
- מדד לעד כמה המשמעויות של כמה תשובות שנדגמו לשאלה אחת אינן מתיישבות זו עם זו, המשמש לסימון שגיאות סבירות [8].
- ביסוס (grounding)
- קשירת תשובה לטקסט מקור מסוים, למשל באמצעות חילוץ ציטוטים ישירים תחילה [7].
מקורות
- NIST AI 600-1: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile US National Institute of Standards and Technology
- Why Language Models Hallucinate Kalai, Nachum, Vempala, Zhang (arXiv) · 2025-09-04
- Mata v. Avianca, Inc., No. 22-cv-1461 (PKC), Opinion and Order on Sanctions US District Court for the Southern District of New York (via CourtListener) · 2023-06-22
- AI Hallucination Cases database Damien Charlotin; live database, last updated 2026-11-02 · 2026-11-02
- AI's systemic distortion of news is consistent across languages and territories: international study by public service broadcasters European Broadcasting Union · 2025-10-22
- Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools Magesh, Surani, Dahl, Suzgun, Manning, Ho (Stanford; arXiv) · 2024-05-30
- Reduce hallucinations Anthropic (Claude developer documentation); retrieved 2026-11-03
- Detecting hallucinations in large language models using semantic entropy Oxford Applied and Theoretical Machine Learning Group (accompanying the Nature paper) · 2024-06-19
- Moffatt v. Air Canada: A Misrepresentation by an AI Chatbot McCarthy Tetrault (Barry Sookman) · 2024-02-19
תגובות
הערות מובילות