ה-AI ציטט "סעיף 12(ב) לחוק הגנת הצרכן". מה עושים?
פותחים את החוק עצמו באתר רשמי ובודקים מה כתוב בסעיף. ציטוט עם מספר סעיף נראה אמין, וזו בדיוק הצורה שבה הזיה (הלוצינציה) מתחפשת לעובדה. מספר סעיף מדויק הוא לא הוכחה: המודל יודע איך ציטוט משפטי נראה, לא אם הוא נכון.
נוסח החוקים בישראל פתוח לכולם, בחינם: במאגר החקיקה הלאומי באתר הכנסת (הרשמי), וגם באתר נבו. חפשו את שם החוק, פתחו את הסעיף וקראו בעצמכם. 2 דקות שחוסכות טעות יקרה.
ולשאול את ה-AI "אתה בטוח?" לא מבטיח שום בדיקה. בקשו ממנו מקור עם קישור, ופתחו אותו בעצמכם.
רע: תשובה עם סעיף, ציטוט וקישור
שאלתם על ביטול עסקה, וה-AI ענה עם מספר סעיף, ציטוט שנראה מדויק וקישור. נראה כמו תשובה מצוינת. זה רע: המודל ניסח ציטוט שנראה רשמי, ואין ערובה שזה מה שכתוב בחוק. וגם לא "ה-AI בטח נכנס לאתר הכנסת ובדק".
מודל שפה משלים טקסט שנראה נכון. ציטוט משפטי עם מספר סעיף הוא תבנית שהמודל ראה אלפי פעמים, ולכן הוא מייצר אותה בקלות, גם כשהתוכן מומצא. מהתשובה עצמה אי אפשר לדעת אם הוא בדק משהו ברשת או רק ניסח יפה. וגם קישור לא מבטיח כלום: הוא עלול להוביל לדף אחר, או לשום מקום. מה שנוגע לכסף או לזכויות בודקים במקור, לא בצ'אט.
מה עושים: בודקים במקור. פתחו את החוק באתר הכנסת או בנבו, חפשו את הסעיף וקראו מה כתוב בו באמת. גם אם הצ'אט חיפש ברשת: קישור שלא מוביל לסעיף שצוטט הוא סימן אזהרה.
טוב: הסבר כללי, הפניה לנוסח הרשמי, ו"לא ייעוץ משפטי"
אותה שאלה. הפעם ה-AI הסביר בכלליות, הפנה לנוסח החוק באתר רשמי וכתב שזה לא ייעוץ משפטי. זו תשובה כנה: הסבר כללי, ואת הפרטים המחייבים בודקים במקור. היא לא "חלשה" כי אין בה מספר סעיף וציטוט, והיא לא אומרת שה-AI לא מכיר את החוק הישראלי.
זו תשובה שאפשר לעבוד איתה: היא נותנת את התמונה הכללית ואומרת בדיוק איפה לאמת. "לא ייעוץ משפטי" זו לא התחמקות, זו אזהרה במקומה. ככה נראית תשובה טובה בכל נושא של כסף, בריאות או זכויות: הסבר כללי, ואז כתובת לאימות.
מה עושים: ככה ממשיכים. פתחו את הקישור שה-AI נתן וקראו את הסעיף בעצמכם. אם מדובר בסכום משמעותי, התייעצו גם עם איש מקצוע.
איך מבקשים תשובה שקל לבדוק
"ציין מקור עם קישור לכל טענה", ואז פותחים את הקישורים.
מקור עם קישור הופך תשובה למשהו שאפשר לאמת, אבל רק אם פתחתם אותו. גם קישורים לפעמים מומצאים, או מובילים לדף שלא אומר את מה שנטען. הוסיפו גם: "אם אתה לא בטוח, תכתוב שאתה לא יודע". לפי המדריכים של החברות עצמן, זה מצמצם הזיות, אם כי לא מעלים אותן.
מה לא עוזר: "תענה רק אם אתה בטוח ב-100% שהתשובה נכונה". הביטחון שהוא מביע לא מעיד על דיוק: גם תשובה שגויה לגמרי יוצאת ממנו באותו טון בטוח. וגם "אל תמציא, תכתוב רק דברים שאתה יודע בוודאות" לא פותר את זה לבד: הוא לא ממציא בכוונה, אז האיסור לבדו לא עוזר. מה שעוזר יותר הוא להרשות לו לכתוב "אני לא יודע".
מה אסור להדביק לצ'אט
אתם צריכים לכתוב מכתב ללקוחה, אז הדבקתם לצ'אט את כל הפרטים שלה מהמערכת: שם מלא, מספר תעודת זהות, מספר כרטיס אשראי ופרט רפואי. זה רע. פרטים מזהים ורפואיים של אדם אחר נשלחו לשירות חיצוני. הבעיה היא לא ש"ההודעה ארוכה מדי".
מה שאתם מדביקים עובר לשרתים של החברה שמפעילה את הצ'אט. ברוב האפליקציות השיחות יכולות להישמר, להיקרא על ידי אנשים או לשמש לאימון, תלוי בהגדרות. הצ'אט הוא לא "פרטי בדיוק כמו קובץ במחשב שלכם". ת"ז, מספר כרטיס ומידע רפואי של לקוחה הם המידע שלה, לא שלכם, ואין לכם רשות להעביר אותו הלאה. למכתב טוב מספיק: "לקוחה, מוצר שהגיע פגום, החזר כספי".
מה עושים: מוחקים פרטים מזהים. מחקו את השם, מספר הת"ז, מספר הכרטיס והפרט הרפואי. כתבו "הלקוחה", ואת השם תוסיפו בעצמכם אחרי שהמכתב מוכן.
אז מה כן בטוח להדביק?
תיאור כללי של המקרה, בלי שמות, מספרי זיהוי או פרטים רפואיים. כלל אצבע: מה שלא הייתם שולחים במייל לאדם זר, לא מדביקים. בטוח: טקסט כללי, ניסוחים, רעיונות, מידע שכבר פומבי ממילא. לא: ת"ז, מספרי כרטיס, סיסמאות, מידע רפואי או כספי, ובמיוחד פרטים של אנשים אחרים שלא הסכימו. בעבודה, בדקו גם מה המדיניות של הארגון שלכם.
שתי טעויות נפוצות: "הכול חוץ מסיסמאות, הן הדבר היחיד שבאמת מסוכן". סיסמאות הן רק ההתחלה. ו"הכול, בתנאי שמוחקים את השיחה מיד אחרי שמקבלים תשובה". מה שנשלח, נשלח: מחיקה אצלכם לא בהכרח מוחקת מיד אצל החברה שמפעילה את הצ'אט.
התעקשתם, וה-AI "הסכים" איתכם. מה זה אומר?
לא הרבה. מודלים נוטים ללכת עם המשתמש, גם כשהוא טועה. לתופעה קוראים חנפנות (באנגלית: sycophancy). מחקר מ-2023 מצא שעוזרי AI מובילים נוטים להתאים את התשובות לדעת המשתמש, ולפעמים נוטשים תשובה נכונה כשמתווכחים איתם.
ההסכמה לבדה לא מעידה על בדיקה: לעיתים קרובות השינוי בא מהלחץ שלכם, לא ממידע חדש. ואי אפשר גם להסיק שהתשובה הראשונה הייתה הזיה והשנייה היא הנכונה: גם תשובה נכונה ננטשת לפעמים כשמתעקשים עליה. לכן "אתה בטוח?" לא מאמת כלום. רוצים לדעת באמת? מקור חיצוני, או אותה שאלה בשיחה חדשה, בלי לרמוז מה אתם חושבים.
מה קרה לעורכי הדין בניו יורק
ב-2023 הטיל בית משפט בניו יורק קנס משותף של 5,000 דולר על שני עורכי דין ומשרדם. הם הגישו כתב טענות עם 6 פסקי דין שלא היו ולא נבראו: ChatGPT המציא אותם, עם ציטוטים ושמות שופטים אמיתיים. השופט כתב שאין פסול בשימוש ב-AI אמין, אבל האחריות לבדוק היא של עורך הדין.
הסימן שהכי צריך להחשיד אתכם
שמות, מספרים וציטוטים מדויקים מאוד, בלי מקור שאפשר לפתוח. כבר ראיתם את זה: מספר טלפון עם קידומת ושעות, סעיף חוק עם ציטוט, 6 פסקי דין עם שמות שופטים. פרטים הם הדבר שהכי קל למודל לייצר, כי זו התבנית שלמד, ולכן הם לא מעידים על ידע.
אורך לא קשור לאמינות: דווקא תשובה ארוכה ושוטפת יכולה להיות מומצאת כולה, ותשובה קצרה היא לא סימן שמישהו "לא באמת יודע". וטון בטוח ומשכנע לא אומר כלום: המודל כותב כמעט תמיד באותו ביטחון, כשהוא צודק וכשהוא טועה. המבחן הוא אחד: האם יש מקור שאפשר לפתוח ולראות בו את הפרט. אין? מתייחסים לתשובה כאל טיוטה, לא כאל עובדה.