מודלים מנטליים של עוזרים אישיים, ומה השתנה בזמן האחרון

עודכן באוקטובר 2026. הגרסה המקורית פורסמה בפברואר 2019.

בפברואר 2019 כתבתי כאן על האופן שבו משתמשים תופסים "עוזרים אישיים": סירי, אלקסה והעוזר של גוגל. מאז העוזרים הקוליים פינו את קדמת הבמה לצ'אטבוטים של בינה מלאכותית יוצרת (Generative AI), ובעולם ה-AI בכלל הקצב עלה והכל נהיה יותר חכם. זה ברור! מה שלא לגמרי ברור זה איך השינויים האלה משפיעים עלינו ועל הדרך בה אנחנו משתמשים בטכנולוגיה, עובדים איתה ותופסים אותה. נתחיל במה שידענו אז, נראה מה מהדברים שכתבתי עדיין מחזיק ותיכף נגיע לעכשיו.

מה זה מודל מנטלי, בקצרה

מודל מנטלי הוא תמונת העולם הפנימית והסובייקטיבית שיש למשתמש ביחס למערכת שהוא מפעיל. אנחנו יודעים שכשלוחצים על דוושת התאוצה הרכב מאיץ, וכשלוחצים על הבלם הוא מאט. אין לנו אפשרות, ובדרך כלל גם לא רצון, להחזיק ידע מסודר ו"אמיתי" על כל מה שקורה ברכב בדרך לשם. ההבנה המפושטת הזאת היא המודל המנטלי שלנו ביחס לרכב, והראש שלנו מלא במודלים כאלה לגבי כל מוצר ושירות שאנחנו משתמשים בהם. הרחבתי על המושג בפוסט נפרד.

מי שמפתח מוצר AI לא מתחיל מאפס. לקהל היעד כבר יש מודל כזה, כי הוא כבר התנסה במוצרים דומים.

מה ידענו ב‑2019

בקבוצת המחקר Nielsen Norman Group בדקו אז, במחקר יומן של שבועיים, איך משתמשים תופסים את העוזרים הדיגיטליים. הם מצאו שלושה מודלים:

• ממשק ל"משהו אחר": לאינטרנט, לספר הטלפונים, לוויקיפדיה, לאמזון.
• עוזר שימושי: מין סוכן אישי שעושה דברים במקומך ומפשט לך את החיים.
• מחסן של ידע: חכם יותר מאנשים, יודע דברים, או בעל גישה להרבה מאוד מידע.

המשתמשים גם התלוננו. העוזרים התקשו להבין שאלות, דרשו ניסוח מאוד ספציפי בלי שום עמימות, לא תמיד ענו נכון, התקשו בהוראות מורכבות בכמה שלבים ובניהול שיחה, ולא הסבירו למשתמשים איך להפעיל אותם.

מה השתנה: שתי שאלות חדשות

שלושת המודלים מ‑2019 עסקו כולם באותו עניין: איך המשתמש מגדיר לעצמו את העוזר. שער לאינטרנט, עוזר אישי או מאגר ידע. מחקרים מהשנים האחרונות מראים שמשתמשים של צ'אטבוטים מתלבטים בעוד שני עניינים, שכמעט לא עלו אז: לאן הולך המידע שלהם, ואיך בכלל מדברים עם הדבר הזה. כדאי לזכור שאלה מחקרים איכותניים קטנים: הם מזהים דפוסים, ולא מודדים עד כמה הם נפוצים.

לאן הולך המידע שלי?

צוות חוקרים מווירג'יניה טק ומאוניברסיטת מרילנד ראיין 21 משתמשים אחרי שהזמינו מלון בשתי דרכים: דרך ChatGPT עם התוסף של Expedia, ודרך Gemini עם Google Hotels. כל משתתף התבקש לשרטט לאן, לדעתו, עוברים הפרטים שמסר. מהשרטוטים עלו ארבעה מודלים מנטליים.

המודלים נבדלים זה מזה בשני דברים: מי מעורב בטיפול במידע, לתפיסת המשתמש, ועד כמה הוא סומך על הבוט. בשלושת הראשונים המידע עובר דרך החברה שמאחורי הבוט (גוגל, במקרה של Gemini). רק ברביעי הוא הולך ישר לשירות ההזמנות, כלומר ל-Google Hotels או ל-Expedia.

מודל	מה המשתמש מדמיין שקורה	מי מעורב, לתפיסתו	האמון בבוט
הבוט כמבצע (Key Player)	הבוט עצמו מטפל בהזמנה, באופן ישיר ופעיל. הוא מעביר את הפרטים שלי לחברה שמאחוריו, מקבל ממנה נתונים, וחוזר אליי כדי לסגור את ההזמנה.	אני, הבוט, החברה שמאחוריו	נפרד מהאמון בחברה. מי שסומך על גוגל לא בהכרח סומך על Gemini.
הבוט כחלון (Medium)	הבוט מסייע רק בעקיפין: הוא מעביר את הפרטים שלי לחברה שמאחוריו. החברה היא שעושה את העבודה ומשלימה את ההזמנה מול שירות ההזמנות.	אני, הבוט, החברה, שירות ההזמנות	נגזר מהאמון בחברה, אף שהבוט והחברה נתפסים כשני גורמים נפרדים.
הבוט כחברה עצמה (Representation)	אין הבדל בין הבוט לחברה. ההזמנה היא חילופי מידע ביני לבין החברה, וכל מה שאני מוסר לבוט נמסר לה.	אני, החברה (שהיא גם הבוט), ולפעמים שירות ההזמנות	זהה לאמון בחברה, לטוב ולרע.
הבוט כשליח (Agent)	הבוט פועל בשמי ומעביר את הפרטים ישירות לשירות ההזמנות, שמשלים את ההזמנה.	אני, הבוט, שירות ההזמנות	החברה שמאחורי הבוט בכלל לא בתמונה.

שניים מהמודלים האלה מוכרים מ‑2019. "הבוט כחלון" הוא גלגול של "ממשק למשהו אחר", ו"הבוט כשליח" הוא גלגול של "עוזר שעושה דברים במקומך". מה שהתחדש הוא שהמודל קובע עכשיו גם כמה המשתמש חושש לפרטיות שלו.

הממצא המעניין: 20 מתוך 21 המשתתפים הביעו חשש פרטיות כלפי Gemini, ואילו 16 מתוך 21 לא הביעו חשש כלפי ChatGPT. ההסבר של החוקרים הוא שהסמל של Expedia בממשק של ChatGPT הבהיר לכולם לאן המידע הולך, וכל המשתתפים החזיקו שם באותו מודל פשוט, "הבוט כשליח". גם ב-Gemini הופיע סמל, של Google Hotels, אבל רוב המשתתפים לא שמו לב אליו, כי ראו בו חלק מגוגל, כך שהם התפזרו בין כל ארבעת המודלים. אחד מהם תיאר את זה כמידע ש"נכנס לקופסה שחורה".

במילים אחרות, השילוב ההדוק, שנראה על הנייר כמו יתרון, הוא מה שעורר את החשד. המשתמשים סמכו יותר על המערכת שהראתה להם מי מעורב בטיפול בבקשה.

איך מדברים איתו?

אחת התלונות מ‑2019 הייתה שהעוזרים מתקשים לנהל שיחה. הבעיה הזו נפתרה מבחינה טכנית, אבל מחקר של NN/g מ‑2023, עם שמונה משתתפים שעבדו עם ChatGPT 3.5, מראה שהשיחה עדיין מייגעת, רק מסיבה אחרת. כשהמשימה דורשת כמה סבבי תיקון, הממשק השיחתי מפסיק להיות קל. החוקרים נתנו שמות לשני דפוסים:

• עריכת אקורדיון: המשתמש מבקש מהבוט לקצר, ואז להרחיב, ושוב לקצר, עד שהוא מגיע לאורך ולרמת הפירוט שרצה.
• "קטיף" סלקטיבי: המשתמש גולל אחורה בשיחה, דולה משפטים ורעיונות מתשובות קודמות, ומדביק אותם בבקשה הבאה. זה מעמיס על זיכרון העבודה, כי השיחה היא חומת טקסט אחת ארוכה.

בסוף, רוב המשתתפים העתיקו את הטקסט וסיימו לערוך אותו מחוץ לצ'אט. מאז חלק מהמוצרים הוסיפו אזור עריכה לצד השיחה, ברוח מה שהחוקרים המליצו עליו (כמו למשל תכונת Artifacts של Claude.ai באפליקציות הדסקטופ).

תלונה אחרת מ‑2019 הייתה שצריך לדבר עם העוזרים בצורה מאוד ספציפית. גם היא לא נעלמה, אלא החליפה צורה. במחקר נוסף של NN/g החוקרים מתארים ארבע דרגות שבהן משתמשים מתייחסים לבוט כאל אדם:

• נימוס: "בבקשה", "תודה", "בוקר טוב".
• חיזוק: שבחים כשהתשובה טובה ונזיפה כשהיא לא, מתוך אמונה שזה ישפר את התשובות הבאות.
• משחק תפקידים: "פעל כמנהל פרויקטים בכיר". החוקרים קוראים לזה "סקיאומורפיזם של פרומפטים": כמו שממשקים גרפיים מוקדמים נשענו על פח אשפה ותיקיות, המשתמשים נשענים על תפקיד אנושי מוכר כדי להסביר לבוט מה הם רוצים.
• חברוּת: הדרגה החזקה ביותר, שבה המשתמש רואה בבוט שותף לשיחה ונשען עליו רגשית.

כאן נסגר מעגל עם המודל השלישי מ‑2019, "מחסן של ידע, חכם יותר מאנשים". מי שתופס את המערכת כישות שיודעת, מדבר אליה כמו אל מישהו ולא כמו אל משהו.

והתלונה האחרונה, שהעוזרים לא מסבירים איך להפעיל אותם, נשארה כמעט כמו שהייתה. לפי החוקרים, בזמן המחקר OpenAI לא פרסמה הנחיות לכתיבת פרומפטים, והמשתמשים למדו משמועות ומניסיון אישי.

מה עושים עם זה

אם אתם מפתחים מוצר AI, או מוסיפים יכולת כזו למוצר קיים:

• הראו לאן המידע הולך. במחקר, מה שהבדיל בין אמון לחשד היה אם המשתמשים הבינו מי מטפל במידע שלהם. סמל לבדו לא מספיק: צריך שיהיה ברור שמדובר בגורם נפרד, ומי הוא.
• תנו לערוך, לא רק לשוחח. עריכה ישירה בתוך התשובה, חלוקה של תשובה ארוכה לחלקים, ואפשרות להצביע על קטע במקום לתאר אותו במילים.
• נסו לתת למשתמשים מושג על מה שהמוצר יודע לעשות. כשאין הסבר כזה המשתמשים ממלאים את החסר בניחושים, והאנשה היא אחד מהם.
• בדקו את המוצר במשימות ריאליות, עם נבדקים דומים ככל האפשר לקהל היעד. זו הייתה העצה הראשונה שלי ב‑2019, והיא לא השתנתה.

וגם העצה השנייה מאז עדיין בתוקף. אם אתם חושפים את קהל היעד למוצר שהביצועים שלו לא מספיק טובים, הוא עלול לגבש דעה שיהיה קשה מאוד לשנות בהמשך. מי שהתייאש, קשה מאוד להחזיר אותו להתנסות נוספת, גם כשהמוצר כבר השתפר.

מקורות

• המחקר המקורי מ‑2019: Raluca Budiu, ‏Mental Models for Intelligent Assistants, ‏NN/g, פברואר 2019.
• מחקר זרימת המידע: Xingyi Wang, Xiaozheng Wang, Sunyup Park, Yaxing Yao, ‏Users' Mental Models of Generative AI Chatbot Ecosystems, ‏arXiv, ינואר 2025.
• מחקר האקורדיון: Sarah Gibbons, Tarun Mugunthan, Jakob Nielsen, ‏Accordion Editing and Apple Picking: Early Generative-AI User Behaviors, ‏NN/g, ספטמבר 2023.
• מחקר ההאנשה: Sarah Gibbons, Tarun Mugunthan, Jakob Nielsen, ‏The 4 Degrees of Anthropomorphism of Generative AI, ‏NN/g, אוקטובר 2023.

מסתבר שגם אצל סירי החזות קודמת לקול

בניגוד לדעה הרווחת, לפיה בזכות ההתקדמות הטכנולוגית, לא ירחק היום שבו נוכל לשוחח בטבעיות עם מחשבים ומערכות בינה מלאכותיות  - המציאות מוכיחה שאנחנו אפילו לא קרובים לזה!  נכון לעכשיו אנחנו עוד לא באמת יכולים לשוחח ברצינות עם המחשבים שלנו.

ממשקי השיחה המשוכללים ביותר, שכבר נגישים לצרכנים, הם העוזרים האישיים הדיגיטליים, דוגמת סירי של אפל, אלקסה של אמזון והעוזר של גוגל (OK Google). בפועל המוצרים הללו די מוגבלים מבחינת היכולת שלהם לפענח את הכוונה של המשתמשים ומבחינת היכולת שלהם להגיש למשתמשים את המידע באופן יעיל. במאמר שפורסם ביולי 2018 באתר של חברת היעוץ והמחקר Nielsen Norman Group מתארים הכותבים סידרה של מבחני שמישות, שהם ערכו לעוזרים הדיגיטליים.  מסתבר שהמוצרים הללו עדיין מתקשים מאוד לנהל שיחה טבעית ולזהות את מצב העניינים. לפעמים נדמה כאילו הם ממשיכים לדבר ולהגיש את התוצאות לנצח – גם כשהמשתמש כבר מזמן איבד עניין, או הפסיק לעקוב.  בנוסף לזה, מסתבר שבהרבה מאוד מקרים עצם הקראת תשובות לשאלות של משתמשים מקשה על המעקב אחר התשובות – למשל כאשר המערכת מציעה מספר אפשרויות לבחירה.  עוד עולה מן המחקר כי העוזרים הדיגיטליים מתקשים לזהות שאלות המשך, שמתבססות על התשובות שנתנו, ושהם מתקשים לזהות את ההֶקשֵׁר של השיחה, באמצעות מידע זמין מהיומן של המשתמשים, או מהתכתבויות הדוא"ל שלהם.  כדי למצות את היכולות של העוזרים, המשתמשים צריכים למעשה ללמוד איך לדבר איתם נכון ובאילו מונחים להשתמש – כלומר, בשלב זה לא מדובר באמת בשיחה טבעית אלא בהליך שמצריך למידה והסתגלות של המשתמשים.

על רקע קשיים מובנים אלו ביכולות של העוזרים הדיגיטליים, אנשים נוטים להשתמש בעוזרים בהקשרים מאוד מסויימים לביצוע משימות פשוטות יחסית. המניעים העיקריים לפנייה לעוזר דיגיטלי הם מצבים בהם הידיים תפוסות (כמו למשל בזמן בישול או נהיגה) והצגת שאלות שיותר מהר לומר אותן בהשוואה להקלדה וקריאה של התשובות (כלומר שאלות פשוטות יחסית). לרוב האנשים, שמשתמשים בעוזרים, יש אמון מוגבל למדי באשר ליכולותיהם ולרוב הם יציגו שאלות פשוטות בסיגנון של מי, מה, מתי, איפה, ולא שאלות של בדיקות מעמיקות או חיפושים מעט יותר מורכבים.  גם משתמשים שמצליחים, בסופו של דבר, לשאול את העוזרים שאלות יותר מורכבות ולקבל תשובות ראויות, מרגישים שהמאמץ הכרוך בניסוח מתאים של השאלות, כדי שהעוזר הדיגיטלי יבין אותן, לא משתלם.

היכולת של העוזרים הדיגיטליים לפענח בצורה אינטליגנטית בקשות של משתמשים, ולעבוד עבורם באופן עצמאי (כמו למשל לתאם פגישות או לספק מענה על חלק מהודעות הדוא"ל) דורשת קיום אלגוריתמים, שלומדים את המשתמש הספציפי, באופן מעמיק ולאורך זמן ומבצעים ניתוח מעמיק של ההרגלים שלו ופיענוח נבון של צרכיו – כפי שהם באים לידי ביטוי בבקשה המילולית מהעוזר הדיגיטלי. לכך יש להוסיף כמובן את העובדה שהאינטגרציה של היכולות החלקיות שכבר קיימות, ביחד עם האזנה לפנייה קולית של המשתמשים, עיבוד ראוי של השיחה והקראה של המענה, תוך התחשבות בצרכים במקום ובזמן, עדיין מתנהלים באופן לא מרשים ולא אטרקטיבי.

אז לאן כל התחום הזה הולך?  כנראה שאנחנו נדבר אל המחשבים שלנו יותר ויותר, כי הם יודעים להקשיב ועם הזמן הם ידעו לפענח טוב יותר את הכוונות שלנו.  באשר להגשת מידע מהמחשב אלינו, תשובות פשוטות אפשר להציג באמצעות הקראה, אבל ככל שהדברים מורכבים יותר, יהיה צורך להשתמש בתצוגה חזותית, שמאפשרת סריקה והתמקדות ודורשת פחות ריכוז ופחות מאמץ מנטלי.  בהרבה דברים הערוץ החזותי שלנו הרבה יותר יעיל מהערוץ המילולי: כאשר אתם צריכים לבחור פריט אחד מבין חמישה פריטים, קל יותר להצביע על הפריט הנבחר מאשר להסביר לאיזה פריט אנחנו מתכוונים.  חשבו על שיחה לא במובן של שיחה מילולית בין שני אנשים שהידיים שלהם קשורות אלה על שיחה בה כל צד משתמש באמצעי ההמחשה שעומדים לרשותו – למחשב יש צג והוא יכול לשלב אותו בשיחה כדי ליעל אותה.