שפה כמפה היררכית רב שיכבתית תלוית הקשר - והבנתה של שפה כניווט קוגנטיבי במרחבים לשוניים

ד"ר יעל עדיני, ד"ר אהוד נורי. לציטוט מקור הפנו ללינק המאמר.

המוח אינו בנוי כמחסן, כארכיון, או כסידרת קופסאות. ללמוד פרושו לקשר, להבין, פרושו לקשר.

לצורכי הבנה והתמצאות, הסקת מסקנות והבנת סיבתיות לא ניתן להסתפק בדיקלום הסבר מוכן מראש. יש ליצור מפות קוגנטיביות, למיין, להכליל, להשוות, לשער השערות ולהסיק מסקנות על סמך מבני ידע רב ממדיים המגלים ובונים סדירויות ויחסים בין ממדים שונים של ייצוגים במוח. החשיבה נעה במפות יחסים המזכירות רשתות דרכים. באותה מפה מיוצגים מקרים שונים (דוגמאות) החולקים מספר ממדים משותפים במפה הם ממוקמים באופן השוואתי על פי הממדים השונים (קרובים זה לזה, שונים זה מזה, מי גדול ממי קטן ממי וכו). להרחבה ראו [A-C].

גם מרחב השפה שלנו אינו מכיל אוסף של קופסאות. אנחנו נוטים להשתמש בביטוי "לשלוף מילה", משל היתה כל מילה שוכנת בטח בקופסתה. אולם בד"כ כשאנחנו שולפים מילה בצורה חופשית היא אסוציאציה אחת מיני רבות הקשורות למילה ספציפית בהקשר מסוים, פנימי או כזה המוכוון ומבוקש על ידי גורם חיצוני (אדם אחר). בשפה, כמו בלמידת נושאים שונים בבית הספר - ללמוד ולהבין פרושם לקשר. משמעויות והבנה נבנות באמצעות "ניווט קוגנטיבי" במרחבי ניווט המשופעלים באופן דינמי.

---

אפשר לחשוב על הבנת שפה לא כעל שליפה של משמעויות קבועות ממילון פנימי, אלא כעל ניווט במרחב רב־ממדי של מילים, מושגים והקשרים. במרחב כזה מילה אינה מיוצגת כיחידה נפרדת העומדת בפני עצמה, אלא כדפוס פעילות שמקבל את משמעותו גם מתוך קשריו לדפוסים אחרים. מילים ומושגים דומים מיוצגים באמצעות דפוסי פעילות מוחית דומים יותר, ואילו הבדלים ביניהם מתבטאים במרחקים ובכיוונים שונים במרחב הייצוג [1–3].

במפה פיזית אנו משתמשים בממדים כמו צפון–דרום ומזרח–מערב כדי לקבוע היכן נמצא כל מקום משמעותי ביחס למקומות אחרים. מפה קוגניטיבית יכולה לארגן גם דברים שאינם מקומות. לדוגמה: במפה של בעלי חיים אפשר להשוות בין אורך הצוואר לאורך הרגליים; במפה חברתית אפשר להתייחס לקרבה רגשית ולעוצמת ההשפעה, או למידת פופולאריות לעומת מסוגלות-או-כשירות; ובמפה של מהפכות היסטוריות אפשר להשוות בין מידת המרמור בציבור לבין מידת התמיכה של הצבא בשלטון והשפעתם על היחסית על הצלחה או כישלון של המהפכה. הממדים הרלוונטיים משתנים בהתאם לתחום ולשאלה שאנו מבקשים לברר.

במפה אנחנו משתמשים בדוגמאות ומשווים מיקומים יחסיים בין זוגות. מי דומה למי במימד מסוים מי שונה ממי. המרחק בייצוגים שאינם מרחקים מטריים פיזיים מוערך על ידי החושב.

מפת השפה מורכבת יותר. מילה יכולה להשתתף בממדים רבים בעת ובעונה אחת: האם היא מתארת אדם, חפץ, תכונה או פעולה; לאילו קטגוריות היא שייכת; אילו מילים נוטות להופיע לידה; באילו מבנים תחביריים היא משתתפת; איזו עמדה רגשית או חברתית היא עשויה לבטא; ומהו תפקידה במשפט הנוכחי. בדרך כלל אין במרחב הייצוג ממד יחיד ופשוט של „אימהוּת”, „כוח” או „רגש”. כל אחת מן התכונות האלה עשויה להיות מיוצגת באמצעות שילוב של ממדים רבים, שחלקם אינם ניתנים לתרגום ישיר למושגים מילוליים.

לכן משמעותה של מילה אינה נמצאת רק במילה עצמה. היא תלויה גם במיקומה היחסי בתוך מערכת הקשרים: לאילו מילים היא דומה, מאילו מילים היא נבדלת ובאילו הקשרים היא מופיעה. המילים „כלב” ו„חתול” קרובות במובן אחד, משום ששתיהן מתייחסות לבעלי חיים ביתיים. „כלב” ו„נובח” קשורות בדרך אחרת: האחת מציינת בעל חיים והשנייה פעולה אופיינית שלו. מפת השפה אינה מסדרת את המילים על קו יחיד של דמיון. היא מארגנת סוגים רבים של קשרים בעת ובעונה אחת.

במודלי שפה המונח האנגלי embedding מתאר שיבוץ או הטמעה בתוך מרחב ייצוג רב ממדי. בהקשר של שפה, הכוונה היא לייצוג של מילה באמצעות סדרת מספרים הממקמת אותה במרחב רב־ממדי. המיקום אינו בעל משמעות בפני עצמו. משמעותו נובעת מיחסו לייצוגים אחרים. אפשר אפוא להגדיר: שיבוץ מילה במרחב (embedding) הוא ייצוגה כדפוס רב־ממדי, שמיקומו היחסי מבטא את קשריה לייצוגים אחרים. המילה היחידה אינה המפה. השיבוץ הוא ייצוגה של מילה אחת ביחס למילים אחרות; הגאומטריה המרחבית (אוקלידית) של מרחב השפה או הייצוג במפה קוגנטיבית היא מערכת הקירבות, המרחקים והכיוונים של בתנועה בין ייצוגים רבים; והמפה היא הארגון הכולל הנוצר מתוך היחסים האלה.

במודלי שפה, בשיבוצי מילים מוקדמים, כגון word2vec ו־GloVe, לכל מילה־כסוג (word type) מוקצה וקטור כללי אחד. הווקטור נלמד מן ההקשרים הרבים שבהם הופיעה המילה ומסכם אותם (למידה סטטיסטית) [4, 5]. כך, המילה mother תמוקם בקרבת מילים כמו father,‏ woman,‏ child ו־family. זהו שיבוץ סטטי (static word embedding): לאחר הלמידה, כל הופעה של אותה מילה מתחילה מאותו ייצוג כללי.

אין פירוש הדבר שלמידה סטטיסטית יוצרת בהכרח ייצוג קבוע. גם שיבוץ סטטי וגם שיבוץ הקשרי נלמדים מתוך הסדירויות הסטטיסטיות של השפה. ההבדל הוא באופן השימוש במה שנלמד. שיבוץ סטטי מסכם את כלל הקשריה של המילה בייצוג כללי אחד. בשיבוץ הקשרי (contextual embedding) נבנה לכל הופעה של המילה ייצוג דינמי התלוי במשפט המסוים ובהקשר שהצטבר עד אליה [6–8].

ברשת שפה עמוקה המילה אינה משובצת בין מילים שונות פעם אחת בלבד. היא מיוצגת בתוך רשת רב־שכבתית. כל שכבה מקבלת את דפוסי הפעילות שנבנו בשכבה הקודמת ומעבדת אותם מחדש. כך מתקבל רצף: ייצוג ראשוני, שקלול קשרים, ייצוג מעודכן, שקלול נוסף וייצוג הקשרי עשיר יותר. בשכבות מוקדמות עשויים לקבל ביטוי רב יותר צורת המילה, מיקומה ברצף וקשריה המקומיים. בשכבות מאוחרות יותר יכולים להתארגן קשרים רחבים יותר בין המילה לבין מבנה המשפט והמשמעות המצטברת. אין חלוקה מוחלטת שבה כל שכבה ממלאת תפקיד יחיד, אך בכל שכבה נוצר מצב חדש של הייצוג על סמך המצב הקודם ועל סמך המידע שנאסף מן ההקשר.

כדאי להבחין בין מבנה הרשת לבין שני סוגים של משקלים. משקלי הרשת הם קשרים יציבים יחסית שנבנו במהלך האימון. הם מבטאים סדירויות שנלמדו לאורך זמן: אילו צורות, מילים, מבנים ומשמעויות קשורים זה לזה. לעומתם, משקלי הקשב הם דינמיים ותלויי־הקשר. הם קובעים איזה מידע מן המשפט הנוכחי ישפיע יותר על בנייתו של כל ייצוג. דפוס הפעילות שנוצר ברגע מסוים הוא התוצאה המשותפת של הקלט, המשקלים שנלמדו והמשקל הדינמי שניתן למקורות המידע השונים. הפיסקה הזו חשובה ומשמעותית. עיצרו כדי לבדוק שבהנתם את משמעותה.

השפה מאורגנת גם ברמות: אותיות וצלילים מתחברים למילים; מילים לצירופים; צירופים למשפטים; משפטים למצבים ולסיפורים; ומתוכם נבנה רעיון כולל. המידע מתקדם מן האותיות והמילים אל הבנת המשפט והסיפור. בה בעת, הבנת הסיפור והמצב משפיעה מלמעלה למטה על פירושן של המילים. במוח אין שכבות נקיות ונפרדות כמו בתרשים של רשת מלאכותית. קיימים חיבורים חוזרים רבים, ולכן רמות גבוהות ונמוכות משפיעות זו על זו במהלך ההבנה.

אפשר לראות זאת במהלך קריאת המילה mother. לאחר המילים My mother… משופעל מרחב רחב של קשרים אפשריים: אישה, הורות, ילד, משפחה, טיפול, סמכות וקִרבה. עדיין איננו יודעים איזו אם מתוארת ומהו יחסו של המספר אליה. כאשר המשפט ממשיך — My mother was a strong woman… — מתחזקים קשרים לכוח, עצמאות, עמידות וסמכות, אך עדיין לא ברור באיזה מובן הייתה האם חזקה.

אם נקרא My mother was a strong woman who protected us, המילה protected מחזקת קשרים להגנה, אחריות, ביטחון ומסירות. לעומת זאת, ההמשך My mother was a strong woman whom everyone feared מחזק קשרים לשליטה, לאיום ולפחד.

המידע החדש משנה בדיעבד את האופן שבו אנו מפרשים את המילה strong ואת דמות האם.

המילה mother אינה מקבלת משמעות מילונית אחרת. מה שמשתנה הוא הייצוג הפעיל של האם המסוימת המתוארת במשפט. קשרים אפשריים רבים קיימים ברשת הרחבה, אך ההקשר משנה את משקלם היחסי. במודל אוטורגרסיבי כמו GPT-2 יש להוסיף דיוק: הווקטור שחושב למילה mother ברגע הופעתה מבוסס על המילים שקדמו לה. המילים העתידיות אינן חוזרות ומשנות אותו ישירות. הייצוגים של המילים המאוחרות יותר הם שנושאים את ההקשר המצטבר ואת ההבנה המעודכנת של האם. אצל הקורא האנושי אפשר לדבר באופן טבעי יותר על פירוש מחדש של דמות שכבר הופיעה.

הממדים במפת השפה אינם חייבים לתאר תכונות של העולם. הם יכולים לנבוע גם מן המבנה הדקדוקי של השפה. לדוגמה: בעברית כל שם עצם משתייך לזכר או לנקבה, והמין הדקדוקי משפיע על כינויים, תארים ופעלים. במשפט „הציפור ישבה על הכלוב ליד החלון, וכאשר הוא נפל ברעש, היא עפה אל החצר”, הכינוי „הוא” מחזיר אותנו לכלוב והכינוי „היא” לציפור. המין הדקדוקי מצמצם את מספר הייצוגים שיכולים לשמש מועמדים בכל נקודה במשפט. באנגלית, במשפט The bird was perched on the cage beside the window, and when it fell with a crash, it flew into the yard, הכינוי it יכול להתייחס גם לציפור וגם לכלוב. הקורא נדרש להסתמך יותר על משמעות הפעלים ועל ידע העולם: כלוב יכול ליפול וציפור יכולה לעוף.

המין הדקדוקי מוסיף אפוא למפה הלשונית ממד מיון. הוא אינו מתאר בהכרח תכונה של העצם, אך הוא מספק רמז חוזר המסייע לקשור בין חלקים רחוקים במשפט, לצמצם מועמדים, לנבא צורות שיבואו בהמשך ולזהות אי־התאמות. מחקרים מראים כי דוברים של שפות בעלות מין דקדוקי משתמשים בהתאמת המין בזמן אמת, וכי בעברית הסדירות הצורנית של סימון המין משפיעה על מהירות הזיהוי ועל איתור הפרות התאמה [9]. ההקשר הדקדוקי מספק את כללי ההתאמה; ההקשר הסמנטי מספק את המשמעות ואת הידע על מה שסביר שקרה.

ניווט קוגנטיבי ייצוג דינמי וקשב

בשנות השמונים נהגנו לדבר כל קשב כ"זרקור" המפנה משאבים מוגבלים לכיוון עיבוד ניבחר. במסגרת מודל זה דיברנו על תהליך פופ אאוט בו גרויים בולטים משכו את הקשב ומשאביו לצורכי עיבוד והבנה.

אולם - הקשב האנושי אינו רק מנגנון הבוחר לאיזו מילה או לאיזה גירוי לההפנות את העיניים או המחשבה ובזה לכאורה מסתיים תפקידו. במסגרת מודל הניווט הקוגנטיבי לקשב יש תפקיד מרכזי בקביעת מרחב הניווט וילקי הייצוגים שמשתתפים בניווט בדרך למטרה. על פי השאלה או המטרה שלנו הקשב משפיע ןמאפשר בחירה של אילו ממדים ואילו קשרים יקבלו משקל ברגע מסוים. לדוגמה, כשאנו מנסים לזהות אם אדם כועס, אנו (המוח שלנו, באופן אוטומטי) מעניקים משקל רב יותר להבעת פניו ולטון דיבורו ופחות לצבע חולצתו. כשאנו מנסים להבין מי שולט במערכת פוליטית, כוח וקשרים בין בעלי התפקידים נעשים רלוונטיים יותר מגילם או מגובהם. הייצוגים המחוברים למילים שונות עשויים לכלול תכונות רבות, אך המטרה, השאלה, וההקשר משפיעים על הבחירה הקישבית, המשפיעה בתורה, על אילו מילים ויצוגים ישופעלו במרחב הניווט של המחשבה שלנו ויקבעו את הצעד הבא לכיוון המטרה [A-C].

כך פועל הקשב גם בהבנת משפט. הקורא אינו ממתין עד סוף המשפט כדי לחלץ ממנו משמעות. מן המילים שכבר נקראו, מן הידע הקודם, מנושא הטקסט וממטרת הקריאה נבנות השערות לגבי משמעות המשפט והמשכו. תהליכים אלה הם תהליכים מלמעלה למטה (טופ דאון). ברוב המקרים ההשערות אינן מודעות ואינן מנוסחות במילים. הן מתבטאות בכך שפירושים והמשכים מסוימים נעשים פעילים וסבירים יותר מאחרים.

בד בבד, האותיות, הצלילים והמילים המופיעים בפועל מספקים מידע מלמטה למעלה. כל מילה חדשה נבדקת מול מערך ההשערות הפעיל. אם היא מתאימה לו, מסלול הפירוש מתחזק. אם אינה מתאימה, נוצר פער בין הצפוי לבין מה שהופיע בפועל. בעקבות טעות הניבוי יש להחליש את הפירוש הקודם, לשנות את משקלם של קשרים מסוימים ולעיתים לשוב ולפרש מחדש חלק מן המשפט. הבנת המשפט מתפתחת אפוא בלולאה חוזרת: ההקשר משפעֵל ידע; הקשב משנה את משקלם של קשרים; נבנות השערות; המילה הבאה בודקת אותן; וההתאמה או טעות הניבוי מעדכנות את מרחב הניווט.

מודלי טרנספורמר ממחישים עיקרון של שקלול תלוי־הקשר באמצעות מנגנון הקרוי קשב עצמי (self-attention) [6]. המילה „עצמי” אינה מציינת מודעות עצמית. היא מציינת שכל ייצוג ברצף יכול לשקלל מידע המגיע מייצוגים אחרים באותו רצף. בפישוט, הייצוג של כל מילה מציג מעין שאלה: איזה מידע מן ההקשר נחוץ לי עכשיו? זהו ה־Query. לכל אחת מהמילים האחרות מחושב מפתח (Key), המאפשר להעריך את מידת ההתאמה (הרלוונטיות) בין המידע שהיא מייצגת לבין השאילתה (Query); אלה ה־Keys. לאחר שנקבעת מידת ההתאמה, נאסף מהן המידע שהן נושאות — ה־Values — בהתאם למשקל שניתן לכל אחת. מן השקלול נבנה ייצוג מעודכן ותלוי־הקשר. [לדוגמה: במשפט: ״הילד הניח את הספר על השולחן כי הוא היה כבד" . כאשר המודל מעבד את המילה ״כבד״, הוא עשוי לתת משקל רב למידע הקשור ל״ספר״ ולא ל"ילד". ההתאמה מחושבת מתוך באמצעות מטריצות משקלים שנלמדו במהלך אימון המודל על קורפוסים גדולים מאד של טקסטים. הקשרים שונים יכולים להטות ולשנות פרשנויות בעזרת מנגנון הקשב: אותם משקלים שנלמדו באימון ומהווים את השלד הבסיסי של משקלי המודל, יכולים להפיק דפוסי קשב שונים כאשר ההקשר משתנה. כך המודל בונה ייצוגים תלויי־הקשר, בלי ללמוד מחדש את המשקלים בכל משפט ].

באמצעות כמה ראשי קשב יכולה הרשת לשקלל במקביל סוגים שונים של קשרים: התאמה בין כינוי לשם עצם, קשר תחבירי, קשר סמנטי או תלות בין חלקים רחוקים במשפט. אין פירוש הדבר שלכל ראש קשב יש תפקיד לשוני פשוט וקבוע, אך המנגנון מאפשר לאותו רצף מילים לעבור כמה שקלולים מקבילים.

הדמיון בין קשב אנושי לבין קשב עצמי נמצא בעיקרון שלפיו לא כל הקשרים משפיעים באותה מידה. ההקשר הנוכחי משנה את משקלם, ומתוך השקלול נבנה הייצוג הפעיל. אבל אין לזהות בין שני המנגנונים. קשב עצמי הוא פעולה מתמטית מוגדרת ברשת מלאכותית. הקשב האנושי מושפע גם ממטרות, השערות, זיכרונות, בולטות חושית, רגשות, הרגלים, טעות ניבוי ומצבו הגופני של האדם. הטרנספורמר מספק מודל חישובי מועיל לעקרון השקלול, אך אינו הוכחה שהמוח מבצע בדיוק את חישובי ה־Query,‏ Key ו־Value.

קריאת משפט היא אפוא תנועה מתמשכת בתוך מרחב של אפשרויות. בתחילת המשפט יכולים להיות כמה פירושים סבירים. כל מילה חדשה משנה את המרחב: היא מחזקת אפשרויות מסוימות, מחלישה אחרות ולעיתים מחייבת לחזור ולפרש מחדש את מה שכבר נקרא. לאחר המילים „הוא ניגש אל הבנק כדי...” עולות השערות כמו „להפקיד”, „למשוך” או „לבקש הלוואה”. הקשרים לכסף ולחשבון מקבלים משקל גבוה. אם לאחר מכן מופיעות המילים „לשבת ליד המים”, הקלט החדש אינו מתאים למסלול הפיננסי. כעת יש להחליש אותו ולחזק את הקשרים לגדה, לנהר ולמים.

במונחי הניווט הקוגניטיבי, רצף המילים אינו המסלול עצמו אלא הקלט המכוון את התנועה. המסלול הוא רצף המעברים בין מצבי פירוש: מה חשבנו שהמשפט אומר, אילו קשרים קיבלו משקל, כיצד המילה החדשה שינתה את ההבנה ואיזה פירוש נעשה כעת סביר יותר. המפה הקוגניטיבית של השפה היא מרחב הקשרים הרחב שנלמד לאורך זמן. מרחב הניווט הוא החלק מתוך מפה זו המשופעל ומקבל משקל במהלך הבנת המשפט הנוכחי. מרחב הניווט משתנה תוך כדי התנועה.

מחקריהם של אריאל גולדשטיין, אורי חסון ועמיתיהם מספקים ראיות חשובות לתמונה הזאת. במחקר משנת 2022 נמדדה פעילות מוחית באמצעות ECoG בזמן שאנשים הקשיבו לסיפור טבעי. החוקרים מצאו התאמה בין פעילות באזורי שפה לבין ייצוגים הקשריים שהופקו ממודל שפה עמוק. הממצאים הצביעו על שילוב ההקשר הקודם בייצוג המילה, על פעילות מקדימה שהתאימה למידע על המשכים אפשריים ועל תגובה למידת ההפתעה לאחר הופעת המילה. הם תומכים בתיאור של הבנת השפה כתהליך מתמשך של ציפייה ועדכון, ולא כסדרה של שליפות נפרדות [7].

במחקר נוסף, משנת 2024, נמצא דמיון בין הגאומטריה של הייצוגים ההקשריים ב־GPT-2 לבין היחסים בין דפוסי פעילות ב־IFG — הפיתול המצחי התחתון. לאחר שהחוקרים למדו התאמה בין שני המרחבים באמצעות קבוצה אחת של מילים, הם הצליחו לחזות דפוסי פעילות למילים אחרות שלא נכללו בשלב הלמידה. הייצוגים ההקשריים הצליחו בכך טוב יותר מייצוגי מילים סטטיים [8].

ה־IFG אינו מחסן המילים ואינו המפה כולה. הוא חלק מרשת רחבה המחברת אזורים מצחיים, טמפורליים, פריאטליים ומוטוריים. הוא משתתף בין השאר בבחירה בין משמעויות מתחרות, בשליפה סמנטית מבוקרת, בארגון המשפט, בהחזקת ההקשר ובהפקת שפה [10, 11]. במונחי הניווט הקוגניטיבי אפשר לראות בו אחד הצמתים המסייעים לקבוע אילו מן הייצוגים הפעילים יקבלו די משקל כדי להשפיע על הצעד הבא. עם זאת, המחקרים אינם מוכיחים שב־IFG קיימת מפה קוגניטיבית במובן ההיפוקמפלי, ואינם מראים כי פועלים בו תאי מקום או תאי גריד. הם מצביעים על תנאי בסיסי יותר: דפוסי הפעילות הקשורים למילים מאורגנים בתוך מרחב יחסי, וההקשר משנה את הייצוג הפעיל.

חשוב אפוא להבחין בין למידה סטטיסטית, מפה וניווט. למידה סטטיסטית היא התהליך שבו המערכת לומדת סדירויות: אילו מילים מופיעות יחד, מה נוטה לבוא אחרי מה, אילו מבנים חוזרים ואילו מילים ממלאות תפקידים דומים. המפה או הגאומטריה הייצוגית היא הארגון שנבנה באמצעות הלמידה: הקרבות, המרחקים והכיוונים היחסיים בין דפוסי הייצוג. הניווט הוא השימוש הדינמי במרחב הזה לצורך הבנת משפט, בחירת פירוש, ניבוי ההמשך, פתרון אי־התאמה או יצירת תשובה. כדי לדבר על מפה נדרש ארגון יחסי המאפשר דמיון, הבחנה והכללה. כדי לדבר על ניווט נדרשים גם שאלה או מטרה, כמה כיוונים אפשריים, שקלול ביניהם ועדכון המסלול בהתאם למידע החדש.

בקריאה מתחילים ברצף מילים המגיע מבחוץ ובונים ממנו משמעות. בכתיבה מתחילים בכוונה, ברעיון, בזיכרון או במטרה תקשורתית ומנסים לבנות מהם רצף מילים שאדם אחר יוכל להבין. הכותב אינו שולף בהכרח משפט שלם ומוכן. הכוונה הראשונית משפעֶלת מרחב של מושגים, מילים ומבנים אפשריים. מתוכו עולות השערות לניסוח: באיזו מילה להתחיל, מה צריך להיאמר בהמשך ואיזה ניסוח יתאים לקורא. לאחר שמילה נכתבת היא נעשית חלק מן ההקשר, ולכן משנה את האפשרויות למילה הבאה.

גם הכתיבה מתפתחת בלולאה: כוונה משפעֶלת מרחב אפשרויות; נבחר ניסוח זמני; המילים נכתבות; הכותב קורא את התוצר; נבדקת ההתאמה לכוונה; והמשפט ממשיך או מתוקן. בקריאה, טעות הניבוי מופיעה כאשר המילה שהגיעה מבחוץ אינה מתאימה להשערה. בכתיבה, הפער מתגלה כאשר המשפט שנוצר אינו מבטא את מה שהכותב התכוון לומר. הכותב חש שהמילה אינה מדויקת, שהמשפט הוביל לכיוון לא רצוי או שהקורא עלול להבין משמעות אחרת. הוא חוזר, מחליף מילה, משנה את הסדר או בונה מסלול ניסוח חדש. עריכה היא אפוא צורה מפורשת של ניווט: בדיקת המסלול מול היעד ותיקונו.

מחקר משנת 2024 של זאדה, גולדשטיין, חסון ועמיתיהם בחן שיחות טבעיות פנים אל פנים. ייצוגים הקשריים של מודל שפה עקבו אחר המידע הלשוני הן במוחו של הדובר והן במוחו של המאזין. התוכן הלשוני הופיע בפעילות מוחו של הדובר לפני הגיית המילה, ולאחר מכן בפעילות מוחו של המאזין. הממצא תומך בקיומו של מרחב משמעות הקשרי המשותף במידה מסוימת להבנה ולהפקה: הדובר מנווט מן הכוונה אל המילים, והמאזין מן המילים אל המשמעות [12].

אין להסיק מכך שהמחשבה והשפה זהות. הכוונה שממנה מתחיל הכותב יכולה לכלול תמונות, רגשות, זיכרונות וקשרים שעדיין לא קיבלו ניסוח מילולי. השפה מאפשרת לארגן חלק מן המרחב הזה למסלול שאפשר להעביר לאחר. הכותב בוחר מילים בתקווה שהן ישפעלו אצל הקורא קשרים דומים במידה מספקת. הקורא אינו מקבל את מחשבתו של הכותב בשלמותה; הוא בונה אותה מחדש בעזרת המפה שלו, הידע הקודם שלו וההשערות שהוא מעלה במהלך הקריאה.

השפה יכולה אפוא להיחשב מפה קוגניטיבית כאשר מילים ומשמעויות מיוצגות בתוך מרחב רב־ממדי של קשרים. הלמידה הסטטיסטית מסייעת לבנות את המרחב ואת משקלי הקשרים היציבים יחסית. במהלך עיבוד משפט, הקלט וההקשר משנים את דפוסי הפעילות ואת משקלי הקשב הדינמיים. בכל שכבה וברמת עיבוד שונה נבנה ייצוג מעודכן של המילים ושל המשפט. בקריאה, מילים המגיעות מלמטה למעלה פוגשות השערות הנבנות מלמעלה למטה. ההתאמה או הפער ביניהן מעדכנים את מרחב הניווט. בכתיבה, התנועה מתחילה בכוונה, עוברת אל ניסוחים אפשריים וחוזרת מן המשפט הכתוב אל הכוונה כדי לבדוק את ההתאמה.

השפה אינה אפוא רצף של סמלים קפואים, אלא מערכת רב־שכבתית שבה קשרים שנלמדו לאורך זמן פוגשים שקלול דינמי ותלוי־הקשר. הבנת משפט והפקתו הן תהליכים של שיפעול, בניית השערות, בחירה, בדיקת התאמה ועדכון מסלול בתוך מרחב המתארגן מחדש תוך כדי התנועה.

מקורות

1. Shepard, R. N. (1962). The analysis of proximities: Multidimensional scaling with an unknown distance function. Psychometrika, 27, 125–140; 219–246.

2. Edelman, S. (1998). Representation is representation of similarities. Behavioral and Brain Sciences, 21, 449–498.

3. Haxby, J. V., Connolly, A. C., & Guntupalli, J. S. (2014). Decoding neural representational spaces using multivariate pattern analysis. Annual Review of Neuroscience, 37, 435–456.

4. Mikolov, T., Chen, K., Corrado, G., & Dean, J. (2013). Efficient estimation of word representations in vector space. arXiv:1301.3781.

5. Pennington, J., Socher, R., & Manning, C. D. (2014). GloVe: Global vectors for word representation. In Proceedings of EMNLP 2014 (pp. 1532–1543).

6. Vaswani, A., Shazeer, N., Parmar, N., et al. (2017). Attention is all you need. In Advances in Neural Information Processing Systems, 30.

7. Goldstein, A., Zada, Z., Buchnik, E., et al. (2022). Shared computational principles for language processing in humans and deep language models. Nature Neuroscience, 25, 369–380.

8. Goldstein, A., Grinstein-Dabush, A., Schain, M., et al. (2024). Alignment of brain embeddings and artificial contextual embeddings in natural language points to common geometric patterns. Nature Communications, 15, 2768.

9. Gollan, T. H., & Frost, R. (2001). Two routes to grammatical gender: Evidence from Hebrew. Journal of Psycholinguistic Research, 30, 627–651.

10. Saur, D., Kreher, B. W., Schnell, S., et al. (2008). Ventral and dorsal pathways for language. Proceedings of the National Academy of Sciences, 105, 18035–18040.

11. Grindrod, C. M., Bilenko, N. Y., Myers, E. B., & Blumstein, S. E. (2008). The role of the left inferior frontal gyrus in implicit semantic competition and selection. Brain Research, 1229, 167–178.

12. Zada, Z., Goldstein, A., Michelmann, S., et al. (2024). A shared model-based linguistic space for transmitting our thoughts from brain to brain in natural conversations. Neuron, 112, 3211–3222.e5.

לקריאה נוספת בנושא בניית מפות על פי זוגות ומרחק נתפס (ושפרד)

1. Hout, Goldinger & Ferguson (2013)

   בוחן דרך מעניינת מאוד לאיסוף שיפוטי דמיון:

   במקום לבקש מהנבדק להשוות כל זוג בנפרד, נותנים לו לסדר פריטים על מסך לפי מידת הדמיון הנתפסת ביניהם.

   המחברים משווים בין שיפוטים זוגיים, סידור מרחבי ושיטות משולבות.

   הם מראים שסידור מרחבי יכול לספק נתונים טובים לבניית מפות, תוך חיסכון בזמן הניסוי.

Hout MC, Goldinger SD, Ferguson RW. The versatility of SpAM: a fast, efficient, spatial method of data collection for multidimensional scaling. J Exp Psychol Gen. 2013 Feb;142(1):256-281. doi: 10.1037/a0028860. Epub 2012 Jul 2. PMID: 22746700; PMCID: PMC3465534