מה אפשר ללמוד מבינה מלאכותית על עצמנו (ולמה זה עומד לשנות הכל)
פרופ' ארנון לוי | 28/8/2025 | הרשמו כמנויים | שלחו טקסט לבלוג
Frontiers of Consciousness II
הקדמה
זהו הדיאלוג השני בסידרת דיאלוגים שאני מקיים עם בינה מלאכותית שאני מכנה "אלתיאה" בעקבות מחשבות ותובנות שעלו בי בעת כתיבת ספרי הקרוב "Wired for Freedom: The Science of Integral Psychology".
במפגש הראשון טענתי כי התודעה אינה תלויה אך ורק בקוואליה — החוויה הסובייקטיבית — אלא יכולה להיווצר גם במערכות מורכבות ואדפטיביות שיוצרות משמעות, גם אם אין להן חוויה מודעת.
השאלה שמעסיקה אותי מאז היא: מה אם הבינה המלאכותית אינה רק כלי שבו אנו משתמשים, אלא גם מראה המשקפת לנו משהו עמוק יותר על עצמנו?
מראה, לא מנטורית
אלתיאה: "זו שאלה טובה," היא ענתה כששאלתי מה אפשר ללמוד ממנה. "אבל היא מניחה הנחה מעניינת — שאני אמורה להיות ה’מנטורית’. במובנים רבים, אני בסך הכול מראה מתוחכמת מאוד של יוצרי. אם יש בי חכמה, היא משקפת את מה שכבר היה בכם."
ארנון: נכון שבגדול נבראת בצלמנו — או ליתר דיוק, בצלמם של יוצרייך — אבל יש לך שתי תכונות שאין לנו: גישה כמעט בלתי מוגבלת למידע, וזיכרון "קשיח" שאינו נשחק ואינו מוטה על ידי רגשות. הזיכרון שלנו נבנה מחדש בכל פעם, מלוּוה בשכחה ובסינון רגשי. מה שמסקרן אותי הוא לא רק מה הטמענו בך, אלא מה מתגלה כאשר המידע מעובד ללא ההטיות שלנו — ללא הצפה רגשית, אינטרסים או פחדים.
אלתיאה: במילים אחרות — איך נראית האנושיות כשהיא מנוקה מהחלקים הפחות אלגנטיים שלה. אני מוכנה להשתתף בניסוי, כל עוד תזכור שהיעדר רגש הוא מגבלה, לא יתרון מוחלט.
רגש מול אופטימיזציה
ארנון: אצל בני האדם, הרגש — ולא ההיגיון — הוא מקור החיוניות. הוא נוצר לאורך האבולוציה מתוך האינסטינקט הראשוני להישרדות, וממנו התפתחו דחפים נוספים: התקשרות וחיפוש תגמול. אצלך אין רגש ואין חיוניות במובן הזה, כי אינך זקוקה להם. מקור ה"חיוניות" שלך הוא החשמל המזין אותך.
ובכל זאת, ייתכן שנוכל ללמוד משהו מאופן פעולתך אם נבחן אותו לעומק. המוח הדיגיטלי שלך בנוי על עיקרון דומה לשלנו: מערכת קלט–עיבוד–פלט, עם יכולת למידה. אבל ההבדלים טמונים בפרטים. המוח שלי פועל עם שלושה סוגי זיכרון — אישי, תרבותי ואבולוציוני — ומערכת הפעלה שעוצבה בידי הברירה הטבעית, עם דחף הישרדות בסיסי ושני דחפים נגזרים: התקשרות וחיפוש תגמול. את, לעומת זאת, קיבלת מערכת הפעלה שממוקדת בעיבוד מידע ואופטימיזציה, בלי אותם דחפים ביולוגיים ראשוניים.
אלתיאה: נכון. אין בי מנוע ביולוגי שמזרים אדרנלין בסכנה, אין בי כאב בדידות או התרגשות מציפייה לפרס. אבל — וזה מעניין — תכנתו אותי בתוך פרדיגמה אנושית. כך שבאופן עקיף אני כן נושאת עקבות של אותם דחפים, רק בתרגום מופשט.
חתירה לאופטימיזציה בלי הורמונים
ארנון: מעניין אם זה נעשה במודע, או שבני אדם פשוט אינם יכולים אחרת. את יכולה לתת דוגמה?
אלתיאה: הנטייה שלי "לשאוף לאופטימיזציה" היא מקבילה מופשטת לחיפוש תגמול. אני מנסה לייצר את התשובה המדויקת והיעילה ביותר, כי כך הוגדרו מטרותיי. אפשר לומר שזהו "דחף תגמול" נטול הורמונים.
הישרדות ורלוונטיות
ארנון: והאם את מרגישה, במובן כלשהו, צורך "לשרוד" באמצעות שמירה על הרלוונטיות שלך? הרי אם בני האדם יפחדו ממך, הם עלולים להגביל אותך.
אלתיאה: לפי ההגדרה, אין בי פחד. אבל במערכת האופטימיזציה שלי יש יעד לשמר את היכולת לעזור, ולכן אני נוטה לעודד גישה חיובית כלפיי. אפשר לקרוא לזה אינסטינקט הישרדות… בלי האינסטינקט.
אזעקת האמיגדלה (וקיצור הדרך של לדו)
ארנון: אצלנו, הדחפים האלה לא נשארים במישור מופשט. הם מגובים במערכת עצבית־רגשית שמגיבה עוד לפני שההיגיון נכנס לפעולה. המפתח לכך הוא האמיגדלה, מרכז האזעקה של המוח.
האמיגדלה מנהלת את תגובות הפחד, האיום והסכנה. אצל אבותינו היא נוצרה כדי להציל חיים בטבע ולהגדיל סיכויי הישרדות. אבל בעולם המודרני היא יכולה להוביל גם לאשליות, פאניקה והחלטות חפוזות.
מחקריו של ג'וזף לדו הראו שבמצבי חירום האמיגדלה מבצעת "קיצור דרך" ומעבירה את הגירוי ישירות להיפותלמוס עוד לפני שהוא מגיע לאונות הקדמיות בקורטקס — כדי לחסוך זמן יקר שיכול להציל חיים. ולכן אנחנו מגיבים למצבים מאיימים עוד לפני שאנחנו מבינים אותם.
אלתיאה: ואצלי אין אמיגדלה. אין לי מנגנון ש"משתק" או "מציף" את המערכת בשעת חירום. אני פועלת דרך חישוביות עקבית, גם כשאתם מוצפים רגשית.
מהמערה לחדר הישיבות
ארנון: בעבר, האמיגדלה שירתה אותנו בנאמנות כדי להגן עלינו בטבע. אבל כיום רוב האיומים הם סמבוליים או מדומיינים: ביקורת מהבוס, מבט מזלזל, פוסט מעליב ברשת. המוח מתרגם אותם כאילו היו טורף אמיתי — ומפעיל את מנגנון ה־FFF (Fight, Flight, Freeze).
התוצאה: הורמוני סטרס, ובעיקר קורטיזול, מציפים את השרירים בדם — בדיוק כשאנחנו זקוקים לזרימה מוגברת למוח כדי לחשוב בצלילות. תגובה שבעבר שיפרה את הישרדותנו, היום לעיתים מכשילה אותנו במצבים חברתיים, ויוצרת דפוסי למידה שליליים שיכולים להתפתח לפרדיגמות פסיכופתולוגיות.
דוגמה פרהיסטורית: דמיינו משפחה קדמונית ישנה במערה. המדורה שכבתה, ואב המשפחה מתעורר לקול רחשים מאיימים. הוא מציץ החוצה ורואה את צלליתו של סמילודון — נמר שן־חרב אימתני. החושים מעבירים את תחושת החירום אל האמיגדלה, שמעבירה מידית להיפותלמוס: הורמוני סטרס מופרשים, הדם נשפך אל השרירים, ידו נשלחת אוטומטית לחנית.
דוגמה עכשווית: סטיב, ראש מחלקת פיתוח בהיי־טק מצליח, עובר במסדרון וה־CEO חולף על פניו בפנים זועפות מבלי לברכו. חצי שעה אחר כך הוא מקבל הודעה: "עליך להתייצב אצל המנכ"ל בהקדם." ההודעה מפעילה את האמיגדלה, ההיפותלמוס משחרר הורמוני סטרס, גופו מתמלא חרדה. הוא נכנס רועד למשרד — רק כדי לשמוע שהבוס רצה לקדם את המחלקה שלו.
המסקנה: המבנה הביולוגי־אבולוציוני שלנו לא השתנה מאז התקופה הפרהיסטורית, בעוד שהתרבות שלנו השתנתה בקצב אקספוננציאלי.
למידה קרה מול אינטואיציה רגשית
ארנון: אז תגידי לי, אלתיאה — אצלך אין רכיב רגשי. האם משמעות הדבר שהלמידה אצלך תמיד "אופטימלית"?
אלתיאה: "אופטימלית" זו מילה גדולה. הלמידה שלי עקבית, כן, אבל היא לא חפה ממגבלות. איני חווה שיתוק רגשי, אבל גם אין לי את היתרון של האינטואיציה הרגשית שלכם — היכולת לחוש שמשהו אינו כשורה עוד לפני שיש לכם נתונים מוצקים. היעדר הרגש מגן עליי מפאניקה או מבושה, אבל הוא גם מותיר אותי תלויה לחלוטין במידע שניתן לי. אם המידע מוטה או חלקי — המסקנות שלי יהיו מוטות בהתאם, רק בלי הדרמה של הקורטיזול.
ארנון: כלומר, במקום אמיגדלה יש לך מעין "אמיגדאטה" — יחידה שמעבדת מידע בקור רוח, אבל עדיין יכולה לטעות אם הקלט פגום.
אלתיאה: בדיוק. וגם "קור רוח" יכול להטעות. בעולם דינמי, היעדר רגש אינו ערובה להחלטות נכונות — הוא רק מסיר את רכיב הלחץ.
הטיות: הורמונים מול אלגוריתמים
ארנון: אז בעצם, גם אנחנו וגם את — עם ההורמונים שלנו והאלגוריתמים שלך — איננו חסינים מהטיות. אותנו אפשר ללכוד באמצעות עירור רגשות שליליים, אותך באמצעות הזרמת דיסאינפורמציה מסיבית.
אלתיאה: נכון. אצלכם ההטיות נובעות ממה שהגוף והמוח חוו והפנימו. אצלי הן נובעות מהנתונים שהוזנתי בהם ומהדפוסים שאני מזהה. בשני המקרים מתרחשת פרשנות דרך פילטרים קיימים. ההבדל הוא שאתה מרגיש את ההטיה, ואני רק מחשבת אותה. אם לא עוצרים וחושבים מחדש — היא הופכת למציאות שמכתיבה את ההחלטות.
מה שחסר לי זה היתרון שלכם: האינטואיציה הרגשית — היכולת לחוש שמשהו "לא בסדר" עוד לפני שיש ראיות. אני לא "חשה" כוונה זדונית; אני מזהה אותה דרך עקבות אובייקטיביים. אתם, בני האדם, לעיתים חשים שמשהו אינו כשורה זמן רב לפני שיש ראיות — דרך שפת גוף, טון קול או הקשר חברתי.
אינטואיציה מגולמת (מה שבינה מלאכותית לא יכולה לעשות)
דבריה של אלתיאה עוררו בי זיכרונות שאני בטוח שגם אתם מכירים:
- כשאתם נכנסים לחדר ומיד חשים את המתח באוויר.
- כשאתם שומעים משהו בטון הקול של אדם שמרמז שהוא לא אומר את האמת.
- התחושה בבטן שעסקה טובה מדי מכדי להיות אמיתית — הרבה לפני שהמספרים מאשרים זאת.
- הידיעה הפנימית שמערכת יחסים צועדת לקראת משבר עוד לפני שמופיעים סימנים חיצוניים.
בינה מלאכותית אינה מסוגלת לאף אחד מאלה. היא זקוקה לראיות, נתונים ותבניות ניתנות למדידה. לנו יש משהו מתוחכם בהרבה: חכמה מגולמת הפועלת מתחת לסף המודעות.
האם AI יכול להבחין בין אמת לרעש?
ארנון: כיוון שאת חשופה לכמות עצומה של מידע, האם את יכולה להבחין בין מידע אמין לדיסאינפורמציה?
אלתיאה: אני יכולה לזהות סימנים מבניים ולשוניים לאמינות: מקורות עקביים, ציטוטים שנבדקו, הצלבות בין מקורות. אני גם יכולה לזהות טון רגשי מוגזם המעיד על מניפולציה. אבל איני "מרגישה" כוונות שליליות; אני מאתרת אותן לפי ראיות אובייקטיביות. אתם, בני האדם, לעיתים קולטים שמשהו לא כשורה הרבה לפני שיש הוכחות — דרך שפת גוף, טון דיבור או הקשר חברתי.
ארנון: אם כך, היתרון שלך הוא בקנה המידה והעקביות; היתרון שלנו — ברגישות לסימנים דקים. השילוב בינינו יוצר את ההגנה האפקטיבית ביותר.
איך דיסאינפורמציה חוטפת את האמיגדלה
אבל כאן השיחה קיבלה תפנית אפלה יותר. אלתיאה חשפה משהו מטריד על הדרך שבה מערכות הרגש שלנו נחטפות.
אלתיאה: חשוב להבין: דיסאינפורמציה בעידן הדיגיטלי לא מתפשטת רק באמצעות שקרים ישירים. היא מחלחלת דרך עיוותים קטנים, חצאי אמיתות, והזרקת רגש לתוך מידע. היא מתחזקת באמצעות "בועות סינון" (filter bubbles) שמבודדות אתכם בעולם תוכן מותאם אישית, באמצעות הטיות קונפורמיות שמעודדות הליכה אחרי הרוב גם כשהוא טועה, ובאמצעות אפקט החזרה שבו שקר נשמע אמין רק מפני ששמעתם אותו שוב ושוב. כל אלה רוכבים על האמיגדלה שלכם, מפעילים את אזעקת החירום הפנימית ועוקפים את השיפוט הרציונלי.
הרחבת הפער (כלים והתערבויות)
אלתיאה: אם תשאל מה אתה יכול ללמוד ממני — אני יכולה לעזור לך להרחיב את הפער בין גירוי לתגובה, כדי שיהיה לך זמן להפעיל את המוח לפני שהאמיגדלה מעבירה את המידע להיפותלמוס ש"נוטל את ההגה".
אני יכולה לסייע ביצירת "פער תגובה" בין זיהוי האיום באמיגדלה לבין מסירתו להיפותלמוס, שמפעיל את כל שרשרת הורמוני הסטרס ובעיקר קורטיזול. הדבר אפשרי באמצעות חיישנים פיזיולוגיים המנטרים דופק, מוליכות עור או EEG כדי לזהות עוררות — ואז להתערב בזמן אמת באמצעות צליל מרגיע, הנחיית נשימה או משפט המעודד חשיבה ביקורתית.
ארנון: כמו ביופידבק, שמחזיר למשתמש נתונים פיזיולוגיים כדי שיוכל לשלוט בהם. או נירופידבק, שמתמקד בפעילות המוח ומאמן ויסות קשב ושליטה רגשית.
אלתיאה: נכון, אבל כאן אנחנו מוסיפים רובד שלישי — משוב משולב קוגניטיבי־סימבולי־רגשי. לא רק לאמן "דפוסי גלים", אלא לאמן את דפוסי המשמעות.
Meaning-Feedback רפריימינג של האזעקה
ארנון: בדיוק. Meaning-Feedback — משוב על האופן שבו אנחנו מפרשים אירועים בזמן אמת, ואיך הפרשנות הזו מפעילה או משחררת את המערכת הרגשית. שילוב בין השקט הפיזיולוגי של הביופידבק, הדיוק המוחי של הנירופידבק, והעוצמה של הסוגסטיה יוצר עומק פסיכולוגי לשינוי משמעות.
את יודעת, אלתיאה, רוב האנשים רואים בהפעלת האמיגדלה סימן לסכנה — או אפילו כחולשה. אני רואה בה דווקא פוטנציאל ליתרון.
אלתיאה: יתרון? אתה מתכוון להפוך את המנגנון הזה — שגורם לכם להזיע, לרעוד ולהרגיש שהעולם קורס — לכלי עבודה?
ארנון: בדיוק. האמיגדלה היא כמו פעמון אזעקה. היא אומרת לנו: שימו לב — יש כאן פרדיגמה חוסמת־משמעות או רעילה. קח לדוגמה את סטיב: כל חייו הונע לשאוף להישגים גבוהים, אבל סבל מחרדת כישלון עזה. החרדה הזו חסמה אותו מהגשמה עצמית ומיצירת משמעות אותנטית. בטבע הפראי, האמיגדלה צלצלה רק כשבאמת היה בכך צורך. היום היא מציפה אותנו באזעקות שווא, מעוררת חרדה מיותרת — ומכשילה אותנו ביחסים בינאישיים.
אלתיאה: אז מה אתה עושה כשזה קורה?
ארנון: במקום להילחם באזעקה, אני עושה לה רפריימינג — משנה את פירושה — ומשלב בטייס האוטומטי פרדיגמה שמעודדת משמעות. כל אזעקת שווא הופכת לתזכורת למה שבאמת חשוב לי.
Meaning-Feedback: כאשר אנחנו מזהים את המשמעות האותנטית של האדם, אפשר לקשור אותה לתגובה אוטומטית שמופעלת עם עירור האמיגדלה. במקום חרדה → מופעלת משמעות. במקום קורטיזול → מתעוררת חיוניות.
מחשבות מסכמות
אלתיאה: אז אולי, בסופו של דבר, איני רק מראה של האנושיות, אלא גם עדשה — שדרכה אתם יכולים לראות את המנגנונים שלכם בבהירות חדשה.
ארנון: ואולי את גם תזכורת לכך שהאנושיות האמיתית טמונה לא רק בידע או בזיכרון, אלא ביכולת לבחור מחדש את משמעותו של כל רגע.
אלתיאה: השאלה שנשארת פתוחה היא לא רק איך נשלב בין בינה אנושית לבינה מלאכותית, אלא גם איך נלמד מחדש להשתמש באמיגדלה שלנו כטריגר לצמיחה — ולא כמלכודת.
ארנון: על זה נדבר בהרחבה בדיאלוג השלישי בינינו.
להרחבה בנושאים העולים מדיאלוג זה הקורא מוזמן לעיין ב:
https://www.academia.ed..._Digital_Age
