אימה ומשיכה ביחס האנושי לבינה מלאכותית - Artificial Intelligence
נטע ענבר-סבן
מבוא
בשנים האחרונות אנחנו עדים לתופעה חדשה המטלטלת את חיינו. הבינה המלאכותית, או בשמה הלועזי הנפוץ intelligence Artificial (AI) נכנסת לחיינו בהדרגה, ומבלי שנתנו את הדעת על המשמעויות שלה נהפכת לחלק בלתי נפרד מחיינו.
במקביל למשמעות הנרחבת של הבינה המלאכותית בחיינו, עולה גל של פחד מפניה. בתקשורת הכתובה והאלקטרונית, בשיחות סלון וברשתות החברתיות יש עיסוק נרחב בתפקיד של הבינה מלאכותית מבחינת המין האנושי ובמשמעות של עלייתה עבורו. בקצב מהיר עולים עוד ועוד קורסים, סדנאות ואפליקציות לשימוש בבינה מלאכותית יחד עם קביעות מלומדות יותר ופחות לגבי האפשרות שלה ללמוד את בני האדם כך שיתאפשר למפתחיה (או בתיאורים מסוימים לה עצמה) להשתלט על המין האנושי ולשעבד אותו לצרכיה.
העובדה שרבים מאיתנו לא יודעים מהי אותה ישות של בינה מלאכותית, מהן יכולות הלמידה שלה ואם היא מפתחת כוח שמגיע לידיים זדוניות או לחילופין יכולות עצמאיות לחלוטין, מעלה פחד מהלא נודע ומאובדן שליטה על חיינו. בראייתי, בתהליך השלכה מאסיבי עולים פחדים קמאיים הנובעים ממפגש עם חלקים לא מודעים בנו ובאחרים, עם הצל והרוע הגלומים בכל אחד מאיתנו כיחידים וכחברה.
במאמר זה ארצה להציג את הפחדים הקמאיים כלפי בינה מלאכותית, ממה הם נובעים ואיך ניתן להתמודד איתם. אותו הפחד מפני הבינה המלאכותית הוא רכיב מהותי במרחב שבין הבינה המלאכותית ובין האדם שמשתמש בה. עם זאת, לצד רכיב הפחד קיימת גם תועלת משמעותית הגלומה במכשיר זה, ויש מקום לארגון חדש של החשיבה וההתנהגות ביחס לבינה המלאכותית, דבר שיעצב את הבחירות של כל אחת ואחד מאיתנו ואף את ההתפתחות האישית.
מהו פחד ומה תפקידו?
פחד היא תגובה אבולוציונית אדפטיבית המתעוררת כאשר עולה צורך לשמור על הקיום. זו תגובה רגשית חזקה ומטלטלת שתפקידה לעורר את האדם להילחם או לברוח בעת איום ולהציל את חייו. מדובר ברגש פרימיטיבי שמניע אותנו ומעצב חלק נכבד מהאישיות ומההרגלים שלנו. בעת מפגש עם גירוי מסוכן המאיים על מהלך החיים הרגיל מתרחשים בנו שינויים פיזיולוגיים-נפשיים נרחבים, כאשר אותו גירוי הוא לעיתים אובייקט או אירוע שמתרחש במציאות ולעיתים אירוע מדומיין, כזה שעלה בזיכרון או כהתרחשות מסוכנת אפשרית. פחד פועל ובא לביטוי ברמה הפיזיולוגית, האפקטיבית, הקוגניטיבית וההתנהגותית: הופעת אובייקט או אירוע מאיימים מביאים לעלייה בהורמון האדרנלין המביא להזרמת דם לגפיים, רמות החמצן והסוכר בדם עולות ומערכות הגוף מתכוננות כדי להתמודד באמצעות בריחה או מאבק, עולים רגשות שליליים, מתחיל ניסיון התמודדות דרך הבנת האירוע המאיים ובניית תסריטים להתמודדות עמו, ומופיעה תגובה התנהגותית של מאבק, בריחה או קיפאון (fight or flight or freeze).
לעיתים קיים בלבול בין מושג הפחד למושג החרדה. בספרו "מעבר לעיקרון העונג" כתב פרויד כי פחד וחרדה משמשים כביטויים נרדפים, שלא בצדק. פחד מקושר למצב מסוים, לאובייקט או לטריגר שיש להתמודד איתו או לברוח ממנו. לעומת זאת, חרדה יכולה לעלות בלי קשר לאובייקט או למצב מסוכנים שפוגשים במציאות (פרויד, 1920, 2021).
מהי חרדה?
חרדה היא תוצר של תהליכים נפשיים הנובעים מהרובד הלא מודע והיא מערבת ציפייה לאיום עתידי, ממשי או מדומיין. גם היא מביאה לעירור פיזיולוגי ולשחרור אדרנלין שעלולים להביא להזעה מוגברת, לנשימה מהירה ולעלייה בדופק שנועדו להתמודדות עם סכנה, גם אם אינה מתקיימת במציאות. בהיבט קוגניטיבי, כיון שזהו התהליך המתקיים גם במהלך סכנה ממשית, המוח מפרש את השינויים הגופניים כאילו קיימת סכנה במציאות והחרדה מתגברת. פעמים רבות מדברים על "החרדה מהחרדה" – כלומר, החרדה מתחזקת וצוברת כוח רק מעצם המחשבה עליה. בהיבט התנהגותי, בשונה מתגובות מאבק העולות בעת פחד, חרדה עלולה להביא לתגובות הימנעות. כיוון שאין התמודדות מציאותית עם גורם מעלה חרדה, אין יכולת ללמוד שהוא לא מזיק. במובן זה פחד הוא זמני ואילו חרדה מזינה את עצמה ויכולה להימשך תקופות ארוכות. אף סאליבן התייחס להבדל בין פחד לחרדה. לדבריו פחד אצל תינוקות נובע מאירוע ספציפי המתרחש במציאות, כמו קול חזק, רעב או מתח, והביטוי שלו נועד לעורר את המטפלים לפעול למען הקלה בסבל. חרדה, לעומת זאת, אינה עולה כתוצאה מגירוי במציאות והיא חסרת מיקוד (מיטשל ובלאק, 2006).
מהו פחד קמאי
לעתים אנחנו מתמודדים עם פחד קמאי – מדובר בפחד ראשוני, אימתני, המציף אותנו מתוך תחושה שהקיום שלנו בסכנה. איננו מזהים מהו ההיבט המסוכן שבאובייקט ומכאן שאיננו יכולים לחזות את התהליכים שיקרו ולהתכונן להגיב אליהם. במצב כזה של 'חור שחור' אנחנו משליכים את ה'מפלצות' שבתוכנו, את החלקים הלא מודעים שיונג כינה אותם "הצל" על האובייקט הלא ברור ופוחדים ממנו, מהאובייקט 'הרע' (יונג, 1973). כלומר, פחד קמאי מורכב מממד מציאותי וגם מהשלכות אישיות וקולקטיביות, והוא עולה כאשר פחד מאובייקט מציאותי חובר לפחדים לא מודעים של אובדן שליטה וסכנה לקיום.
כיצד מתייחסות תיאוריות פסיכואנליטיות וחברתיות לפחד ולמקורותיו?
פרויד התייחס לחרדה נוירוטית, זו הנובעת מאיבוד שליטה ומעליית תכנים של האיד, לעומת חרדה מוסרית המעלה רגשי אשם כאשר האדם אינו מתנהג על פי ציווי וציפיות של הסופר-אגו האישי והחברתי. כדי להתמודד עם פחד או חרדה, קבע פרויד, האדם נעזר במנגנוני הגנה, בדגש על הדחקה. במסגרת תהליך זה, הוא מעביר את המידע המאיים מרובד מודע אל הרובד הלא מודע, שם לא יהיה זמין לאגו והחרדה תפחת (פרויד, 1899, 1956).
התיאוריה של מלאני קליין מביאה את עמדתה לגבי הפחדים והחרדות הראשוניים שהתינוק חווה. לדבריה החרדה מאובדן הקיום, Annihilation Anxiety (איון), היא חרדה בסיסית המנחה את התנהגות התינוק ואת תפיסותיו ותהליכי החשיבה שלו. חרדה זו קשורה לחוסר האונים של התינוק לגבי יכולתו לשמור את הקיום שלו באופן שמעלה בו חרדה מפני מוות וכיליון. העמדה הסכיזו-פרנואידית והעמדה הדיכאונית הן שלבים טיפוסיים, לא-ליניאריים, בהתפתחות תקינה של תינוקות. בשלב הראשון, הסכיזואידי-פרנואידי, על התינוק להתמודד עם דחף המוות ועם הפחד מהרס, וכל קושי כמו רעב או כאב נחווים כמאיימים על הקיום. כדי להתמודד עם החרדה הקיומית השכיחה הזו התינוק מעלה הגנה של פיצול בין טוב לרע, כך שהעולם מחולק לאובייקטים 'טובים' ואובייקטים 'רעים'. האובייקט המרכזי – השד של האם - מפוצל במוחו לטוב ולרע במטרה לשמר את תחושת הקשר עם אובייקט טוב, גם במצבים של סבל ושל עליית החרדה.
חרדת פיצול זו מלווה אותנו במהלך החיים בהתמודדות עם מצבי קיצון וגם במצבים בהם אנחנו חוששים לקיום שאליו התרגלנו. כלומר, כאשר אנחנו חשים כי חיינו הולכים להשתנות מבלי שתהיה לנו שליטה על המתרחש, אנחנו נוטים להעלות את הגנת הפיצול. מסיבה זו הפחד מבינה מלאכותית כל כך גדול. מנגנון הפעולה שלה אינו מובן לנו ואיננו יודעים לחזות לאן השימוש בה יתפתח. בין מגוון התגובות, מתגבשת כלפיה גם עמדה פרנואידית שמקלה על התפיסה את הבינה המלאכותית כ'רעה' ומאיימת על קיומנו, עד כדי כך שקיימים קולות המשייכים לה או למפעיליה כוונה עתידית להשמיד את המין האנושי (מיטשל ובלאק, 2006; סגל, 1998).
לפי קליין, התינוק לא נולד כדף חלק אלא עם צרכים, משאלות ויכולת לפנטזיה, דבר שמשפיע על האינטרפרטציות שנותן התינוק למה שמתרחש בתוכו ובסביבתו (קליין, 2002, 2012). מכאן ניתן להסיק כי פנטזיה ומציאות משפיעות באופן הדדי זו על זו: פנטזיה מתבססת על תכנים שנכנסו לעולם הפנימי מן המציאות ובתורה תפיסת המציאות מושפעת מתהליכי החשיבה והפחד המתרחשים בעולם הפנימי. ניתן לומר כי לאופן שבו נתפסת הבינה המלאכותית יש השפעה נרחבת על היכולת לעבוד עמה. בראייתי, במונחים קלייניאניים כדאי לנו לעבור לעמדה דיכאונית כלפי בינה מלאכותית, עמדה בה נוכל לתפוס את הבינה המלאכותית ותוצריה כאובייקט שלם המכיל חלקים 'טובים' ו'רעים' בו זמנית, במטרה להעלות את היכולת שלנו לשלוט בה.
ויניקוט עסק בפחד הקמאי-קיומי של התינוק, בדגש על הפחד מהתמוטטות שעולה מול איום קיומי. בפחד זה, השבר קדום וראשוני במידה כזו שהוא לא נרשם בנפש כזיכרון או כחוויה מנטלית ואין לו כל שיוך אל הביוגרפיה האישית; מדובר בכאב לא-ידוע המרחף מעל כמו צל ומכיל איום ופחד שלעיתים מושלכים אל עבר העתיד. האדם, גם בבגרותו, אינו מסוגל לעבד את החוויה הזו ולתת לה הסבר ומשמעות, כיון שלא הגיע לבשלות קוגניטיבית מספקת כשחווה אותו. תחושת הכיליון הנוראית נותרת בתוכו לא מעובדת והוא חווה אובדן ממשות ביחס אליה (חוויה דיסוציאטיבית של דה פרסונליזציה ודה ריאליזציה), כך שאין יכולת להתייחס לאובייקטים בעניין זה ולקבל מהם הגנה והקלה (וויניקוט, 1963). אולי גם הפחד הקיומי מהבינה המלאכותית הוא אצל חלקנו ביטוי לפחד שכבר היה קיים בעבר, ולא ניתן היה להתמודד איתו.
מבט נוסף על פחד קיומי ניתן לראות בדבריהם של חיים עומר ונחי אלון שעוסקים בטראומה ובטיפול בה. לדבריהם, באירוע טראומה נשבר רצף קיומי אישי ולעתים גם חברתי, אותו היבט שמספק הגנה מפני פחד והתמוטטות כלומר, יש משמעות לרצף היסטורי המסייע לשמירה של תחושת רצף תוך-אישי וחברתי (אלון ועומר, 1994). שמירה על הרצף מספקת תחושה של שליטה ומשמעות; היא מבססת את היכולת לחזות את העתיד על סמך העבר באופן שמעלה את תחושת הביטחון הקיומי (תשבי, 2009). ככל שיותר רצפים נפגעים כך רמת הפגיעה באדם גדולה יותר (Quarantelli, 1985), ועולות תחושות של כאוס והתפוררות, אי ודאות לגבי העתיד ותגובות שמבטאות היעדר כוחות, חוסר אונים, אשמה, ואובדן משמעות (Flynn, 1994).
בעולם התוך-אישי והתרבותי קיים מנגנון שעוזר להתמודד עם שבירת הרצף המתוארת - היכולת לחדש את הרצף באמצעות הדמיון. וויניקוט ראה את הדמיון כאלמנט שמופיע במרחב הפוטנציאלי, באותו אזור ביניים בין מציאות חיצונית לפנימית. המרחב זה נבנה על בסיס אובייקט מעבר (transitional object): אובייקט כלשהו שבתהליך החיים של התינוק מקושר עם תחושת הקלה ורגיעה. תחילה מדובר בקולה של האם ועם ההתפתחות הקוגניטיבית בחפצים קונקרטיים: חיתול, דובי או כל אובייקט אחר המקושר עם הטיפול והאהבה שמתקבלים. כך המרחב הפוטנציאלי כולו מתבסס כמציאות פנימית שקשורה למציאות החיצונית, אך גם חופשיה מחוקים ומהגבלות. דרך שבירת מוסכמות וחוקים הדמיון מאפשר את הטרנספורמציה, את היצירה המאפשרת התפתחות (וויניקוט, 1995).
מובן שבמרחב שבין מציאות לפנטזיה, אשר נמצא במגע גם עם אירועים עתידיים, עלולים לעלות גם פחד או חרדה. עוצמתו של פחד שעולה במרחב הפוטנציאלי גדולה, כיוון שגם פחד שמקורו בעולם הפנימי מתלכד עם המציאות. במובן זה, חוויה תוך-נפשית עלולה להיתפס כמציאותית ולאיים על הקיום.
במצב זה עלולה לעלות השלכה של "הצל" שמזינה את הפחד והופכת אותו למפלצת אימתנית המאיימת על הקיום. יונג כתב על ארכיטיפ הצל המכיל חומרים שהאדם מסרב לקבלם כחלק מאישיותו ולכן מדחיק אותם. כתוצאה מכך הם נתפסים כאגו-דיסטוניים (לא שייכים אליו) והוא פוחד מהם, שונא אותם ונרתע מהם (יונג, 1973). השלכת הצל מתרחשת גם על ידי קבוצות אנשים מה שמביא לשנאה, תיעוב ופחד מקבוצות אחרות – 'להקות אנושיות' שהאדם אינו חלק מהן. זה מה שעומד, לדוגמה, בבסיסן של תופעות כמו גזענות, רתיעה מהעולם הלהט"בי או שנאת נשים ופחד מאגי מהן (נוימן, 1963). השלכת תכנים מהצל אינה מודעת ולכן השפעותיה על התפיסות והדעות שלנו רבה כל כך. כחלק מכך, באופן לא מודע נקבעות תבניות חשיבה המשפיעות על תפיסה קמאית מאגית של האחר (ענבר-סבן, 2019). אותו הלך רוח עלול לעיתים להופיע ביחס לבינה המלאכותית.
הדבקת המונים
הדבקת המונים היא מצב בו מספר רב של א.נשים מציגים את אותם סימפטומים בנקודת זמן מסוימת. בדרך כלל המקור הוא אדם אחד אשר ממנו 'מעתיקים' אחרים את הסימפטומים וחווים אותם בעצמם. חשוב לומר כי לא מדובר בהתחזות, אלא בחיקוי כתהליך טבעי שאינו מודע.
יש למנגנון זה היגיון פיזיולוגי: הדבקה רגשית שכיחה המתרחשת היא הדבקה בין אמיגדלות, במטרה הישרדותית: כאשר האמיגדלה שלנו חשה סכנה היא מאותתת בכל הגוף למישהו אחר, הן כדי לקבל עזרה והן כדי להזהיר את חברי הלהקה מסכנה אפשרית. האדם שלידנו 'נדבק' מהחרדה שלנו ומגיב בסנכרון רגשי והתנהגותי. לדוגמא, פסיכוזה משותפת "folie a deux", מצב בו אדם 'נדבק' במחשבות שווא של קרוב אליו Enoch & Ball, 2001)). גם אפקט הזיקית (chameleon effect) מתאר הדבקה לא מודעת בין אנשים של חיקוי הבעות הפנים או תנוחות הגוף (Chartand & Bargh, 1999).
מובן שלהדבקת ההמונים יש השפעה התנהגותית. לדוגמה, לפני מספר שנים, בתחנת רכבת תחתית באנגליה, אדם נבהל מריב בין שני אנשים והחל לברוח בעודו צועק שמדובר בפיגוע. החרדה שלו השפיעה על מי שהיה סביבו כך שהחלה מנוסה המונית של אנשים שהתמלאו חרדה. במנוסה זו נדרסו חלק מהבורחים, ומספר אנשים נהרגו ונפצעו. בנוסף, אם בעבר הדבקות המונים התרחשו מתוך קירבה פיזית בין הנדבקים, היום עולה תופעה חדשה של הדבקת המונים דרך הרשתות החברתיות. לדוגמה, בני נוער בכל העולם החלו לדווח על טיקים, כתוצאה מסרטונים שהתפשטו ברשתות החברתיות. התופעה של הדבקת המונים על ידי הרשתות נקראת "Mass Social Media Induced Illness" והיא מתפשטת במהירות רבה עקב התקשורת של בני נוער בארצות שונות בעולם (Giedinghagen, 2022). ייתכן, כי קיים חשש ממצב של הדבקת המונים דרך הבינה המלאכותית, מנגנון אשר לא מוכר לאדם.
מהי בינה מלאכותית ומדוע עולה פחד ממנה?
בינה מלאכותית היא יכולת עיבוד מידע והסקת מסקנות המבוססת על כוח חישובי. המידע הנכנס, 'קלט', מוזן למחשב. בשלב הבא המחשב מבצע תהליך עיבוד על פי קודים שקבע המתכנת כך שבסופו של התהליך מופק 'פלט' – תוצאה או מסקנה לאחר תהליך עיבוד. מערכות בינה מלאכותית פועלות ברמות שונות של אוטונומיה וקבלת החלטות ובכל מקרה המידע שהן יוצרות ופולטות תלוי בקלט שקיבלו, כלומר, במידע שהזין אליהן המתכנת ובעקרונות שקבע לפעולה. מדובר במודלים מתמטיים שמיועדים לדמות תהליכים מוחיים המתרחשים ברשת עצבים טבעית – המוח. בדומה למוח המודלים מופעלים כרשת נוירונים ואת מקום הנוירונים תופסות יחידות מידע רבות מאוד המקושרות זו לזו ויוצרות רשת עצבים מלאכותית. כמו במוח גם רשתות עצבים מלאכותיות אלה יכולות ללמוד ולהפוך למומחיות בתחום בו מאמנים אותן, ליצור קשרים חדשים ולגלות יצירתיות.
יישומי הבינה המלאכותית מהווים נדבך חשוב בחיינו והחברה האנושית נעזרת בהם בשלל נושאים, ביניהם אבחון רפואי, פיתוח נשק והגנות סייבר, רובוטיקה, הפעלת רכבים אוטונומיים ועוד. בד בבד עם השתלבות הבינה המלאכותית בחיינו עולים פחדים וחששות מהאפשרות שהיא יכולה להחליף את בני האדם כך שניעשה פחות חיוניים ורלוונטיים. חשש נוסף קשור, אולי, בכך שהעולם שנגלה למול עיינו אינו בהכרח המציאות האובייקטיבית: את הציור המיוחד שתלוי בגלריה ציירה בינה מלאכותית ולא אדם, את המכונית מובילה הבינה, את החיפוש שלנו בגוגל אחרי מרשם לעוגה או מציאת רפרנס למאמר מנטרת בינה מלאכותית. לאחר שהיא תלמד אותנו היא תכתיב לאלגוריתם מה להראות לנו, להציג לנו או להביא לידיעתנו, בין אם מדובר בתכנים, בפרסומות או בתוצאות חיפוש.
בינה מלאכותית לומדת בעזרת דוגמאות שניתנו לה והיא מתקנת את עצמה עם כל מידע חדש שמתקבל. בדומה למסלולים במוח (tracks) המתחזקים ככל שאנחנו משתמשים בהם יותר, כך גם בינה מלאכותית בנויה – כאשר מתברר שהיא "צודקת" המשקל של המסלול שבחרה בו יתחזק. הקשרים בין הנוירונים במוח אינם ליניאריים, כלומר יש לנוירון אחד אפשרות להעביר מידע למספר נוירונים, 'ללכת הצידה' וגם 'לדלג' לנוירונים הממוקמים רחוק. כך גם בבינה מלאכותית: הרשת 'קופצת למסקנות' בזכות האיכות הלא לינארית שלה. מבחינת המשתמשים, המשמעות היא שיש לה יכולת לבצע תהליכים מורבכים וארוכי טווח, ולהגיע להסקת מסקנות ללא הבנה אנושית לגבי התהליך שביצעה. מכאן קצרה הדרך לייחוס תכונות מאגיות ולעלייה גדולה בפחד ממנה.
בינה מלאכותית לעזרת הפסיכולוגיה
בינה מלאכותית יכולה לעזור בזיהוי אבחנה כולל ניבוי דיכאון ומצבים רגשיים מורכבים או מסוכנים. עוד לפני עידן הבינה המלאכותית, מחקר שנערך בשנת 2018 ניתח את השימוש בשפה בפייסבוק באמצעות סדר גודל של חצי מיליון סטטוסים; נמצא כי תיאור נרחב של רגשות, שימוש במילים בגוף ראשון כמו "אני" וכתיבה על בדידות מעלים את הסבירות שהסטטוס נכתב על ידי אדם שסובל ממצוקה נפשית ועלול לפתח דיכאון בתוך 3 חודשים מעת כתיבת הפוסטים (Eichstaedt et al., 2018). בהמשך לכך, מחקר שנערך באוניברסיטת ייל הראה כיצד בינה מלאכותית מזהה סיכון גבוה להתמכרות לאלכוהול (Roberts et al, 2022). לאחרונה נעשים ניסיונות לזהות מצבי חרדה באמצעות ניתוח מצבים גופניים על ידי בינה מלאכותית. במחקר שנערך בשנת 2021 בדקו בעזרת סנסורים התנהגויות הקשורות לחרדה תוך שימוש במכשור אבחוני מבוסס בינה מלאכותית שזיהה סימנים התנהגותיים של חרדה בדיוק של יותר מ-90 אחוז (Khan et al, 2021). מאפיין אחר בו בינה מלאכותית יכולה לעזור בתהליך הטיפולי הוא העברת מידע על המצב הנפשי בין הפגישות, בעיקר אם יש חשש לפגיעה עצמית או לאובדנות. זאת בעזרת אפליקציה שתאפשר למטופל להעביר מידע על מצבו הנפשי בזמן אמת.
עם הזמן, מתבצע יותר ויותר שימוש בבינה מלאכותית באבחון ובטיפול נפשי, גם באופן לא פורמלי. נדרשת עדיין התמקצעות הכוללת התאמה של הפלטפורמות הקיימות לצרכי בריאות הנפש, כאשר אחת המורכבויות היא עניין השפה ודיוק הניואנסים שמבוטאים בה. יתרה מכך, כלי בינה מלאכותית נדרש לעבור את מגבלת האינטונציה, אותה הנגנה דיבורית שמלווה חלק מהתכנים. אם למחשב אין יכולת לקלוט את אותה הנגנה, הנגישות שלו לדיבור אנושי מוגבלת (Biron & al., 2024).
בנוסף לאמור לעיל נשארת השאלה המרכזית לגבי הקשר האישי - האם ניתן לחוות תהליכים טיפוליים משמעותיים מול מכונה כאילו הייתה אדם? השלכות הן חלק בלתי נפרד מהטיפול ומשמשות לעתים כמנוף להבנה והתפתחות, וזוהי אחת המשמעויות של עבודה עם טרנספרנס בטיפול, אך האם אופי ההשלכה על בינה מלאכותית דומה לזה המתרחש בין מטופל למטפל?
לכך מצטרפות שאלות מורכבות בנוגע לשמירה על כללי האתיקה. פסיכולוגים ועובדים סוציאליים מחויבים לאתיקה נוקשה כדי לשמור על המטופלים ופועלים בהתאם לקוד מוכר, כך שידוע היום מהם הסטנדרטים להגנה על המטופלים. לא ברור עדיין מהם כללי האתיקה המעודכנים, במצב בו החומר הטיפולי מגיע למתכנתים ועלול להיות פרוץ ברשתות.
ככלל, כלי מוצלח של בינה מלאכותית מסוגל להתבטא כמו אדם והמחשב יכול לחקות תהליכים נוירולוגיים, אך האם בינה מלאכותית באמת יכולה לחשוב בדומה למוח האנושי? אחד המאפיינים הבולטים של חשיבה אנושית הוא צורת חשיבה אופיינית מעבר למצבים, דעות ורגשות, דבר שאדם מגיע אליו בתהליך לא מודע של גיבוש תבניות חשיבה, המלוות אותו לאורך החיים.
מהם המאפיינים של תבניות חשיבה?
תבניות חשיבה הן סדרה של הנחות ואמונות בסיסיות שבהן אנשים מחזיקים ושלפיהן הם מפרשים את העולם. הן נמצאות בבסיס כל רגש, ערך, עמדה או התנהגות, ובמובן זה ניתן לומר כי הן מגדירות ומעצבות את מי שאנחנו (ענבר-סבן, 2022).
מחקרים בחקר המוח מצביעים על כך שאת תבניות החשיבה של האדם – את האופן שבו הוא תופס את העצמי, את האחר ואת העולם – מעצבים מסלולי הולכה עצביים במוח (תשבי, 2009). תהליכים נפשיים שונים ומגוונים, כמו רגשות, מחשבות, חלומות, פנטזיות וזיכרונות נטועים עמוק במסלולים אלה. בשנים האחרונות צבר חקר המוח תאוצה, וחוקרים מראים כי תבניות חשיבה משפיעות גם על מה שנתפס בחושינו, ועל האופן שבה נסיק מכך מסקנות (לב ארי, 2019). מטרת תבניות החשיבה היא להקל על התפקוד. הן מאפשרות לחזות (to anticipate) את אשר יקרה בעתיד, להעריך את הסיכונים והסיכויים ולתכנן את פעולותינו בהתאם (תשבי, 2009).
אולם אליה וקוץ בה: אף שתבניות החשיבה מאפשרות יעילות וקיצורי דרך, הן לא תמיד מדויקות. כדי לחסוך בזמן העיבוד של המידע האין-סופי אשר מתקבל מהסביבה, תבניות החשיבה 'חותכות' חלק מהמידע ומכניסות אל המודעות רק את הפרטים אשר מתאימים לידע אשר כבר קיים בהן – לתבניות חשיבה. בשנת 1972 טבעו פרופ' עמוס טברסקי ופרופ' דניאל כהנמן, את המושג 'הטיות קוגניטיביות' (לואיס, 2017): לפי מושג זה, לא קיימת 'מציאות אובייקטיבית' אחת. לעומת זאת, לכל אדם קיימת מציאות המעוצבת על פי תבניות החשיבה שלו (אשחר, 2016).
תהליכי חשיבה אופייניים אלה קשורים גם לפחד מפני הבינה המלאכותית: יחסו של האדם לבינה מלאכותית הוא סוג של תבנית חשיבה, שמושפע במידה רבה מעמדות של אחרים שפוחדים ממנה, בדגש על דיונים בתקשורת שמדגישים את ההיבטים המאיימים בה.
בניית נרטיב כמשפיע על פחד קמאי
למוח האנושי יכולת נדירה לחבר בין פרטים שונים, מנגנון שיש בו חוזקות ומגבלות. כבני אדם, אנחנו מנסים להכניס למסגרת של סיבתיות את המתרחש סביבנו במטרה להבין את התהליכים שקרו ולחזות את העתיד בהצלחה. לשם כך אנחנו ממציאים סיפור שייתן פירוש ומשמעות לאירועים. לעתים המוח נשען על פיסת מידע או זיכרון ומשלים את 'העובדות' מתוך צורך רגשי ותבניות חשיבה כדי לספר סיפור קוהרנטי (אשחר, 2016). מכאן שבניית סיפור, כלומר נרטיב, היא חלק מהתנהגות קוגניטיבית ורגשית שכיחה המשפיעה על הרגש וההתנהגות (וויט ואפסטון, 1999; Spence, 1982)).
נרטיבים הם לעיתים אישיים ולעיתים כלל חברתיים וכלל תרבותיים. כל להקה אנושית יוצרת את הנרטיבים שלה ולפי נרטיבים אלה חבריה תופסים את המתרחש, מבינים אותו ומתנהגים על פיו. נרטיבים של להקה אנושית הם הדבק המחבר את חברי הלהקה; מדובר בחוט מקשר שנותן משמעות להיותנו חלק מלהקת אנשים. נרטיבים בלהקה אנושית נוטים להיות מדבקים, כחלק מהרעיון שהוצג של הדבקת המונים, דבר שמתקשר לצורך האנושי להשתייך ולקבל הגנה פיזית ותמיכה נפשית מחברי הלהקה. ניתן לומר כי לכידות של להקה תלויה ביכולת שלה לשכנע את חבריה בנרטיבים מסוימים (ענבר-סבן, 2019). בחברה קיימים נרטיבים שונים בהקשר של הבינה המלאכותית, חלקם מבטאים את החשש שמדובר בהמצאה מפחידה ומפלצתית. בכך בא ליד ביטוי כוח חזק, כוח של חשיבה מאגית.
השלכת כוחות על מגלומניים ומאגיים על הבינה המלאכותית
פרויד היה הראשון שהבין כי קיים ייחוס אינדיבידואלי וקולקטיבי של כוחות-על מאגיים על אובייקטים. בספרו "טוטם וטאבו" הוא בדק את תופעת הַטּוֹטֶמִיזְם - אמונה הרואה בבעל-חיים או בצמח ייצוג של הרוח, כלומר של האלים, כך שהטוטם נתפס כבעל יכולות מאגיות להגן על חברי השבט או להעניש אותם (פרויד, 2013). הענקת כוחות מאגיים לבינה מלאכותית היא, אולי, חלק מנטיית האדם לייחס כוח אדיר למה שאינו מובן. בעצם המושג 'בינה מלאכותית' באה לידי ביטוי התפיסה שהמחשב יכול לחשוב כמו אדם, ללמוד, להשתנות ולפתח אישיות עצמאית. מכאן עולה באופן לא מודע גם ההיסק שהבינה המלאכותית היא בעלת רצון. מבחינה רגשית, עולה פחד מכך שהיא עלולה לנווט את פעולותיה באופן שיפגע בבני אדם פרטיים ובאנושות כולה, אולי בניגוד למטרה המקורית שלה.
סכנות
ואולם, הפחד מבינה מלאכותית אינו שייך רק לתחום הפנימי של פנטזיה אנושית, של תבניות חשיבה מקובעות או של צורך אנושי להשתייך להמון ולחוות גם תופעות כמו הדבקת המונים. במובנים רבים, הפחד המתואר נעוץ במציאות. ראשית, הבינה המלאכותית עצמה מדמה תהליכי חשיבה אנושיים, ומתבססת על תפיסות אנושיות, כולל המגבלות וההטיות שקימות בהן. כלומר, אולי גם הבינה המלאכותית עלולה למסד תפיסות שגויות, להתעלם ממידע ולהסיק מסקנות מתוך הטיה בתהליכי הסקת המסקנות.
בתהליך הסקת המסקנות מגיעה הבינה המלאכותית לשגיאות, הנקראות בעגה המקצועית, 'אשליה', 'הזיה' או 'קונפבולציה' - המצאות מוחיות בלתי מודעות שמטרתן מילוי פערים בשטף הקוגניטיבי. לדוגמה, בשנת 2023 הציגו מיקרוסופט וגוגל כלי חיפוש המופעלים על ידי בינה מלאכותית. יותר ממיליון אנשים נרשמו לנסות את הכלי של מיקרוסופט. נמצא כי במהלך הניסוי בוצעו טעויות שכללו אי דיוקים בחלק מהעובדות, כולל בנתונים פיננסיים שגויים (Leswing, 4.2.2023). בשנת 2018 נבדקו מערכות תרגום שבהן נמצאו תרגומים שגויים שאינם קשורים כלל לחומר המקורי (Lee et al., 2018).
לעיתים השגיאות הן תוצאה של אופן השאלה, אך ייתכן כי הבעיה נעוצה בתהליכי התכנות והאימון של הבינה. מי שכתב את התוכנה הוא אדם, שגם במוחו שלו תבניות חשיבה אשר מגבילות את תשומת לב שלו, את אופן החשיבה שלו ואת ההתנהלות שלו, כולל התנהלות מול התוכנה של הבינה המלאכותית. בנוסף, תהליך האימון של כלי בינה המלאכותית עלול להיות קצר מדי, והדוגמאות שעליהן תתאמן הבינה עלולות להיות לא מתאימות או דלות. החשש של אנשים שונים מהבינה המלאכותית עלול להתקשר גם לשגיאות תמימות מהסוג שתואר אך גם לשגיאות שנובעות מזדון.
מעבר לכך, בינה מלאכותית אינה מקשה אחת או יציר מחשבתי ותכנוני אחד שניתן לשלוט עליו ועל מקורותיו. זהו עיקרון שניתן ללימוד ולפיתוח על ידי א.נשים רבים, בעלי מוטיבציות משתנות. כפי שבני אדם שונים ברצונות ובמטרות שלהם כך גם קיימת הטרוגניות בין מפתחי הבינה המלאכותית. חלקם יכולים להיות בעלי רצון להיטיב ואחרים עשויים לפעול מהכוונה להזיק או לפחות מתוך צרכיהם והאינטרסים שלהם.
כלי בינה מלאכותית עלול לספק תמונה מעוותת של המציאות על פי האינטרסים של מפתחיו, אך גם כלי שפותח באופן תמים עשוי לשרת למטרות שונות. למשל, בכלים שונים של בינה מלאכותית אפשר לייצר תוכן חדש שנראה אמיתי, דבר שיעצב את הדעות הפוליטיות, החברתיות והמוסריות של החברה. על כך מתבסס החשש מ'פייק ניוז'; ברגע שאיננו יכולים לדעת אם מידע שמגיע אלינו אמיתי או מומצא, אנחנו חשופים לסכנה של מניפולציה על תבניות החשיבה האישיות שלנו ועל שינוי המרקם הנפשי-חברתי ככלל.
מבט אל העתיד בנושא בינה מלאכותית
דוד פסיג, חוקר עתיד וראש המעבדה למציאות מדומה באוניברסיטת בר-אילן עוסק בשאלה של הממשק בין האדם והבינה המלאכותית והשפעותיה העתידיות על האנושות. הוא מנסה לענות על השאלה של יחסי הגומלין בין האדם לבינה ועל כיוון ההשתנות שלהם. פסיג רואה את הנפש האנושית כ'כלואה' בגוף שלנו. לפי פסיג, חקר המוח הוא נושא מתפתח, ונראה כי בשנים האחרונות מתפתחת האפשרות לחבר בין המוח האנושי למכשירים חיצוניים שיאפשרו מחקר והבנה עמוקים יותר של דרכי פעולתו, בעזרת בינה מלאכותית. לשם כך יש ללמוד את מחוללי הבינה המלאכותית השונים ולהבין כיצד לנטרל את השפעות תבניות החשיבה והמטרות של מי שכתב ואימן אותן (פסיג, 2024).
סיכום ומסקנות
בינה מלאכותית היא כלי שמבצע משימות שדורשות אינטליגנציה אנושית כמו למידה, פתרון בעיות, אבחון רפואי, טכנולוגיה מורכבת ועוד. כל כלי בינה מלאכותית מתבסס על תבניות חשיבה של מי שיצר אותו, ובמקביל מושפע מתבניות חשיבה של כל אדם שמשתמש בו. ככל שכלי מסוים מתבסס על א.נשים שונים עם תבניות חשיבה, דעות, תפיסות ותרבויות מגוונות, כך המסקנות עצמן עשויות להיות מגוונות יותר. לצד החשש מהטיות החשיבה הלא-מכוונות של כלי הבינה המלאכותית, קיים חשש מובן מהאינטרסים של מפתחי הבינה המלאכותית או משימוש מזיק בה.
ככלל, בינה מלאכותית היא כלי רב עוצמה שניתן להשתמש בו לטובה או לרעה. ממש כמו אש, כמו מכוניות או כמו הכוח הגרעיני, מדובר באמצעי שיכול להשפיע לטובה או לרעה, תלוי בהתנהלות האנושית. אין ספק שפחד הוא חלק מכל התפתחות והתקדמות. כדי להתפתח, לעתים יש לקחת סיכון ולקפוץ אל הלא ידוע, גם אל מה שאיננו יודעים לחזות אותו או להתכונן אליו. לכן, על רקע הפחדים הקיומיים שמעוררת התפתחות טכנולוגית זו, יש מקום להסדיר את השימוש בה באמצעות רגולציה, בקנה מידה ארצי ובינלאומי, כפי שמתקיים במשרד החדשנות (משרד החדשנות, 2013). תהליך מסוג זה יאפשר היחלשות של הפחד הקמאי ממנה ואפשרות נרחבת יותר ויותר לעבוד באמצעותה.
מקורות
אלון, נ' ועומר, ח' (1994). עקרון הרציפות: גישה מאוחדת לאסון ולטראומה, פסיכואקטואליה ד' (1-2): 20-28.
אשחר, י' (2016). איך המוח שלנו מרמה אותנו ולמה? נדלה בתאריך 5.8.2020 מהאתר: https://katzr.net/55f14d
וויט, מ' ואפסטון, ד' (1999). אמצעים סיפוריים למטרות טיפוליות, תל אביב: צ'ריקובר.
וויניקוט, ד' (1963). פחד מהתמוטטות, בתוך: עצמי אמיתי, עצמי כוזב, תל אביב: עם עובד.
וויניקוט, ד' (1995). משחק ומציאות, תל אביב: עם עובד.
יונג, ק' ג' (1973). האני והלא מודע. תל-אביב: דביר.
לב ארי, ג' (2019). בפיזיקה, בפילוסופיה ובחקר הקוגניציה, שלוש תיאוריות חדשות מציתות את הדמיון - ומציעות נימוקים לאפשרות שיסודות הקיום אינם אלא אשליה, נדלה בתאריך 30.4.2019 מהאתר: https://www.haaretz.co....sh;1.7135229
לואיס, מ' (2017). ענן של אפשרויות: עמוס טברסקי ודניאל כהנמן. החברות ששינתה את האופן בו אנו חושבים, בבל
מיטשל, ס' א' ובלאק, מ' ג' (2006). פרויד ומעבר לו: תולדות החשיבה הפסיכואנליטית המודרנית, תל-אביב: תולעת ספרים.
נוימן, א‘ (1963). פסיכולוגית המעמקים ומוסר חדש, זנדבנק, ש' (תרגום), תל אביב: שוקן.
סגל, ח' (1998). מלאני קליין, תל-אביב: עם עובד.
ענבר-סבן, נ' (2019). פסיפס אנושי – מבט פסיכולוגי על הגוונים המרכיבים את עוצמתו של עם ישראל, צמרת.
ענבר-סבן, נ' (2022). מחול התודעה והנפש – מבט פסיכולוגי על תהליכי התפתחות אישית וחברתית. גלילי הוצאה לאור, ראשון לציון.
פסיג, ד' (2024). האני העתידי – חוויית התודעה בעתיד והשפעתה על המדע והטכנולוגיה של המאה ה- 21, תל אביב: הוצאת ידיעות ספרים.
פרויד, ז' (1899, 1956). פשר החלומות, ברכיהו, מ' (תרגום), תל אביב: יבנה.
פרויד, ז' (1913, 2013). טוטם וטאבו, התאמות אחדות בין חיי הנפש של הפראים ושל הנוירוטים, גינזבורג, ר' (תרגום), תל אביב: רסלינג.
פרויד, ז' (1920, 2021). מעבר לעיקרון העונג, מבחר כתבים, יא', בנימיני, י' (עריכה), גינזבורג, ר' (תרגום), תל אביב: רסלינג
קליין, מ'. ([1952] 2002). כתבים נבחרים א', דרבן, י' (עריכה); זילברשטיין, א' (תרגום). תולעת ספרים, תל אביב.
קליין, מ'. ([1957] 2012). כתבים נבחרים ב', דרבן, י' (עריכה); זילברשטיין, א' (תרגום). תולעת ספרים, תל אביב.
תשבי, נ' (2009). מסינפסות לרצון חופשי שעור 11, האוניברסיטה העברית בירושלים: ירושלים פורסם בתאריך 31.12.2009 נדלה בתאריך 21.7.2020 מהאתר: https://katzr.net/4b9d55
Biron, T., Barboy, M., Ben-Artzy, E., Golubchik, A., Marmor, Y., Szekely, S., ... & Harel, D. (2024). Non-verbal information in spontaneous speech--towards a new framework of analysis. arXiv preprint arXiv:2403.03522.
Chartrand, T. L., & Bargh, J. A. (1999). The chameleon effect: The perception–behavior link and social interaction. Journal of personality and social psychology, 76(6), 893.
Eichstaedt, J. C., Smith, R. J., Merchant, R. M., Ungar, L. H., Crutchley, P., Preoţiuc-Pietro, D., Asch D.A. & Schwartz, H. A. (2018). Facebook language predicts depression in medical records. Proceedings of the National Academy of Sciences, 115(44), 11203-11208.
Enoch, D., & Ball, H. (2001). Folie à deux (et Folie à plusieurs). Uncommon Psychiatric Syndromes (Fourth edition). London: Arnold, 181.
Flynn, B. (1994). Mental health services in large-scale disasters: An overview of the Crisis Counseling Program. NCPTSD Clinical Quarterly, 4, 11–12.
Giedinghagen, A. (2022). The tic in TikTok and (where) all systems go: Mass social media induced illness and Munchausen’s by internet as explanatory models for social media associated abnormal illness behavior. Clinical Child Psychology and Psychiatry, 13591045221098522.
Khan, N. S., Ghani, M. S., & Anjum, G. (2021). ADAM-sense: Anxiety-displaying activities recognition by motion sensors. Pervasive and Mobile Computing, 78, 101485.
Lee, K., Firat, O., Agarwal, A., Fannjiang, C., & Sussillo, D. (2018). Hallucinations in neural machine translation. https://openreview.net/...d=SkxJ-309FQ
Leswing, K. (4.2.2023). Microsoft’s Bing A.I. made several factual errors in last week’s launch demo. https://www.cnbc.com/20...tml%E2%80%8E
Quarantelli, E. L. (1985). What is disaster? The need for clarification in definition and conceptualization in research. Disasters and mental health: Selected contemporary perspectives, 41-73.
Roberts, W., Zhao, Y., Verplaetse, T., Moore, K.E., Peltier, M.R., Burke, C., et al (2022) Using machine learning to predict heavy drinking during outpatient alcohol treatment. Alcoholism: Clinical and Experimental Research, 46, 657– 666. https://doi.org/10.1111/acer.14802
Spence, D. P. (1982). Narrative truth and theoretical truth. The psychoanalytic quarterly, 51 (1), 43-69.
