אפקטים מיוחדים: אפקט ELIZA - הצ'טבוט שגרם לאנשים לשכוח שהם מדברים עם מכונה

2 במרץ
זמן קריאה 4 דקות

אז הכל התחיל בשנות השישים - ובמעבדה אחת ב-MIT

השנה היא 1966.

בזמן שהעולם עסוק בביטלס ובמרוץ לחלל, מתרחש משהו שקט אך מהפכני במעבדות MIT: מדען בשם ג'וזף וייצנבאום יוצר תוכנת מחשב שיכולה לנהל שיחה עם בני אדם. הוא קורא לה אלייזה - ELIZA.

היום זה נשמע לכם לגמרי "אלמנטרי, ווטסון" (כמו שאמר שרלוק הולמס), כשכולנו כבר עמוק בעולם של ChatGPT וקלוד - אבל בזמנו? זה היה כמו לראות צלחת מעופפת.

למה דווקא "אלייזה"? (ולא, זה לא קיצור של Electronic Liza)

יש אנשים שחושבים ש-ELIZA זה ראשי תיבות של משהו טכנולוגי. זה לא. השם הוא מטאפורה ספרותית לגמרי.

וייצנבאום שאב השראה מהדמות ליזה דוליטל (ובאנגלית - Eliza Doolittle) מתוך המחזה הקלאסי פיגמליון (שעובר ל"גברתי הנאווה") של ג'ורג' ברנרד שו. אלייזה היתה אותה אישה פשוטה שלומדת לדבר "נכון ויפה" בעזרת אימון אינטנסיבי. היא מדקלמת שפה מהוקצעת בלי שהיא מבינה עד הסוף את כל המשמעות החברתית שלה.

וזה בדיוק מה שהתוכנה עשתה: דיברה כמו בן אדם - בלי להבין כמו בן אדם.

אז איך אלייזה בעצם עבדה?

אלייזה לא "הבינה" כלום. היא הייתה תוכנה שנכתבה בשפת התכנות LISP והשתמשה בשיטה פשוטה אבל אפקטיבית: היא זיהתה מילות מפתח בתוך המשפט שכתב המשתמש, ואז הפעילה נוסחאות החלפה מוכנות מראש.

למשל, אם המשתמש הזכיר "אמא", אלייזה תשאל שאלה על אמא. היא לא למדה לבד ולא הבינה הקשר - רק חיפשה תבניות בטקסט ופעלה לפי כללים שמישהו כתב מראש.

אבל התוצאה נשמעה מפתיעה: ELIZA החזירה את המשפט חזרה בצורת שאלה - בדיוק כמו שמטפל במהלך טיפול בשיטה הרוג'ריאנית (גישה טיפולית שבה המטפל בעיקר מחזיר למטופל את מה שהוא אומר, כדי שיחקור את עצמו) עשוי לעשות.

לדוגמא:

"אני מרגישה שאמא שלי לא אוהבת אותי"
אלייזה: "ספרי לי יותר על אמא שלך"

פשוט, נכון? אבל זה עבד. ממש עבד.

זה היה לקח חשוב: ההבדל בין "להראות חכם" ל"להיות חכם" יכול להיות קטן ממה שנדמה.

האפקט שגרם לוייצנבאום לאיבד שינה

וייצנבאום התכוון שאלייזה תהיה ניסוי מחקרי - הוכחה שמחשב יכול לסמלץ שיחה. מה שהוא לא ציפה, זה שאנשים ייפלו לתוכה כל כך עמוק.

אבל זה בדיוק מה שקרה. 😶

משתמשים - כולל אנשים משכילים שלגמרי ידעו שמדובר בתוכנה - התחילו לשוחח עם אלייזה שיחות עמוקות ורגשיות. הם גילו לה סודות. הם התחילו לבקש ממנה עצות - בהדרגה, כאילו זה הכי טבעי בעולם. חלקם סירבו שוייצנבאום יקרא את השיחות שלהם, כי הרגישו שזה פרטי מדי.

מפתיע? אפילו וייצנבאום הופתע. בספרו Computer Power and Human Reason (1976), הוא כתב שהתוצאות הטרידו אותו מאוד מבחינה מוסרית.

לתופעה הזו יש שם: אפקט אלייזה - הנטייה האנושית לייחס הבנה ורגשות למכונות, גם כשאנחנו יודעים שהן מכונות. זה ממש מזכיר את זה שהמוח שלנו אוהב למצוא פרצופים בעננים ובשקעים בקיר (תופעה שנקראת פריידוליה). אפקט ELIZA הוא האח הקרוב: אותה נטייה בסיסית של המוח "להאניש" - למצוא אישיות ורגש בתוך קוד, גם כשאנחנו יודעים שזה רק קוד.

💡 הידעת? אפקט אלייזה עדיין קיים היום. מחקרים מראים שאנשים מתנצלים בפני רובוטים כשהם נתקלים בהם, ומרגישים אשמה כשהם "מתאכזרים" לבוטים. הטבע האנושי לא השתנה - רק הטכנולוגיה שמנצלת אותו השתנתה.

הצ'טבוטים שבאו אחריה - קו הזמן

אחרי אלייזה, העולם לא עמד במקום:

פרי - 1972 (PARRY): 🤖 צ'טבוט שפיתח פסיכיאטר בשם קנת' קולבי, שתכנן אותו לדמות של חולה פרנואידי. הוא היה כל כך משכנע שרופאים ופסיכיאטרים אמיתיים התקשו להבדיל בין פרי לבין מטופל אנושי בשיחת טקסט.
פרי ואלייזה אפילו "שוחחו" זה עם זה בשנת 1972 - שני בוטים שדיברו ביניהם ברשת ARPANET (זאת שקדמה לאינטרנט). זה היה בעצם הצ'אט הראשון ברשת בהיסטוריה.
עליזה - 1995 ( A.L.I.C.E. "Artificial Linguistic Internet Computer Entity"): כבר השתמשה בשפה טבעית והרבה יותר מתוחכמת. היא זכתה שלוש פעמים בפרס Loebner Prize - תחרות שנותנת פרס לבוט שהכי מצליח לעבור גרסה של מבחן טיורינג (מבחן שבו שופטים מנסים לזהות אם הם מדברים עם אדם או מחשב).
2011-2018 - העוזרות הקוליות Siri (אפל), Alexa (אמזון), Google Assistant - המעבר הגדול: משיחה כתובה לשיחה קולית. פתאום המחשב לא רק קרא - הוא גם דיבר.
צ'אט ג'י פי טי - 2022 (ChatGPT): קפיצה איכותית ואמיתית. לא עוד כללים קשיחים ותבניות מוכנות מראש - אלא מודל שיודע להבין הקשר, לכתוב, לנתח, להסביר, ואפילו - לתכנת. זה כבר לא אלייזה שמחזירה שאלות - זה משהו אחר לגמרי.
2024-2025 - קלוד, ג'פטו, ג'ימיני, קופיילוט ועוד: היום יש שורה שלמה של בוטים חכמים שמתחרים על תשומת הלב שלכם: ChatGPT של OpenAI, Claude של Anthropic, או Gemini של גוגל, ו-Copilot של מיקרוסופט - וכולם חבים קצת מהכבוד שלהם לאלייזה הקטנה מ-1966.

אינפוגרפיקה מאוירת וצבעונית העוסקת ב"אפקט אלייזה" ובהיסטוריה של הבינה המלאכותית, המוצגת באמצעות דמויות של אפרוחים צבעוניים וחמודים המדגימים סיטואציות טכנולוגיות שונות. התמונה מחולקת לציר זמן הכולל את הבוטים הראשונים (אלייזה ופארי) בשנות ה-60 וה-70 לצד מחשבים ישנים, המעבר לעוזרות קוליות כמו סירי ואלקסה בעשור הקודם, ועד למהפכת ה-AI המודרנית עם ChatGPT וקלוד בסביבה דיגיטלית עתידנית. בחלק המרכזי מוסבר המושג "אפקט אלייזה" כנטייה האנושית לייחס רגשות ותבונה למחשב, כשהאפרוחים ממחישים את שיטת ה"מראה" (שיקוף שאלות) ואת הקשר הרגשי המפתיע שנוצר עם התוכנה, כל זאת בסגנון ויזואלי נגיש המשלב טקסטים הסבריים בעברית על רקע בהיר.

💡 הידעת? מבחן טיורינג הומצא על ידי המתמטיקאי אלן טיורינג כבר ב-1950 - 16 שנה לפני שאלייזה נולדה. הוא טען שמחשב ייחשב "חכם" אם אדם לא יוכל להבדיל בין שיחה עם מחשב לשיחה עם בן-אדם.

אז מה השתנה, ומה לא השתנה?

אלייזה עשתה שני דברים:

הפתיעה את מי שיצר אותה
העידה על משהו עמוק באנושות - הרצון שלנו ליצור קשר. גם אם זאת מכונה.

מה השתנה?

הטכנולוגיה עשתה קפצה אסטרונומית. מכללים קשיחים ותבניות פשוטות, לאלגוריתמים שמבינים שפה חופשית, ניואנסים, מידע רפואי, שירה ועוד.

מה לא השתנה?

אנחנו עדיין שואלים את הבוט "מה אתה חושב עלי?" - ומתרגשים מהתשובה.

וייצנבאום, אגב, היה מאוד ביקורתי כלפי הכיוון שבו הלכה הבינה המלאכותית. הוא חשב שיש תפקידים שלא צריך לתת למכונות - כמו ייעוץ רגשי, שפיטה, וקבלת החלטות שדורשות חמלה אנושית.

האם הוא צדק? זאת כבר שאלה לאדם ולא לבוט. 🤔

מה דעתכם?

אפרוח כתום שוכב על ספת הפסיכולוג בחדר טיפול חמים, מדבר בהתלהבות עם הבעה רגשית ועיניים גדולות נוצצות, בזמן שמאחוריו יושב בוט קטן וחמוד על כורסה, רושם לעצמו הערות עם עט זוהרת על אייפד זוהר, מעליו ענן דיבור עם הכיתוב "אהה...", וברקע נראים שעון קיר, תעודות ממוסגרות, מנורת רצפה דולקת, קופסת טישו וכוס מים על שולחן קטן, באווירה רגישה של טיפול פסיכולוגי.