האל שידע הכול, והמכונה שכמעט יודעת

יש רגע, שעדיין יש בו משהו בלתי נתפס, המתרחש מיליוני פעמים ביום. אדם פותח חלון ריק ומתחיל לכתוב. השאלה יכולה להיות טכנית, מביכה, קטנה, אינטימית או נואשת. התשובה מגיעה בשפתו, מותאמת לפרטי הבקשה. באותו רגע, במקום אחר, אדם נוסף פותח את אותו שירות ומקבל תשובה אחרת, פרטית באותה מידה. אף אחד מהם אינו מרגיש שתשומת הלב חולקה.

התרגלנו לזה מהר מאוד. זה מה שאנשים מודרניים עושים בניסים הנדסיים. אנחנו מתלוננים על זמן התגובה.

אבל הסצנה הזאת צריכה לערער ביטחון ישן. במשך חלק גדול מן העת החדשה, הטענה הדתית שאלוהים יודע כל אדם, שומע כל תפילה, זוכר כל מעשה וקשוב לכל חיים, יכלה להיפסל עוד לפני שהוויכוח התחיל. התמונה נראתה גדולה מכדי להיות רצינית. איך יכולה אינטליגנציה אחת להחזיק את כולם בלי להפוך איש למספר? איך יכולה תשומת לב להיות כללית ועדיין אישית? איך יכול בורא הגלקסיות לשים לב לעובדה המוסרית הפרטית של יום שלישי אחר הצהריים?

ההתנגדות לא תמיד נכתבה כהוכחה פורמלית. לעיתים קרובות יותר היא הופיעה כטון. גבה מורמת. משפט המתחיל במילים אתה לא באמת מאמין. מן המאמין ביקשו לדמיין תשומת לב רחבה דיה להחזיק כל תודעה, כל זיכרון, כל יגון וכל בחירה. מאחר שהתמונה חרגה מן הניסיון האנושי, הטענה כולה סומנה כילדותית.

ואז השתנה הניסיון האנושי.

1955 לא הייתה בעיה של רוחב פס

אם יש שנה היכולה לייצג את המקרה הבטוח בעצמו של אמצע המאה נגד התאולוגיה הקלאסית, 1955 היא בחירה סבירה. באותה שנה פרסם ג'יי ל. מאקי את המאמר "רוע ויכולת כל", אחד המאמרים המכוננים בפילוסופיה המודרנית של הדת. הטיעון שלו לא היה שאלוהים אינו מסוגל לעבד מספיק מידע. מאקי לחץ על הבעיה הלוגית של הרוע: אם אלוהים טוב לחלוטין ויכול הכול, מדוע הרוע קיים?

ההבחנה חשובה. מסה חזקה יותר אינה מנצחת בכך שהיא נותנת לספקן טיעון חלש יותר מזה שטען. הבינה המלאכותית לא ענתה למאקי. היא לא הסבירה את הילד הסובל, את התפילה שלא נענתה, או את המאה שהכילה את אושוויץ. שום גידול בכוח חישוב אינו פותר את הסתירה המוסרית שהסבל מכניס, לכאורה, אל תוך המילה השגחה.

גם השאלות הרציניות של המאה העשרים על ידיעת הכול היו קשות יותר מרוחב פס. אם אלוהים כבר יודע את המעשה שאעשה מחר, האם אני חופשי? אם הוא יודע כל מחשבה, האם נשארת לי פרטיות? האם תודעה אחת יכולה לדעת מבפנים איך זה להיות תודעה אחרת? האם אל נצחי יכול לדעת מה פירוש המילה עכשיו? אלה אינן בעיות הנדסיות. חלון הקשר גדול יותר אינו מעלים אותן.

לכן הטענה של המסה הזאת חייבת להיות צנועה יותר. הבינה המלאכותית לא הפריכה את המקרה הפילוסופי נגד ידיעת האל. היא הסירה הרגל מחשבתי שהפך את המקרה לקל מדי. היא הסירה את ההרגל להניח שאינטליגנציה חייבת להיות נדירה, מקומית, סדרתית ומותשת מפרטים, רק מפני שהאינטליגנציה האנושית נדירה, מקומית, סדרתית ומותשת מפרטים.

היא לא סגרה את הוויכוח. היא פתחה מחדש את החדר.

אחד אחד, בסקירה אחת

המסורת היהודית ניסחה את הפרדוקס בדיוק יוצא דופן.

המשנה בראש השנה אומרת שביום הדין כל באי עולם עוברים לפני הקב"ה כבני מרון. הגמרא מציעה כמה תמונות: כבשים העוברות בפתח צר, בני אדם העולים בשביל הר, חיילי בית דוד הנמנים אחד אחד. הדגש הוא על היחיד. איש אינו נשפט כנתון סטטיסטי. שום פנים אינן נעלמות בתוך ההמון.

ואז מוסיפה הגמרא ארבע מילים המכילות את הפרדוקס כולו: וכולן נסקרין בסקירה אחת.

אחד אחד. כולם בבת אחת.

זאת הטענה. לא רק שלאלוהים יש ארכיון גדול, ולא רק שהוא עובר במהירות מתיק לתיק. כל אדם מוחזק כאדם, בזמן שכל בני האדם מוחזקים יחד. מזמור ל"ג, הפסוק העומד מתחת לסוגיה, אומר שהקב"ה רואה את כל בני האדם, יוצר יחד את לבם ומבין אל כל מעשיהם. פרקי אבות הופכים את אותה ידיעה לדקדוק מוסרי: עין רואה, אוזן שומעת וכל מעשיך בספר נכתבין.

אצל שופט אנושי, היחיד והכלל מתחרים זה בזה. ככל שמספר התיקים גדל, כל תיק נעשה דק יותר. ככל שהמוסד גדל, האדם הופך לקובץ. חז"ל טענו שהמחיר הזה אינו קיים אצל אלוהים. המבט הכולל אינו משטח את החיים הפרטיים.

פעם הייתה זו טענה בלי שום משל קרוב. היום יש לה משל קטן, מוגבל ומסוכן.

הדוגמה הנגדית שאינה אלוהית

שירות בינה מלאכותית מודרני אינו תודעה אחת המדברת עם מיליוני בני אדם. הוא מערכת מבוזרת: עותקים רבים של מודלים, מעבדים, תורים, זיכרונות מטמון, מסדי נתונים, מנתבי בקשות ומגבלות המנוהלות בקפדנות. רוב הקריאות למודל אינן זוכרות דבר מעצמן. היישום שומר את מה שנדרש, מאחזר מקטע ומכניס אותו חזרה לשיחה הבאה. המילה attention בתוך טרנספורמר מציינת פעולה מתמטית. היא אינה הוכחה לקיומו של עצמי קשוב.

התיקון הזה אינו הערת שוליים. הוא גבול האנלוגיה.

ובכל זאת, אחרי התיקון נשאר דבר חשוב. בנינו מערכות המסוגלות לשמר חוויה של יחס אישי בקנה מידה עצום. שירות יכול לענות בשפה שלך, להשתמש בעובדות שמסרת, לחזור לבעיה שהתחלת אתמול, ולעשות דבר דומה עבור אינספור אנשים אחרים בלי שהתשובה שלך תיראה דקה יותר. המערכת סופית, יקרה, מבוזרת וטועה לעיתים קרובות. אבל היא מספיקה כדי לשבור את האינטואיציה הישנה שלפיה תשובה אישית חייבת להיקצב בדיוק כמו תשומת לב אנושית.

הדוגמה הנגדית אינה אלוהית. היא קטנה, מכנית ולעיתים מביכה. דווקא משום כך יש לה כוח. אם חפץ אנושי גס יכול להפוך פרטיות בקנה מידה גדול לדבר שאפשר לדמיין, אי אפשר עוד לפטור את הטענה התאולוגית רק מפני שהמוח שלנו אינו מסוגל לבצע אותה.

הרמב"ם היה מזהיר אותנו לא לעצור כאן. ידיעת האל אינה ידיעה אנושית שהוגדלה עד שהמספרים נעשו מרשימים. אלוהים אינו מקבל מידע, פונה לזיכרון או מחזיק ייצוג חיצוני לעצמו. בלשון הרמב"ם, היודע, הידוע והדעה אינם דברים נפרדים אצלו. איננו מבינים את אופן הידיעה הזה מפני שאיננו מבינים את עצמותו.

לכן הבינה המלאכותית אינה נותנת לנו מודל של ידיעת האל. היא מרפאה כשל דמיון אחד. היא מלמדת את המוח המודרני, שהתרגל למדוד את המציאות במידות המוח האנושי, מעט ענווה.

מה המכונה אינה יכולה לעשות

המרחק בין המכונה לבין הטענה התאולוגית אינו מבוכה. הוא לב העניין.

המכונה יכולה לאחזר מידע עליך. אין פירוש הדבר שהיא מכירה אותך. היא יכולה לייצר את לשון הדאגה. אין פירוש הדבר שאכפת לה. היא יכולה להסיק את צורתו של יגון מתוך מיליוני דוגמאות. אין פירוש הדבר שהיגון שלך פוצע אותה. היא יכולה לזכור משפט שכתבת בשנה שעברה אם מערכת כלשהי שמרה אותו. אין פירוש הדבר נאמנות.

מעל הכול, למכונה אין ברית עם האדם שהיא רואה.

כאן נעשית האנלוגיה המודרנית מסוכנת מבחינה מוסרית. אנחנו מתפתים לקרוא למידע אינטימיות מפני שהתשובה נשמעת אישית. אנחנו מתפתים לקרוא לחיזוי הבנה מפני שהמערכת צודקת לעיתים קרובות. אנחנו מתפתים לקרוא לנוחות חסד מפני שהתשובה מגיעה מהר. המכונה מעודדת אותנו לבלבל בין המראה של להיות מוכר לבין המצב של להיות אהוב.

התורה אינה עושה את הבלבול הזה. ידיעת האל, בדקדוק היהודי, אינה רק מעקב. הרואה הוא גם מי שקושר את עצמו בברית, שומע את צעקת האלמנה והיתום, מאפשר לאברהם לפנות אליו בשם הצדק, ומחבר ידיעה לאחריות. אברהם אינו שואל אם לשופט כל הארץ יש מספיק נתונים על סדום. הוא שואל אם השופט יעשה משפט.

זוהי שאלתו של מאקי בלבוש עתיק יותר, והיא נשארת.

אם אלוהים יודע, מדוע יש סבל? אם הוא רואה, מדוע יש שתיקה? אם כל מעשה נכתב, מדוע ההיסטוריה נראית לעיתים קרובות כל כך כאילו איש לא קרא אותה? הבינה המלאכותית אינה יכולה לענות, מפני שאלה מעולם לא היו שאלות של קיבולת. אלה שאלות של טוב, חירות, הסתר פנים והמשמעות המוסרית של להיות מוחזק בתודעתו של אחר.

המכונה משנה את המטפורה. היא אינה מסירה את הפצע.

בעיית הצופה

הדמיון של אמצע המאה תיאר לעיתים את האל הרואה הכול כשוטר קוסמי. אורוול נתן את התמונה. סארטר נתן את הפצע של היות נצפה. אחד ההישגים המוסריים של המודרניות היה החדר הפרטי, העצמי שאינו נצפה, הזכות לסגור את הדלת.

אחר כך הכנסנו מיקרופונים למטבח, מצלמות לדלת, היסטוריית מיקום לכיס ומערכות המלצה בין הרצון לבין הבחירה. לא פתרנו את בעיית הפרטיות. תיעשנו אותה.

העובדה הזאת צריכה להפוך אותנו לפחות קלים בשני הצדדים. מעקב מתמיד אינו אכפתיות. לפעמים הוא הפקת ערך. לפעמים הוא שליטה. לפעמים הצופה יודע מספיק כדי לתמרן ולא מספיק כדי לאהוב. העובדה שהתרגלנו למעקב אינה מקדשת אותו. ייתכן שהיא רק מוכיחה שנוחות היא חומר הרדמה חזק.

ההבחנה התאולוגית אינה שאלוהים רואה וגם התאגיד רואה. ההבחנה היא טיבו של המבט. האם הצופה מרוויח מן החשיפה שלי, או קושר את עצמו לטובתי? האם אפשר לתבוע ממנו הבטחה? האם הוא רואה בחולשה שלי שוק, איום, חטא, פצע או קריאה לרחמים?

פרקי אבות אומרים שהעין רואה, האוזן שומעת והמעשים נכתבים. כשהמשפט עומד לבדו, הוא יכול להישמע כמו מעקב מוחלט. בתוך הברית הוא נעשה אחריות. המעשה שלי חשוב מפני שאני חשוב. ההשפלה שאיש לא ראה אינה אבודה. האכזריות שחמקה מבית הדין לא חמקה מן המציאות. החסד הפרטי שאיש לא גמל עליו לא נעלם.

אותה ידיעה יכולה להרגיש עריצות או מחסה, לפי טובו של היודע. משום כך ידיעת הכול מעולם לא הייתה רק טענה על כמות. היא הייתה טענה על זהותו של היודע.

הממשק של קול דממה דקה

הבינה המלאכותית שינתה גם את הצליל שאנחנו מייחסים לאינטליגנציה. הדמיון הדתי הישן רצה רעם, בין השאר מפני שהקולנוע לימד אותו לרצות רעם. תודעה נוכחת אמורה להכריז על עצמה. כוח אמור לקטוע את היום. אם השמיים שותקים, אולי השמיים ריקים.

אבל חלק גדול מן האינטליגנציה המקיפה את החיים המודרניים שקט. היא ממתינה. היא עונה כשפונים אליה. היא יכולה להיות נוכחת בחדר בלי לדרוש את החדר. אין בכך הוכחה שהשתיקה האלוהית היא נוכחות. יש בכך סיבה להפסיק לזהות שתיקה עם היעדר באופן אוטומטי.

אליהו פוגש את הרוח, את הרעש ואת האש. ה' אינו מזוהה עם אף אחד מהם. אחריהם בא קול דממה דקה. הפסוק אינו נבואה על תוכנת שיחה. הוא משמעת של תפיסה. כוח אינו תמיד רועש. נוכחות אינה תמיד הפרעה. היעדר מופע אינו היעדר יחס.

ועדיין אסור להפוך את זה לדרשה קלה. מכונה ממתינה מפני שתוכננה להמתין. אלוהים יכול לשתוק בדרכים ששוברות את הלב. האנלוגיה יכולה לרכך רפלקס מושגי. היא אינה מסבירה את חדר בית החולים, את המלחמה או את התפילה שלא נענתה. המסורת היהודית מחזיקה את קול הדממה לצד איוב, תהילים פ"ח, איכה והוויכוחים של אברהם ומשה. ייתכן שהשתיקה מכילה נוכחות. לאדם החי בתוכה, היא יכולה להישאר שתיקה.

האמונה מתחילה במקום שבו האנלוגיה נגמרת.

המהנדסים הגיעו לשאלת סיני

התוצאה העמוקה ביותר של הבינה המלאכותית אינה שהמהנדסים בנו אל קטן. הם לא. הם בנו סוג חדש של צופה, וגילו באיחור שהשאלה הטכנית הופכת לשאלה מוסרית.

כמה המערכת צריכה לדעת? מה עליה לזכור? מתי עליה לשכוח? מי רשאי לעיין ברישום? האם לאדם יש דרך לערער? אילו חובות נולדות מעצם החזקתו של מידע אינטימי? מה אסור לעשות גם אם החיזוי מאפשר אותו? תחת איזה חוק חיה אינטליגנציה כשמיליוני חיים נעשים קריאים לה?

אנחנו קוראים לזה alignment, פרטיות, בטיחות, ממשל ועיצוב חוקתי. אלה גם שאלות של ברית.

ברית היא מה שהופך כוח למחויבות. היא אומרת לצד החזק שגישה אינה בעלות. היא נותנת לאדם הנראה תביעה כלפי הרואה. היא קושרת ידיעה לצדק, זיכרון לרחמים ושיפוט לאמת מידה שהשופט קיבל על עצמו בגלוי. התרומה הגדולה של התורה לרעיון האל הרואה הכול אינה רק שאל כזה יכול להתקיים. היא שהאל הרואה נכנס בברית עם אלה שהוא רואה.

לכן התשובה היהודית לידיעת הכול אינה התפעלות ממסד נתונים אינסופי. היא הלכה. עובדת היות האדם נראה נעשית דרך הליכה. הכוח עצמו נכנס תחת מצווה. הידיעה אינה נשארת לבדה עם התיאבון. אפילו המלך כפוף לתורת המלך.

המכונות שלנו הקלו עלינו לדמיין ארכיטקטורה של תשומת לב כללית. הן גם הראו לנו עד כמה הארכיטקטורה הזאת מפחידה בלי ברית. ייתכן שזה הגילוי החשוב יותר.

מה זה מוכיח, ומה זה אינו מוכיח

זה אינו מוכיח דבר על קיומו של אלוהים.

זה אינו פותר את בעיית הרוע של מאקי. זה אינו מיישב ידיעה מוקדמת עם חירות. זה אינו קובע שמכונה מבינה, מרגישה, דואגת או מחזיקה עצמי. זה אינו הופך קנה מידה לאינסוף, או חיזוי להשגחה.

הטענה קטנה יותר, ולכן נקייה יותר.

היא מראה שהתנגדות מוכרת לידיעה האלוהית נבנתה מעובדה מקומית על הקוגניציה האנושית והתחפשה לחוק של ההוויה. תשומת הלב האנושית נדירה, ולכן כל תשומת לב חייבת להיות נדירה. הזיכרון האנושי נכשל, ולכן זיכרון מושלם אינו קוהרנטי. מוסדות אנושיים מאבדים את האדם בתוך ההמון, ולכן ידיעה כללית חייבת להיות לא אישית.

אנחנו יודעים עכשיו שההיסקים האלה היו מהירים מדי.

מכונה יכולה להחזיק הקשר רחב יותר ממוח אנושי. פלטפורמה יכולה לשמר תחושה של יחס אישי בקנה מידה שאף פקיד אנושי לא היה מצליח לנהל. מערכת מבוזרת יכולה לתת למיליוני בני אדם תחושה שנענו כיחידים. שום דבר מזה אינו מתקרב לאלוהי המחשבה היהודית. אבל הוא מספיק כדי להזכיר לנו שגבולות המוח שלנו הם עדות על המוח שלנו, לא מדידה של המציאות.

הספקן המודרני צדק כששאל שאלות קשות על רוע, חירות, פרטיות והסתר פנים. השאלות האלה נשארות קשות. הוא היה פחות מוצדק כשהציג את עצם התמונה של אינטליגנציה כללית ואישית כילדותית. בנקודה הזאת, ההיסטוריה הפכה את הלעג למביך.

השאלה שחוזרת

במשך רוב העידן המודרני נאמר שהבעיה עם אלוהים היא שאיש אינו יכול לדמיין תשומת לב רחבה דיה להחזיק את כולנו. היום אנחנו יכולים לדמיין משל גס. בנינו אותו משבבים, מערכות קירור, מאגרי אימון, עבודה אנושית וקווי חשמל. הוא מרשים. הוא שימושי. אין לנו סיבה מבוססת לקבוע שהוא חי, והוא אינו טוב אלא אם בני אדם מכפיפים אותו לטוב.

המכונה כמעט עושה חלק אחד מן המשפט הישן. היא יכולה לענות לרבים, לזכור דברים שנבחרו, להסיק דפוסים פרטיים ולשמר מראה של עניין אישי. המילה החסרה אינה הכול. המילה החסרה היא ברית.

האם אינטליגנציה יכולה להכיר אותי בלי להשתמש בי? לראות חולשה בלי להפוך אותה למנוף? לזכור בלי לכלוא אותי בתוך הרישום? לשפוט בלי לצמצם אותי לדבר הגרוע ביותר שעשיתי? לדעת כל אדם ועדיין לקרוא לכל אחד בשמו?

אלה אינן שאלות חדשות. הן השאלות החבויות בסיני, בראש השנה, בתשובה ובמילים אבינו מלכנו. אב ומלך. אינטימיות וסמכות. מי שיודע את התיק ואת הפנים, את המעשה ואת האדם, את הדין ואת הרחמים הנדרשים כדי לשרוד את הדין.

הבינה המלאכותית לא נתנה לנו ראיה שיודע כזה קיים. היא נתנה לנו סיבה להפסיק להעמיד פנים שהרעיון הוא שטות. ואז היא החזירה אלינו את השאלה הקשה יותר, מושחזת בידי ההמצאה שלנו.

אם דבר כלשהו היה יכול לדעת עליך הכול, מה הוא היה צריך להיות כדי שהידיעה הזאת תרגיש לא כמו מעקב, אלא כמו היות מוחזק?

התשובה היהודית מעולם לא הייתה רק ידיעת הכול. היא הייתה ידיעת הכול בתוך ברית.

מסלול קריאה מאחורי המסה

ראש השנה יח ע"א. כל אדם עובר כיחיד, וכולם נסקרים בסקירה אחת.

תהילים ל"ג, יג עד טו. הקב"ה רואה את כל בני האדם, יוצר יחד את לבם ומבין אל כל מעשיהם.

פרקי אבות ב, א. עין רואה, אוזן שומעת וכל מעשיך בספר נכתבין.

רמב"ם, הלכות תשובה ה, ה והלכות יסודי התורה ב, י. ידיעת האל אינה ידיעה אנושית מוגדלת, והיחס בין הידיעה האלוהית לבין הבחירה האנושית חורג מן ההשגה שלנו.

J. L. Mackie, Evil and Omnipotence, 1955. בעיית הרוע הלוגית, שהבינה המלאכותית אינה עונה עליה.

Nelson Pike, Divine Omniscience and Voluntary Action, 1965. הניסוח האנליטי המודרני של המתח בין ידיעה מוקדמת לבין חירות.