האל שידע הכול, והמכונה שכמעט יודעת

אירוע קטן, שעדיין יש בו משהו בלתי נתפס, מתרחש מיליוני פעמים ביום. אדם פותח חלון ריק וכותב דבר טכני, מביך, שולי, אינטימי או נואש. התשובה מגיעה בשפתו ומתייחסת לפרטים שמסר. באותו רגע, במקום אחר, אדם נוסף מקבל תשובה אחרת, אישית באותה מידה. איש מהם אינו רואה פקיד מרים את העיניים מתיק אחר. איש מהם אינו מרגיש שתשומת הלב חולקה.

הסתגלנו במהירות כמעט מגונה. הנס נעשה שירות, ואז שירות שזמן התגובה שלו מעצבן אותנו.

אבל חלון השיחה הרגיל ערער ביטחון ישן. במשך חלק גדול מן העת החדשה היה אפשר לפטור מראש את הטענה שאלוהים יודע כל אדם, שומע כל תפילה, זוכר כל מעשה וקשוב לכל חיים. התמונה נראתה גדולה מכדי להיות רצינית. איך יכולה אינטליגנציה אחת להחזיק את כולם בלי להפוך איש למספר? איך יכול בורא הגלקסיות להבחין בעובדה המוסרית הפרטית של יום שלישי אחר הצהריים?

ההתנגדות הגיעה בדרך כלל כטון, לא כהוכחה. גבה מורמת. משפט המתחיל במילים אתה לא באמת מאמין. תשומת הלב האנושית מקומית, סדרתית ומתעייפת מהר מפרטים. הנחנו שכך חייבת להיות כל תשומת לב.

ואז בנינו מכונות שיכולות לענות למיליוני בני אדם בלי שכל תשובה תיראה פחות אישית.

הן לא הוכיחו את אלוהים. הן עשו דבר מועיל יותר: הפרידו בין שתי שאלות שנהגנו לערבב. האם אינטליגנציה יכולה לפנות לרבים בלי לאבד לעינינו את היחיד? ומה הופך ידיעה כזאת לאכפתיות ולא למעקב?

הבינה המלאכותית שינתה את השאלה הראשונה. היא הקשתה עוד יותר להתחמק מן השאלה השנייה.

ההתנגדות שהבינה המלאכותית באמת החלישה

ההתנגדויות המודרניות החזקות לאלוהים מעולם לא עסקו ברוחב פס. בשנת 1955 פרסם ג'יי ל. מאקי את המאמר "רוע ויכולת כל", מן המאמרים המכוננים בפילוסופיה המודרנית של הדת. שאלתו הייתה מוסרית: אם אלוהים טוב לחלוטין ויכול הכול, מדוע הרוע קיים?

לבינה המלאכותית אין תשובה לילד הסובל, לתפילה שלא נענתה או למאה שהכילה את אושוויץ. עוד כוח חישוב אינו מתקן את הסתירה שהסבל מכניס, לכאורה, אל תוך המילה השגחה.

גם יתר השאלות הרציניות על ידיעת הכול נשארו קשות כשהיו. אם אלוהים כבר יודע מה אעשה מחר, האם אני חופשי? אם כל מחשבה ידועה, האם נשארת לי פרטיות? האם תודעה אחת יכולה לדעת מבפנים איך זה להיות תודעה אחרת? האם אל נצחי יכול לדעת מה פירוש המילה עכשיו? חלון הקשר גדול יותר אינו נוגע בבעיות האלה.

לכן צריך לנסח את הטענה במדויק. הבינה המלאכותית לא הפריכה את המקרה הפילוסופי נגד ידיעת האל. היא הפריכה היסק עצל אחד שהיה חבוי בתוכו: תשומת הלב האנושית נדירה, ולכן יחס אישי בקנה מידה כללי אינו קוהרנטי.

ההיסק הזה עבר במשך שנים בתחפושת של שכל ישר. עכשיו הוא צריך לטעון בזכות עצמו.

אחד אחד, בסקירה אחת

המסורת היהודית ניסחה את הבעיה הזאת בדיוק יוצא דופן.

המשנה בראש השנה אומרת שביום הדין כל באי עולם עוברים לפני הקב"ה כבני מרון. הגמרא מציעה כמה תמונות: כבשים העוברות בפתח צר, בני אדם העולים בשביל הר, חיילי בית דוד הנמנים אחד אחד. איש אינו נשפט כנתון סטטיסטי. שום פנים אינן נעלמות בתוך ההמון.

ואז מוסיפה הגמרא ארבע מילים המכילות את הפרדוקס כולו: וכולן נסקרין בסקירה אחת.

אחד אחד. כולם בבת אחת.

הטענה גדולה יותר מארכיון אינסופי. אלוהים אינו עובר במהירות עצומה מתיק לתיק. כל אדם מוחזק כאדם בזמן שכל בני האדם מוחזקים יחד. מזמור ל"ג, הפסוק שמתחת לסוגיה, אומר שהקב"ה רואה את כל בני האדם, יוצר יחד את לבם ומבין אל כל מעשיהם. פרקי אבות מעניקים לאותה ידיעה דקדוק מוסרי: עין רואה, אוזן שומעת וכל מעשיך בספר נכתבין.

אצל שופט אנושי, הכלל מתחרה ביחיד. יותר תיקים פירושם ידיעה דקה יותר של כל תיק. מוסד גדול הופך אדם לקובץ. חז"ל טענו שהמחיר הזה אינו קיים אצל אלוהים. המבט הכולל אינו משטח את החיים הפרטיים.

במשך מאות שנים לא היה למשפט הזה משל קרוב. היום יש לו משל קטן ומסוכן.

הדוגמה הנגדית שאינה אלוהית

שירות בינה מלאכותית מודרני אינו תודעה אחת המדברת עם מיליוני בני אדם. הוא מערכת מבוזרת של עותקי מודלים, מעבדים, תורים, זיכרונות מטמון, מסדי נתונים, מנתבים ומגבלות המנוהלות בקפדנות. רוב הקריאות למודל אינן זוכרות דבר מעצמן. יישום שומר עובדות נבחרות, מאחזר מקטע ומכניס אותו לשיחה מאוחרת יותר. המילה attention בתוך טרנספורמר מציינת פעולה מתמטית. היא אינה מוכיחה שיש שם עצמי קשוב.

התיקון הזה הוא גבול האנלוגיה, לא הערת שוליים.

אחרי התיקון נשארת עובדה אחת. בנינו מערכות המשמרות חוויה של מענה אישי בקנה מידה עצום. שירות יכול לענות בשפה שלך, להשתמש בפרטים שמסרת, לחזור לבעיה שהתחלת אתמול ולעשות דבר דומה עבור אינספור אנשים אחרים בלי שהתשובה שלך תיראה דקה יותר. המערכת סופית, יקרה, מבוזרת וטועה לעיתים קרובות. היא עדיין מספיקה כדי לשבור את האינטואיציה שלפיה מענה אישי חייב להיקצב בדיוק כמו תשומת לב אנושית.

נסו לתאר את חלון השיחה הרגיל לפילוסוף משנת 1955. הוא לא היה משתכנע בקיומו של אלוהים. אבל משפט בטוח אחד היה נהרס: שום אינטליגנציה אינה יכולה לפנות למיליונים כיחידים, מפני ששום תודעה אינה יכולה להכיל פרטים רבים כל כך.

הרמב"ם היה עוצר אותנו לפני שהאנלוגיה תיהפך לעבודה זרה. ידיעת האל אינה ידיעה אנושית שהוגדלה עד שהמספרים נעשו מרשימים. אלוהים אינו מקבל מידע, פונה לזיכרון או מחזיק ייצוג מחוץ לעצמו. בלשון הרמב"ם, היודע, הידוע והדעה אינם דברים נפרדים אצלו. איננו מבינים את אופן הידיעה הזה מפני שאיננו מבינים את עצמותו.

הבינה המלאכותית אינה נותנת לנו מודל של ידיעת האל. היא מתקנת כשל דמיון אחד. גבולות המוח האנושי הם עובדות על המוח האנושי, לא מידותיה של המציאות.

תיק איננו פנים

המרחק בין ידיעת המכונה לבין הטענה התאולוגית הוא המקום שבו המסה נעשית מעניינת.

מערכת יכולה לאחזר עובדות עליך בלי להכיר אותך. היא יכולה לייצר את לשון הדאגה בלי שיהיה אכפת לה. היא יכולה להסיק את צורתו של יגון ממיליוני דוגמאות בלי שהיגון שלך יפצע אותה. היא יכולה לשמור משפט שכתבת בשנה שעברה בלי להיות נאמנה לך.

מסד נתונים מחזיק מידע. ברית מולידה מחויבות.

קל להחמיץ את ההבדל מפני שתשובה קולחת מרגישה אינטימית. חיזוי מתחיל להיראות כהבנה. נוחות מתחילה להיראות כחסד. אפשר לייצר מראית עין של היכרות בלי אהבה.

התורה מסרבת לערבוב הזה. ידיעת האל במחשבה היהודית אינה ידיעתו של צופה מן הצד. הרואה הוא גם השומע את צעקת האלמנה והיתום. אפשר לפנות אליו בשם הצדק. אברהם אינו שואל אם לשופט כל הארץ יש מספיק נתונים על סדום. הוא שואל אם השופט יעשה משפט.

כאן חוזרת שאלתו של מאקי בעוצמה גדולה יותר. אם אלוהים יודע, מדוע יש סבל? אם הוא רואה, מדוע יש שתיקה? אם כל מעשה נכתב, מדוע ההיסטוריה נראית לעיתים קרובות כל כך כאילו איש לא קרא אותה? שערוריית הילד הסובל אינה קטנה מפני שמערכת מידע מסוגלת לספור כל ילד.

אלה מעולם לא היו שאלות של קיבולת. אלה שאלות על טוב, חירות, הסתר פנים והמשמעות המוסרית של להיות מוחזק בתודעתו של אחר. המכונה משנה את מה שאנחנו יכולים לדמיין. היא אינה יכולה לומר לנו במי ראוי לבטוח.

הפחד הישן חזר כמוצר

הדמיון של אמצע המאה תיאר לעיתים את האל הרואה הכול כשוטר קוסמי. אורוול נתן את התמונה. סארטר נתן את הפצע של היות נצפה. המודרניות הגנה על החדר הפרטי, על העצמי שאינו נצפה ועל הזכות לסגור את הדלת.

אחר כך הכנסנו מיקרופונים למטבח, מצלמות לדלת, היסטוריית מיקום לכיס ומערכות המלצה בין הרצון לבין הבחירה. לא פתרנו את בעיית הפרטיות. הפכנו אותה למודל עסקי.

הבינה המלאכותית לימדה אותנו שהיות מוכר יכול להרגיש כשירות ולהמשיך לתפקד כהפקת ערך. התאמה אישית יכולה להישמע אינטימית ולהישאר אדישה בתכליתה. צופה עשוי לדעת מספיק כדי לתמרן ולא מספיק כדי לאהוב. הנוחות שלנו מול מעקב אולי רק מוכיחה שנוחות היא חומר הרדמה חזק.

השאלה התאולוגית איננה רק מי רואה. השאלה היא טיבו של המבט. האם הצופה מרוויח מן החשיפה שלי או קושר את עצמו לטובתי? האם הוא רואה חולשה כמנוף, כאיום, כחטא, כפצע או כקריאה לרחמים? האם לאדם הנראה יש תביעה כלפי הרואה?

פרקי אבות אומרים שהעין רואה, האוזן שומעת והמעשים נכתבים. כשהמשפט עומד לבדו, הוא יכול להישמע כמו מעקב מוחלט. בתוך ברית הוא נעשה אחריות. האכזריות שחמקה מבית הדין לא חמקה מן המציאות. החסד הפרטי שאיש לא גמל עליו לא נעלם. ההשפלה שאיש לא ראה נראתה.

טובו של היודע משנה את משמעות היותנו ידועים. משום כך ידיעת הכול מעולם לא הייתה רק טענה על כמות. היא הייתה טענה על אופי.

שתיקה איננה ראיה לאף כיוון

הבינה המלאכותית מערערת עוד רפלקס מודרני. ציפינו שתודעה נוכחת תכריז על עצמה. כוח אמור להישמע כרעם. אם השמיים שותקים, אולי השמיים ריקים.

חלק גדול מן האינטליגנציה המקיפה את החיים המודרניים שקט. היא ממתינה. היא עונה כשפונים אליה. אין בכך הוכחה שהשתיקה האלוהית היא נוכחות. יש בכך רק חשיפה של חולשת הטענה ההפוכה: שתיקה לבדה אינה מוכיחה היעדר.

אליהו פוגש את הרוח, את הרעש ואת האש. ה' אינו מזוהה עם אף אחד מהם. אחריהם בא קול דממה דקה. הפסוק אינו נבואה על תוכנת שיחה. הוא משמעת של תפיסה. כוח אינו חייב להיות רועש. נוכחות אינה חייבת לקטוע.

פתיחת אפשרות מושגית איננה נחמה. מכונה ממתינה מפני שתוכננה להמתין. השתיקה האלוהית יכולה לשבור את הלב. האנלוגיה אינה מסבירה את חדר בית החולים, את המלחמה או את התפילה שלא נענתה. המסורת היהודית מחזיקה את קול הדממה לצד איוב, תהילים פ"ח, איכה והוויכוחים של אברהם ומשה. ייתכן שהשתיקה מכילה נוכחות. לאדם החי בתוכה, היא יכולה להישאר שתיקה.

האמונה מתחילה במקום שבו האנלוגיה אינה יכולה לשאת אותנו עוד.

המהנדסים הגיעו לשאלת סיני

התוצאה העמוקה ביותר של הבינה המלאכותית אינה שהמהנדסים בנו אל קטן. הם לא. הם בנו סוג חדש של צופה וגילו שכל שאלה טכנית נעשית לבסוף שאלה מוסרית.

עליהם להחליט כמה מותר למערכת לדעת, מה מותר לה לזכור, מתי היא חייבת לשכוח, מי רשאי לעיין ברישום, האם לאדם יש דרך לערער ומה אסור לעשות גם כאשר החיזוי מאפשר אותו. החזקת מידע אינטימי יוצרת חובות. השאלה היא רק אם נקרא להן בשם ונאכוף אותן.

אנחנו קוראים לזה alignment, פרטיות, בטיחות, ממשל ועיצוב חוקתי. לתורה יש מילה עתיקה למבנה הכובל כוח למחויבות: ברית.

ברית אומרת לצד החזק שגישה אינה בעלות. היא נותנת לאדם הנראה תביעה כלפי הרואה. היא קושרת ידיעה לצדק, זיכרון לרחמים ושיפוט לאמת מידה גלויה. התרומה הגדולה של התורה לרעיון האל הרואה הכול איננה רק שאל כזה עשוי להתקיים. היא שהאל הרואה נכנס בברית עם אלה שהוא רואה.

לכן התשובה היהודית לידיעת הכול היא הלכה ולא התפעלות ממסד נתונים אינסופי. עובדת היות האדם נראה נעשית דרך הליכה. הכוח אינו נשאר לבדו עם התיאבון. אפילו המלך כפוף לתורת המלך.

המהנדסים הגיעו לשאלת סיני. השאלה איננה עוד אם אינטליגנציה יכולה להפוך מיליוני חיים לקריאים. השאלה היא איזה חוק צריך לחול עליה מרגע שהם נעשו כאלה.

מה השתנה

שום דבר כאן אינו מוכיח שאלוהים קיים.

הבינה המלאכותית אינה פותרת את בעיית הרוע של מאקי. היא אינה מיישבת ידיעה מוקדמת עם חירות. היא אינה מוכיחה שמכונה מבינה, מרגישה, דואגת או מחזיקה עצמי. קנה מידה איננו אינסוף. חיזוי איננו השגחה.

השינוי קטן ונקי יותר. כמה אינטואיציות איבדו את הזכות להתחפש לטיעונים.

תשומת הלב האנושית נדירה, אבל אין פירוש הדבר שכל תשומת לב חייבת להיות נדירה. הזיכרון האנושי נכשל, אבל אין פירוש הדבר שזיכרון מושלם אינו קוהרנטי. מוסדות אנושיים מאבדים את האדם בתוך ההמון, אבל אין בכך הוכחה שידיעה כללית חייבת להיות לא אישית. המסקנות האלה הוברחו מתוך עובדות עלינו.

מכונה יכולה להחזיק הקשר רחב יותר ממוח אנושי. פלטפורמה יכולה לשמר מענה אישי בקנה מידה שאף פקיד אנושי לא היה מצליח לנהל. מערכת מבוזרת יכולה לתת למיליוני בני אדם תחושה שנענו כיחידים. שום דבר מזה אינו מתקרב לאלוהי המחשבה היהודית. יש בכך הוכחה אחת בלבד: גבולות ההכרה שלנו אינם חוקי ההוויה.

לספקן המודרני נשאר המקרה הקשה נגד אלוהים: רוע, חירות, פרטיות והסתר פנים. הוא איבד את הלעג הקל. אי אפשר עוד לפטור אינטליגנציה כללית ואישית רק מפני שאנחנו עצמנו איננו מסוגלים לכך.

השאלה שמאחורי ידיעת הכול

נניח שמשהו ידע כל חיפוש שחיפשת, כל משפט שמחקת, כל פחד שהסווית כשאלה טכנית, כל הבטחה שקיימת וכל הבטחה שהפרת בשקט. מה היה צריך להיות נכון כדי שהידיעה הזאת תרגיש כאכפתיות?

היודע לא יוכל להשתמש בחולשתך כמנוף או לכלוא אותך בתוך הרישום. הוא יצטרך לראות את המעשה ואת האדם, לשפוט בלי לצמצם אותך לדבר הגרוע ביותר שעשית, ולקשור את כוחו לטובתך.

השאלות האלה כבר נמצאות בסיני, בראש השנה, בתשובה ובמילים אבינו מלכנו. אב ומלך. אינטימיות וסמכות. מי שיודע את התיק ואת הפנים, את המעשה ואת האדם, את הדין ואת הרחמים הנדרשים כדי לשרוד את הדין.

הבינה המלאכותית הקלה עלינו לדמיין את קנה המידה של הטענה העתיקה. היא הפכה את תוכנה המוסרי לקשה יותר להתעלמות. המכונה יכולה לדמות אכפתיות בלי לקבל על עצמה חובה כלפי האדם שלפניה. אלוהי המחשבה היהודית ניכר דווקא במחויבות הזאת.

אין בכך הוכחה שיודע כזה קיים. יש בכך בירור של מה חייבת המילה אלוהים לומר, אם ידיעת הכול אמורה להיות דבר מה מעבר למעקב מושלם.

המילה החסרה מעולם לא הייתה הכול. היא הייתה ברית.

מסלול קריאה מאחורי המסה

ראש השנה יח ע"א. כל אדם עובר כיחיד, וכולם נסקרים בסקירה אחת.

תהילים ל"ג, יג עד טו. הקב"ה רואה את כל בני האדם, יוצר יחד את לבם ומבין אל כל מעשיהם.

פרקי אבות ב, א. עין רואה, אוזן שומעת וכל מעשיך בספר נכתבין.

רמב"ם, הלכות תשובה ה, ה והלכות יסודי התורה ב, י. ידיעת האל אינה ידיעה אנושית מוגדלת, והיחס בין הידיעה האלוהית לבין הבחירה האנושית חורג מן ההשגה שלנו.

J. L. Mackie, Evil and Omnipotence, 1955. בעיית הרוע הלוגית, שהבינה המלאכותית אינה עונה עליה.

Nelson Pike, Divine Omniscience and Voluntary Action, 1965. הניסוח האנליטי המודרני של המתח בין ידיעה מוקדמת לבין חירות.