"מורגן", הומנואידית עם בינה מלאכותית מפותחת שנראית כמו נערה צעירה ותמימה, מוציאה עין לאחת המדעניות במעבדה שפיתחה אותה. לי ווטרס, מומחית להערכת סיכונים בתאגיד הטכנולוגיה שפיתח את מורגן, ומעל לכל אישה הגיונית, חזקה ועצמאית, נשלחת לחקור את ההתפרצות האלימה של הרובוטית ולהחליט האם להוריד עליה את השאלטר. ומרגע זה, הכל הולך ומסתבך מאוד.
את הטריילר של "מורגן", שהוצג בסתיו האחרון בבתי הקולנוע בישראל, ערכה הבינה המלאכותית "ווטסון". ווטסון, מחשב העל של חברת יבמ שהשתתף עד כה בפרויקטים בתחומי הבריאות והמשפטים, ניתח יותר ממאה טריילרים של סרטי אימה והגדיר מהם רגעי השיא הרגשיים שלהם. על בסיס הפרמטרים שהגדיר, ניגש "ווטסון" לנתח את "מורגן", ואז הציע את עשרת הקטעים האפקטיביים ביותר לשילוב בטריילר. הכל, בתוך 24 שעות.
"חכמי התלמוד התייחסו לאדם הראשון בעת יצירתו בידי האל כגולם, יצור חסר נשמה וחסר בינה", כותב הסופר וחוקר התרבות אלי אשד באתר "האיל הקורא". "בתקופת התלמוד נוצר הרעיון שלא רק האל יכול ליצור חיים, אלא גם בני אדם". החל מהמאה ה-16, כותב אשד, אגדות על חכמים יוצרי גלמים החלו להיות נפוצות במיוחד. על רבי שמואל החסיד נכתב שיצר גולם שומר ראש; על רב אליהו והמהר"ל מפראג המפורסם נכתב כי יצרו גלמים משרתים; על אבן גבירול נכתב כי יצר גלמה והפכה לעוזרת בית ולשפחת מין. בשו"ת ובמספר דיונים רבניים אף נדרשו לשאלה: אם בעתיד הומנואיד יוכל להיות חלק ממניין או לעלות לתורה.
יש מוטיב חוזר באגדות הגלמים: כשהוא רוצה להפעילו, החכם שם פתק עם השם המפורש בפיו של הגולם. כשהוא רוצה לכבותו, החכם מוציא את הפתק, כאילו היה השם המפורש חיבור לחשמל או דיסק און קי. ברבים מהסיפורים האלה יש מוטיב חוזר נוסף: הגולם קם על יוצרו.
מי מפחד מבינה מלאכותית
מה ההבדל בין האופנים בהם חילונים תופשים אינטליגנציה מלאכותית, לאופנים בהם דתיים תופשים אותה? האם האיום דומה? האם ההסתגלות דומה? אשד, עורך המגזין "יקום תרבות" ברשת, אומר כי "האדם הדתי מכיר את סיפורי הגולם. הוא יודע שזה מודל המסוגל לצאת מכלל שליטה. אבל מכל מקום אי אפשר לעשות הכללות גורפות. אני, למשל, חילוני שלא מפחד ממין של בינה מלאכותית, ובעצם ממינים שונים של בינות מלאכותית. הם יתרמו לגיוון על כדור הארץ. חלקם אולי יהוו איום, אחרים אולי יצרו אמנות ומוסיקה בדרכים שאנחנו לא יכולים לעלות על דעתנו".
הרב יובל שרלו מקדיש חלק גדול מעיסוקו הרבני לסוגיות של אתיקה, בין היתר לאתיקה של בינה מלאכותית.
"המפגש הראשון עם השאלות האלה התחיל כילד, דרך ספרות המדע הבדיוני", הוא אומר. "סיפורי מדע בדיוני מעלים אינספור שאלות אתיות תיאורטיות, וחלק מהותי מהם הוא סיפורי הרובוטים ומכונות האינטליגנציה המלאכותית. כשהתחלתי לעסוק בשאלות אתיות כרב הם צפו ועלו מחדש, ומאז הנושא מסעיר אותי.
 הרב שרלו (תמונה מתוך ויקיפדיה) |
"דתיים וחילונים הם בראש ובראשונה בני אדם, ולכן יש בסיס משותף רחב מאוד בתחומי ההתעניינות שלהם", סבור שרלו. "אני מנחש שבדיון על בינה מלאכותית אין הבדל. עם זאת, מעצם העובדה שאנשים דתיים בונים קומה נוספת באישיותם – התחום האמוני והדתי – הם דנים בסוגיות נוספות ייחודיות להם. מדעי המוח למשל".
זה מעניין, הטבעיות בה אתה מניח ש"דתיים בונים קומה נוספת באישיותם". למעשה, בעיני חילונים רבים, רעיון האלוהים דומה לרעיון הבינה המלאכותית. הם מסתכלים איך הוא, שנוצר בימי קדם בידי האדם כדי לתת לאדם תחושה של שליטה בעולם, קם על יוצריו. חילונים חושבים שמתכנניו של "אלוהים" עושים בשמו עוולות איומות.
"זאת כמובן זכותם. מהי בעצם השאלה?".
יש כאן שאלה: האם בינה מלאכותית מובילה אותנו בהכרח לשאלות על אמונה באלוהים לעומת אתאיזם?
"לא. עם זאת, ההבדלים בין דתיים לחילונים קיימים והם ניכרים במדעי המוח. אני רואה את זה דרך טקסטים. אף על פי שהעולם הדתי מלא בכתיבה ובטקסטים, לא ראיתי מאמר אחד שטוען שבינה מלאכותית מאתגרת את הדת. לעומת זאת, 'בני הדוד' שלה, מדעי המוח, מופיעים בכתיבה של הציבור הדתי ללא הפסק. כשלומדים על הכימיה של הבחירה, עולות שאלות על בחירה חופשית ומאתגרות את כל מה שידענו עליה ועל שכר ועונש מול האלוהים. הייתי אומר שבינה מלאכותית מאתגרת דתיים כבני אדם, ומדעי המוח מאתגרים אותם כדתיים".
על ההבדל בין חילונים לדתיים
הרב ד"ר מיכאל אברהם, ד"ר לפיזיקה עיונית, משיב לגולשים שפונים אליו בסוגיות של בינה מלאכותית באתר השו"ת והמאמרים שלו.
איך היית מאפיין את האנשים שפנו אליך בשאלות על בינה מלאכותית?
"פונים אלי כל סוגי האנשים, בפרט בנושא מדעי המוח וחופש הרצון שעליו כתבתי ספר. אומר בזהירות שמניסיוני אין הבדל משמעותי בין דתיים לשאינם כאלה. כמה מחריפי המטריאליסטים והדטרמיניסטים ששוחחתי איתם היו דתיים, ולהיפך".
מה הסאבטקסט בהתדיינות על בינה מלאכותית? מה מפחיד את מי שפונה אליך בבינה מלאכותית?
"להתרשמותי, הפחדים סביב אינטליגנציה מלאכותית, כמו גם לגבי שיבוטים וסוגיות משיקות נוספות, מאפיינים יותר חילוניים מדתיים. ככל שזכור לי, לא פגשתי אצל הפונים הדתיים פחד אלא פשוט רצון לברר את העניין. זה המצב גם אצלי. אני לא מפחד מבינה מלאכותית, אלא פשוט מנסה לברר את הסוגיה ועמדתי לגביה.
"אפשר לתלות את ההבדל בין חילונים לדתיים בכמה הסברים. לדתיים יש את אלוהים שישמור עליהם מפני החייזרים והדמונים הרובוטיים, ויש להם עקרונות הלכתיים ומחשבתיים שעל פיהם הם דנים בנושא. הדיון האתי בעולם החילוני הוא בדרך כלל רגשי. לפעמים מדברים במונחי סל עמומים כמו 'מידתי' או 'לא מידתי' שמחביאים מאחוריהם בדרך כלל תחושות בעלמה. פחד, כידוע, שייך לעולם הרגשי".
גברים הולכים לאיבוד דרך בינות מלאכותיות
הפילוסוף ג'ון סרל יצא נגד ההנחה שניתן יהיה לבנות אי פעם תודעה במחשב. לטענתו, גם אם ניתן לבנות מחשב שיפעל כמו אדם מרגיש ומבין, למחשב לעולם לא תהיה תודעה. "להבנתי, הנוירונים מבצעים פעולה של חשיבה אבל לא חושבים", מסכים אברהם. "השכל הוא שחושב, והמוח רק מבצע את הפעולה עבורו. כמו ששרירי הרגליים מבצעים פעולה של הליכה אבל לא הולכים. האדם הוא שהולך וחושב. המוח והרגליים הם איברים שבאמצעותם אנחנו מבצעים את הפעולות הללו".
"למה לומר לעולם לא?", שואל אשד. "זה הרי כמו לומר 'לעולם אין אלוהים' או 'לעולם יש אלוהים'. מי יודע? אולי עוד חמישים שנה ייווצר משהו שאין לנו יכולת לצפות אותו היום? אולי בעתיד שאין לצפות אותו כרגע יהיה מיזוג בין בני אדם אורגניים למלאכותיים? אולי האורגניים לא ירגישו בנוח עם המיזוג הזה? ואולי גם המלאכותיים לא ירגישו איתו בנוח?".
שרלו הוא יועץ אתיקה בפרויקטים טכנולוגיים. "בינה מלאכותית היא תמיד נייטרלית. השאלה היא באיזה שלב במחקר אתה מזהה שעלולות להיות לה השלכות מסוכנות", הוא אומר. "חוקרים תמיד רוצים ללכת עד הסוף, אבל מרגע שהם מצליחים להטמיע את ההיבטים האתיים במערכת השיקולים שלהם, משהו במחקר משתנה".
איך למשל?
"ליוויתי פרויקט שנועד לאמן שוטרים בשיטות חקירה. בפרויקט, שנעשה באוניברסיטת בר אילן, פיתחו 'נחקר' וירטואלי מתוחכם. בשלב מסוים עלתה השאלה אם השיטה תאפשר לסחוט הודאות שווא. בתחילה החוקרים מסתכלים עליך בחשד, אבל כשאתה משכנע אותם שעלולה להיות כאן בעיה, אתה זוכה לשיתוף פעולה מוחלט".
ממה אם כן אנחנו מפחדים? על פי הוליווד, אנחנו מפחדים מעצמנו, ואנחנו מדברים על פחדינו דרך בינות מלאכותיות. "צ'אפי", "טרנסנדס", "איי רובוט" ו"אוטומטה" העכשוויים הם סרטים על משבר זהות גברי, וגברים הולכים בהם לאיבוד דרך בינות מלאכותיות: הם מתמזגים עם מכונה ומשלמים מחיר, או שהמכונה הופכת לשלוחה שלהם והם משלמים מחיר, או שהם מאבדים שליטה על מכונות שמתחילות לפעול פתאום מעצמן ולקבל הכרעות בעצמן, ומשלמים מחיר.
לעומתם, הרובוטיות העכשוויות מזהות לרוב את קולן הפנימי, גם אם הן מכונות, והן אינן הולכות לאיבוד אלא יוצאות לחופשי ומרחיבות את שאלת הבחירה החופשית. הן עושות את זה ב"דה משין", "שיי" ו"אקס מכינה". "מורגן", אגב, הוא יוצא מהכלל. הוא מלא אירוניה כלפי השיחדש המפומפם על נשיות יודעת-כל והחלטית.
"האחר האטרקטיבי"
ממה עוד יש לפחד? בערך באותו זמן בו פורסם הטריילר שהכין "ווטסון" ל"מורגן", נודע כי חוקרים מגוגל, פייסבוק, אמזון, יבמ ומייקרוסופט, בשיתוף עם אוניברסיטת סטנפורד, מנסחים כללים אתיים לשימוש בבינה מלאכותית. האסוציאציה המיידית שעולה ביחס למגבלות אתיות שיש להשית על בינה מלאכותית קשורה לאימה מכך שלא נזהה בעתיד בין אדם למכונה. בפועל, תאגידי הטכנולוגיה משתפים פעולה במטרה לבחון איומים מעשיים וקיימים: למשל, רובוטים שמשמידים כבר היום – את מקומות העבודה של מיליוני בני אדם.
יבמ התפארה בעבודה של "ווטסון" על "מורגן" בהודעתה לתקשורת: "מהרגע שצפתה בסרט 'מורגן' בפעם הראשונה ועד לסיום עבודת העריכה, המערכת שלנו הצליחה לזקק שש דקות של חומר מצולם ב-24 שעות בלבד. צמצום הזמן של תהליך העבודה, משבועות לשעות, הוא הכוח האמיתי של הבינה המלאכותית".
ספרו את זה לעורכי הטריילרים, עוד ענף שעתידו כבר בסכנה. יעבור זמן רב, אם בכלל, עד שתאגידי הטכנולוגיה יוציאו הודעה ובה יתגאו על כך שפיתחו מקומות עבודה למיליוני בני אדם. בכלל, יותר משהוא מלמד על תבונה אנושית, פרויקט האתיקה המשותף של התאגידים נובע מהחשש שרגולטורים חיצוניים יקבעו להם כללים.
למה אינסטינקטיבית אנחנו חרדים מתרחישים שעלולים לקרות בעתיד, ולא חרדים מספיק מתרחישים שמערערים את העולם עכשיו? למה, למשל, אין יותר סרטים על הכחדת העבודה האנושית בידי רובוטים?
"כיועץ אתיקה אני אכן רואה איך רוב תשומת הלב נתונה לנושאים גנטיים שעדיין לא נמצאים בהישג ידינו", מסכים שרלו. "הם ה'אחר האטרקטיבי', ולכן הם מושכים תשומת לב. לעומת זאת, לניסיונות התמודדות עם אבדן מקומות עבודה אין אפיל כזה. קחי את תחום ההסבה המקצועית. הכשרות והסבות מקצועיות נובעות מההבנה שמקצועות הולכים ונעלמים אבל בני האדם שעבדו בהם עדיין קיימים, והן מהדהדות את ההבנה האתית שיש לנו אחריות כלפי העובדים. זאת העבודה שביקשנו מהם לעשות, וברגע שאנחנו יוצרים להם תחליף, מחובתנו לאפשר להם ללמוד לעשות דבר אחר. זה תחום שהופך להיות לאחת התגובות המשמעותיות לאבדן מקום עבודה בידי רובוט, אבל אין לו פרופיל עיתונאי או פוליטי אטרקטיבי".
"את החרדה מגניבת עבודה בידי מכונות ביטאו הלודיטים כבר במאה ה-19, שראו לנגד עיניהם איך המכונות תופסות את מקומם של הפועלים", אומר אשד. "וכבר בשנות החמישים כתב אייזק אסימוב את הרומן 'מערות הפלדה', המתאר ניסיון התקוממות של בני אדם הפוחדים שרובוטים ייקחו להם את העבודה. בעשור האחרון יותר ויותר אנשים כותבים על איון מקומות העבודה בידי רובוטים, והכתיבה תלך ותצטבר עד שהיא תחלחל לתרבות הפופולארית. בקרוב נראה יותר ויותר סרטים שעוסקים לא רק באימת ההתמזגות, אלא באימת אבדן מקום העבודה".
למעשה, ברבים מסרטי הבינה המלאכותית מתגלם כבר עכשיו הפחד מאבדן שליטה אנושית בתוך מקום העבודה (מעבדה, חללית). צריך לדבר יותר על העבודה, מקום העבודה, יומיומיותו, המכניות שלו. צריך לשאול יותר אם האדם פוחד מהומנואידים שיחליפו אותו במקום העבודה, או שאימתו האמיתית ממקום העבודה היא המפגש שמזמן לו מקום העבודה עם הרובוט שבתוכו.
