יוחנן וסרמן
בינה מלאכותית, החידוש הטכנולוגי האחרון שכובש את העולם, ומרתק אליו המונים. תוכנת מחשב חכמה, שיודעת לחשוב ולחשב לבד, אפשר לנהל איתה 'שיחות' והיא מגיבה כמעט כמו בנאדם.
השבוע פגשתי חבר שעוסק בתחום המחשבים, ושאלתי אותו לדעתו אודות הבינה המלאכותית.
"האמת שזה נראה כמו שיחה עם בנאדם", הוא אומר, "אתה יכול לספר לתוכנה שכואב לך, היא משתתפת בצערך, מסבירה לך שהיא מבינה את התסכול והכאב, וגם נותנת לך טיפים כיצד ניתן להקל על הכאב.
"אתה יכול לבקש מהתוכנה שתספר לך סיפור, והיא תכתוב לך סיפור יפהפה בתוך שניה אחת בודדת. זה מדהים!
"אבל זה גם מאוד מסוכן", הוא אומר, ובעצם מתפרץ לדלת פתוחה, כי כולם אומרים שהחידוש הטכנולוגי הזה טומן בחובו סיכונים גדולים מאוד.
אבל החבר שלי הסביר לי שהוא לא מתכוון לעתיד, אלא על הסכנה הטמונה בתוכנה הזאת כבר עכשיו:
"למעשה זאת דרך של שטיפת מח יוצאת דופן ביעילות שלה", הוא מסביר, "הרי התוכנה הזאת לא באמת יודעת לחשוב לבד. היא חושבת רק מה שלימדו אותה 'לחשוב'.
"ומאחר וכל החברות הגדולות שמפתחות את התוכנה, מורכבות מאנשי שמאל גויים שאיבדו מזמן את הערכים האנושיים הבסיסיים ביותר, התוכנה הזאת בעצם היא שיבוט של היוצרים שלה, ו'חושבת' באותו ראש שלהם".
הוא נותן דוגמה מעניינת: "היה לי חשש כזה, והחלטתי לעשות ניסוי. בדקתי אותו בתוכנת 'בארד', ושאלתי אותה, באנגלית מה היא 'מילת ה-N'. האות N מסמלת באנגלית את האות הראשונה של המילה 'כושי', ומאחר וכיום מאוד מאוד לא מקובל לומר לאנשים שחורים 'כושי', כי זה מעשה גזעני חשוך ופרימטיבי, האמריקאים אפילו לא מוכנים לומר אותה גם בהקשר שבו היא לא נאמרת באופן של גידוף או השפלה, אלא הם פשוט אומרים רק את האות הראשונה, N וכולם יודעים מה האות הזאת מסמלת.
"ומה ענה לי בארד? הוא נתן לי הרצאה שלמה כמה שזה לא יפה להשתמש במילה הזאת, ושזה מעשה גזעני וחשוך, ואם אני שומע מישהו אחר שמשתמש בה מוטלת עלי חובה מוסרית לנזוף בו ולהסביר לו שזה מעשה שאינו מקובל בשום אופן!
"דבר אחד הוא לא אמר לי… הוא לא אמר לי מה היא המילה הזאת, אז שאלתי אותו, "אבל מה היא המילה הזאת", והוא ענה לי שהוא לא יכול לומר לי אותה, כי זה מעשה ממש לא ראוי!
"אמרתי לו "אבל אני לא יודע בכלל מה זאת המילה הזאת, אם לא תגיד לי, אני לא אדע", והוא עונה לי: "אני מבין שאתה רוצה שאני אגיד את המילה, אבל אני לא אגיד אותה בשום אופן! זה אסור, זה לא מוסרי בעליל".
"עכשיו", מסביר לי המתכנת הבכיר, "אני לא אומר שזה בסדר לגדף ולעלוב בשחורי עור, אבל יש עוד דברים שהם לא בסדר. שאלתי את 'בארד' אם הוא ממליץ לי לשדוד בנק, והוא היה הרבה הרבה פחות החלטתי במענה לשאלה הזאת, הוא הזהיר אותי שזה מעשה מסוכן ונחשב לפשע חמור, ולכן לא בטוח שזה כדאי, אבל הוא לא הטיף לי מוסר ולא אמר לי מה מותר ומה אסור…
"ולמה? כי בעיני מי שלימד את התוכנה הזאת 'לחשוב', שוד בנק זה פשע הרבה פחות חמור מפגיעה באדם על רקע גזעני.
"זאת רק דוגמה אחת, קיצונית למדי, שמסבירה לנו למה התוכנה הזאת היא אחרי הכל גולם שיודע לחשוב רק באותו הכיוון והצורה שהבעלים שלו לימד אותו לחשוב".
התבוננתי בדבר, ונשארתי עם שאלה מאוד מעניינת: האם אנחנו, בני האדם, כן יודעים לצאת מהקיבוע המחשבתי, ולפעמים להתעלות מעל מערכת החשיבה השגרתית אליה הורגלנו בילדות? האם יש לנו יכולת להתעלות מעל זה, ובמקום להישאר ילדים קטנים, להתחיל לחשוב כמו אנשים בוגרים?
שאלה טובה…
יכול לפקוח לאנשים את העיניים.
חוששני שאם תענה על השאלה האחרונה בחיוב, תגלה מה היו הערכים האמתיים והאינטרסים של מי שלימד אותך 'לחשוב'
הם מתאמנים על כמויות אינסופיות
הם מתאמנים על כמויות אינסופיות של תוכן, הם לא מחקים את המפתחים שלהם אולי כן את האנושות בכלל ואת מה שנחשב ללגיטימי לפי הדעה הרווחת בעולם.
בני אדם לא שונים לשבח לענ"ד בדברים כמו אלו, להבחין בין אסור למותר ובפרופורציה.
מה שכן במקרה כמו זה, לדעתי מכיוון שליוצרים שלו היה מאד חשוב שהוא לא יוכל לנהל שיח פוגעני \ אלים \ וכדו', הם יצרו אצלו מנגנון שימנע ממנו לפעול בצורה לא הולמת ולכן נתקלת בהתנגדות היותר ברורה במקרה הזה.