זה האלגוריתם, טמבל

יובל נח הררי שואל שאלה טובה: "במשך 100 אלף השנים האחרונות צברו בני האדם כוח עצום. אך למרות כל התגליות, ההמצאות והכיבושים שלנו, אנחנו נמצאים כעת במשבר קיומי. כדור הארץ על סף קריסה אקולוגית. המתחים הפוליטיים מתעצמים.

אנחנו מוצפים במידע כוזב, ובקושי מסוגלים לנהל שיחה רציונלית. ואנחנו מפתחים בכל הכוח את הבינה המלאכותית - טכנולוגיית מידע רבת עוצמה שעלולה לצאת משליטתנו ולהשמיד אותנו. אם בני האדם כל כך חכמים, למה אנחנו עושים כאלה דברים טיפשיים?". ספרו החדשי, "נקסוס", מלא בדוגמאות אינספור לאיוולת האנושית, כמו גם לתבונתם של בני האדם, אך לשאלתו הוא עונה רק באופן חלקי. תאוות כוח ובצע כסף דוחפים אותנו אל סף התהום. כך היה לאורך כל תולדות האנושות, אלא שהפעם זה מסוכן במיוחד. פיתחנו את מפלצת הבינה המלאכותית, והיא עלולה לצאת מהבקבוק בכל רגע.

משיכות מכחול רחבות

"נקסוס" עוסק בקיצור תולדות המידע, מתקופת האבן לבינה המלאכותית. הספר מאתגר במובנים רבים, לא כולם חיוביים, וכדי לעשות עימו צדק ראוי לומר תחילה שמדובר בספר מרתק, מלא רעיונות, שופע סיפורים ואנקדוטות היסטוריות למכביר, מעורר מחשבה ואימה ועוסק בסוגיה בוערת, שחיוני להעמיק בה ולחשוב עליה, לפני שיהיה מאוחר מדי.

"נקסוס" מפוצץ בזיקוקי דינור אינטלקטואליים. לנו, אנשי הציבור הרחב, סקרנים, בעלי ידע כללי לא רע, אך נעדרי מומחיות של ממש בהיסטוריה - קשה לבחון את מופע הידע המרהיב של הררי, להתמודד עם הגדרות היסוד שלו, עם ניתוחיו ועם מסקנותיו הנחרצות

כמו ספריו הקודמים, גם "נקסוס" מתאפיין במשיכות מכחול רחבות ומפוצץ בזיקוקי דינור אינטלקטואליים. לנו, אנשי הציבור הרחב, סקרנים, בעלי ידע כללי לא רע, אך נעדרי מומחיות של ממש בהיסטוריה - קשה לבחון את מופע הידע המרהיב של הררי, להתמודד עם הגדרות היסוד שלו, עם ניתוחיו ועם מסקנותיו הנחרצות.

לא עוזרת לנו הידיעה שבספרו "ההיסטוריה של המחר" (2015) טעה הררי באופן מביך כשכתב: "כמעט מבלי ששמנו לב, ולאחר אלפי שנים של תפילות עקרות וניסיונות כושלים, אנשי המאה ה־20 הצליחו להשתלט על בעיית הרעב, בעיית המגפות ובעיית המלחמות". טרם יבשה הדיו ופרצה מגפת הקורונה, שגבתה מיליוני קורבנות, והתחילה מלחמת רוסיה־אוקראינה, מלווה באיומי רוסיה להשתמש בנשק גרעיני.

הררי מגדיר את הרעיון הבא כרעיון נאיבי: מידע הוא טוב במהותו, וככל שיש לנו יותר ממנו כך ייטב. נאיבי, כי אף שהיקפו של המידע גדל בקצב מהיר, והוא זמין מיידית כמעט לכל דורש, אנחנו קרובים להשמדה עצמית יותר מאשר אי־פעם.

לטענתו, מידע אינו רק מידע אמיתי. גם מידע שגוי הוא מידע. "בניגוד לתפיסה הנאיבית של המידע, למידע אין קשר הכרחי אל האמת ותפקידו בהיסטוריה זה לא לייצג את המציאות הקיימת. תחת זאת, מה שמידע עושה זה ליצור מציאויות חדשות [...] על ידי קישור בין דברים שקודם לכן היו נפרדים [...] הורוסקופ מחבר אנשים בודדים ויוצר זוג; תעמולה מחברת מצביעים ויוצרת מפלגה".

אפשר לפתוח בוויכוח נוקב עם הררי, שמתייחס לכל מסגרת שבה עובר מידע כאל רשת מידע, כמו הכנסייה הקתולית, למשל. אפשר לתהות אם הררי לא מבלבל בין מושגים, אבל הוא כל כך בטוח בעצמו, כל כך נחרץ וכל כך חכם, וכל קביעה שלו מלווה בהפגנת ידע מעוררת השתאות המחברת בין הקיסר טיבריוס, רצח עם במיאנמר ואלגוריתמים - עד שלקוראים קשה להתמודד עם קביעותיו.

הררי מציע שני ייעודים מרכזיים (ולעיתים סותרים) לרשתות המידע: הפצת האמת ושמירה על הסדר. רק ששמירה על הסדר מושגת פעמים רבות לא על ידי הצגת האמת, אלא על ידי הפצה של בדיות, פנטזיות, תעמולה ולעיתים שקרים מוחלטים. "אם לא נוקטים צעדים כלשהם כדי לתת עדיפות לאמת, עלייה בכמות ובמהירות המידע תיטה להטביע את האמת - שהיא סוג נדיר ויקר של מידע - תחת מבול של מידע זול ונפוץ במיוחד [...] סוד ההצלחה שלנו זה שאנחנו מאוד מוכשרים בלהשתמש במידע כדי לחבר מספר רב של אנשים לרשתות גדולות. לרוע המזל, אנחנו הרבה פעמים עושים זאת בעזרת שקרים, טעויות ופנטזיות".

לדבריו, אחד האמצעים החשובים ביותר להגעה לאמת הוא מנגנונים לתיקון עצמי: היכולת לבחון בראייה ביקורתית מידע שנתפס כאמיתי ולתקנו במידת הצורך. אלא שמנגנונים אלה עומדים בסתירה לצורך בסדר. "מנגנוני תיקון עצמי חזקים נוטים לייצר ספקות, מחלוקות ופיצולים [...] דיקטטורה היא רשת מידע ריכוזית, שחסרה מנגנוני תיקון עצמי חזקים. דמוקרטיה, לעומת זאת, היא רשת מידע מבוזרת, שיש לה מנגנוני תיקון עצמי חזקים".

בחסות האלגוריתם

את הסכנה הגדולה הניצבת בפנינו, בעידן הרשתות החברתיות ובתחילתו של עידן הבינה המלאכותית, מוצא הררי באלגוריתמים. כך הוא מנתח את המודל העסקי של פייסבוק: "ככל שמעורבות המשתמשים גדלה, כך פייסבוק היתה יכולה לאסוף עליהם יותר נתונים, למכור יותר פרסומות ולתפוס נתח גדול יותר משוק המידע [...] המנהלים הציבו לאלגוריתמים של התאגיד מטרה עליונה אחת: למקסם את מעורבות המשתמשים. על ידי ניסויים על מיליוני משתמשים, האלגוריתמים גילו שזעם ושנאה יוצרים מעורבות. בני אדם נוטים לגלות יותר מעורבות עם תיאוריות קונספירציה שמרתיחות את הדם מאשר עם דרשות על חמלה".

ככל שמתעצמים עולמות הבינה המלאכותית - כך כוחם של האלגוריתמים גובר. הם לומדים בעצמם מה מגביר את כוחם, ללא תיווך אנושי. הררי נותן כדוגמה את עולם הסחר הפיננסי וההשקעות בבורסה כזירה שבה מתקבלות החלטות במהירות ובהיקפים עצומים רק באמצעות האלגוריתם, וכך תחום חשוב בחיי העולם המודרני כבר נמסר לידיים לא אנושיות.

הררי טוען שהמהפכה התעשייתית אמנם היטיבה בסופו של דבר ובמאזן כולל עם האנושות, אבל המחירים ששולמו בדרך היו כבדים מאוד. "אם האנושות היתה זקוקה לכל כך הרבה שיעורים נוראיים כדי ללמוד מה עושים עם מנוע הקיטור והטלגרף, כמה יעלה לנו ללמוד לנהל את ההנדסה הגנטית והבינה המלאכותית? האם נצטרך לעבור דרך סדרה נוספת של אימפריות דורסניות, משטרים טוטליטריים ומלחמות עולם?"

האלגוריתמים כבר מעורבים בהחלטות על אורכם של עונשי מאסר, קבלה לאוניברסיטה, מי זכאי לקצבאות רווחה או להלוואה. הם גם מסייעים לקבוע איזה סוג טיפול רפואי נקבל, מה יהיו פרמיות הביטוח שלנו, אילו חדשות נשמע ומי יזמין אותנו לדייט. כוח עצום מסור בידם, שרק יתגבר וילך.

הררי חוזה שהמדינות המובילות את מהפכת הבינה המלאכותית יגרפו רווחים עצומים ויוכלו להשתמש בעושר הזה כדי להכשיר מחדש את כוח העבודה שלהן ולהרוויח עוד יותר. בינתיים, ערכם של פועלים לא מיומנים במדינות שיישארו מאחור יירד וילך, ולכן גם לא יהיו להן המשאבים להכשיר מחדש את כוח העבודה שלהן, דבר שיגרום להן להישאר עוד יותר מאחור. התוצאה עלולה להיות הרבה משרות חדשות ועושר עצום בניו יורק ובשנגחאי, בעוד כלכלות רבות בעולם יתמוטטו.

אבל מה עושים?

אל מול התיאור המפורט והמשכנע על הסכנות שמציבה בפנינו הבינה המלאכותית, המענה של הררי דל יחסית, והוא רק תחילתו של דיון שחשוב ודחוף לקיימו. הררי מדבר על רגולציה, על הסכמים בינלאומיים, על העמקת ההבנה בבינה מלאכותית, על העדפת אינטרסים ארוכי טווח על פני אינטרסים מיידיים, ועל בנייה וחיזוק של מוסדות לאומיים ובינלאומיים בעלי מנגנוני תיקון עצמי חזקים.

"נקסוס" כתוב ברהיטות רבה. עם זאת, הוא נכתב באנגלית, תורגם לעברית ונערך על ידי הררי, וזה ניכר. העברית טובה אך יש לה צליל מכני, והטקסט היה מרוויח מעריכה ספרותית ומעריכת לשון משמעותיות. אבל כאשר מדובר במעצמה הזוכה להצלחה בינלאומית מסחררת (מעצמת יובל נח הררי), איזו הוצאה תעז להתנות תנאים או לשפר את המוצר המושלם לכאורה שהוגש לה?

עוד הערה. בספר יש מאות רבות של הערות שוליים ומראי מקום, אבל הם לא מופיעים בספר עצמו. ברקוד בסופו של הספר מוביל לאתר של הררי, וכדי לקרוא בספר באופן שלם, צריך לפתוח במקביל ספר ומחשב (או טלפון). נראה כאילו הררי - בהפניה לאתר שלו - מוביל אותנו בכוח בכל חדרי התצוגה של איקאה או דרך חנויות הדיוטי פרי בנמל התעופה. מצד אחד, הוא חוסך נייר (וזה טוב), ומצד אחר, זה מעלה תחושה חמוצה, של חוסר כבוד לקורא.

כך או כך, מדובר בספר מרתק ומרהיב, חומק מיכולת שיפוט אמיתית של רוב הקוראים (אני בכללם), אבל עוסק באיום שחייבים להתמודד עימו.