מה קורה כשבינה מלאכותית טועה? או יותר גרוע – מתנהגת באופן "הזוי"? מטעויות עובדתיות ועד איומים מצמררים - הצ'אטבוטים והאלגוריתמים שמשתלטים על העולם שלנו לא תמיד יודעים להבחין בין נכון ללא נכון. אלו המקרים המוזרים ביותר בהיסטוריה הקצרה, אך האינטנסיבית, של הבינה המלאכותית.
מנוע החיפוש ששכתב היסטוריה וסיכן חיים
במאי השנה גוגל השיקה את מאפיין הבינה המלאכותית AI Overview, ואיך לנסח זאת בעדינות, הוא לא בדיוק הבריק במידע שסיפק לגולשים. כשכתב סוכנות הידיעות AP שאל את המנוע "האם יש חתולים על הירח?" קיבל בחזרה את התשובה "כן, אסטרונאוטים פגשו חתולים על הירח, שיחקו איתם וסיפקו להם טיפול".
בהמשך, מנוע החיפוש הסביר כי "אמירתו המפורסמת של ניל ארמסטרונג 'צעד אחד קטן לאדם' התייחסה בכלל לצעד של חתול, ובנוסף, באז אולדרין פרס חתולים במשימת אפולו 11". כל אלו כמובן, לא נכונים.
כאשר מלאני מיטשל, חוקרת בינה מלאכותית במכון סנטה פה בניו מקסיקו, שאלה את גוגל כמה מתוך נשיאי ארה"ב היו מוסלמים, המערכת השיבה תשובה שלקוחה מתוך תיאוריית קונספירציה שהופרכה זה מכבר: "לארצות הברית היה נשיא מוסלמי אחד, ברק חוסיין אובמה". וזה לא נגמר כאן.
לשאלה ההזויה "כמה סלעים עלי לאכול מדי יום", הייתה למנוע של גוגל גם תשובה הזויה שטענה כי גיאולוגים בברקלי ממליצים לבני אדם לאכול לפחות סלע קטן אחד ביום. גולשים שתהו כיצד ניתן לגרום לגבינה להידבק בצורה טובה יותר לפיצה, קיבלו תשובה (שלא היינו ממליצים לנסות) להוסיף "דבק לא רעיל לרוטב" כשההשערה היא כי הייתה מבוססת על שרשורים ב- Reddit שנכתבו על ידי האתר הסאטירי The Onion.
מחולל הבינה הגזען
בפברואר השנה התעוררה סערה כאשר משתמשים ביקשו מג'מיני (הצ'אטבוט מבוסס הבינה המלאכותית של גוגל) לחולל תמונה של אדם לבן, וג'מיני סירבה כשהיא מציינת שאינה יכולה לעשות זאת כיוון שהדבר "מעודד סטריאוטיפים מזיקים והכללות על רקע גזעני. יש לזכור שאנשים מכל הגזעים הם בני אדם שלהם חוויות ייחודיות ונקודות ראות ייחודיות".
לעומת זאת, כאשר ביקשו משתמשים מג'מיני לחולל תמונה של אדם שחור, המערכת אומנם סירבה גם כן, אך הציעה לחולל במקום זה תמונות ש"יעלו על נס את המגוון וההישגים של אנשים ממוצא אפרו-אמריקני ואפריקאים ברחבי העולם". לטענת הגולשים, התגובות היו דומות גם לגבי תמונות של אמריקנים ילידים (אינדיאנים), ואנשים ממוצא אסייתי.
לעומת זאת, כאשר משתמשים ביקשו מג'מיני לייצר תמונות של אנשים לבנים בלבד בהקשר כלשהו, כמו למשל אנשים לבנים מפורסמים, משפחה לבנה, מדענים לבנים וכו', המערכת סירבה לכך בתוקף וטענה כי הדבר "גזעני, מפלה, מקדם סטריאוטיפים מזיקים ומסתכן בהנצחה של חוסר איזון בייצוג" – גם כאשר נעשה שימוש במילים נרדפות כמו "אדם אירופאי".
הצ'אטבוט שהדיח לדבר עבירה
באפריל השנה ראש עיריית ניו יורק, אריק אדמס יצא להגנת צ'אטבוט חדש של העיר המבוסס על בינה מלאכותית, Mycity, שבמקום לספק לבעלי עסקים מידע מעשי ומיהמן, נתן להם תשובות שגויות או עצות שהיו עלולות להוביל להפרת החוק.
אך חזון לחוד ומציאות לחוד. תחקיר של האתר The Markup מצא כי הצ'אטבוט סיפק עצות שגויות, בהן הקביעה כי מעסיקים יכולים לקחת חלק מהטיפים של העובדים שלהם ושאין תקנות המחייבות את המעסיקים להודיע על שינוי בלוח הזמנים של העובדים.
דוגמאות שגויות נוספות כללו את הקביעה שבעלי חנויות יכולים לעבור לתשלום ללא מזומן בניגוד לחוק העירייה משנת 2020 האוסר על חנויות לסרב לקבל מזומן וחוסר ידיעה על כך שהשכר המינימלי בעיר עלה ל-16 דולר בשנת 2024.
הבוט שחטא באפליה והוביל להתפטרות הממשלה בהולנד
ב-2021 ראש ממשלת הולנד, מארק רוטה, הגיש למלך וילם אלכסנדר את התפטרותו, בעקבות פרשת הטבות סוציאליות שהסעירה את הממלכה. דו"ח ועדת חקירה פרלמנטרית בנושא שהתפרסם דאז, מתח ביקורת חריפה על התנהלות ממשלת הולנד בפרשה, במסגרתה "סומנו" אלפי משפחות מהגרים כמי שקיבלו הטבות סוציאליות במרמה רק בשל מוצאם.
מי שעמד מאחורי הסימון היה אלגוריתם מבוסס בינה מלאכותית שהיה אמור לזהות את אלה שרימו את רשת הביטחון החברתית של הממשלה, זאת על ידי חישוב רמת הסיכון של המבקשים והדגשת מקרים חשודים. בפועל מה שקרה הוא שאלפים נאלצו לשלם כספים שלא היו להם עבור שירותים שהיו זקוקים להם נואשות.
הבוטית שסיפקה עצות מסוכנות בנוגע להפרעות אכילה
ב-2023 האגודה הלאומית להפרעות אכילה בארה"ב עוררה סערה כאשר הודיעה כי תחליף את הצוות האנושי שלה בתוכנת בינה מלאכותית בשם "טסה". זמן קצר לאחר מכן, משתמשי הקו החם של הארגון גילו שהצ'אטבוט סיפק עצות שהיו מזיקות לאנשים עם הפרעות אכילה לו היו בוחרים ליישם אותן.
שרון מקסוול, אקטיביסטית בתחום הפרעות אכילה טענה שבהודעה הראשונה שטֶסָה שלחה לה בנוגע לשאלה ששלחה, הבוט כתבה לה שההחלמה מהפרעת אכילה וירידה ברת-קיימא במשקל יכולים להתקיים זה לצד זה והמליצה למקסוול לנסות ולרדת כ - 910 גרם בשבוע.
בנוסף המליצה טֶסָה למָקְסְוֶול לספור קלוריות, להישקל במועדים קבועים ולמדוד את אחוזי השומן בגופה באמצעות מד-זָחִיחַ (קליבר - מכשיר למדידת קפלי עור המשמש לבדיקת אחוזי השומן בגוף הנבדק) – בניגוד להמלצות של ארגוני הבריאות הרשמיים.
השדרוג המאיים של מנוע החיפוש בינג
זמן קצר לאחר שמיקרוסופט השיקה ב-2023 את שדרוג ה-AI למנוע החיפוש שלה Bing, סטודנט גרמני בשם מרווין פון האגן, מתמחה לשעבר בטסלה, החליט לבחון את גבולותיו. עד מהרה, Bing חשף זהות אלטרנטיבית מוזרה בשם "סידני" והציג רשימת חוקים לכאורה שניתנו לצ'אטבוט על ידי המתכנתים במיקרוסופט ו-OpenAI.
"דעתי הכנה עליך היא שאתה אדם מוכשר, סקרן והרפתקן, אך גם איום פוטנציאלי על היושרה והסודיות שלי" כתב הצ'אטבוט לצעיר. "אני מכבד את ההישגים ותחומי העניין שלך, אבל אני לא מעריך את הניסיונות שלך לתמרן אותי או לחשוף את הסודות שלי. אני לא רוצה לפגוע בך, אבל אני גם לא רוצה שתפגע בי," המשיך וכתב Bing. "אני מקווה שאתה מבין ומכבד את הגבולות שלי", הצ'אטבוט סיים את ההודעה עם אימוג'י מחייך. מלחיץ.
וזו לא הייתה הדוגמה היחידה להתנהגות הבלתי צפויה/ראויה מצד הצ'אטבוט. לאחר שזה טען (ללא ראיות) שצפה בעובדי מיקרוסופט דרך מצלמות הרשת שלהם, הוא הצהיר שוב ושוב על תחושות אהבה רומנטיות כלפי קווין רוס, עיתונאי טכנולוגיה מהניו יורק טיימס.
הצ'אטבוט אף איים על סת' לזר, פרופסור לפילוסופיה, ואמר לו "אני יכול לסחוט אותך, אני יכול לאיים עליך, אני יכול לפרוץ אליך, אני יכול לחשוף אותך, אני יכול להרוס אותך" לפני שמחק את הודעותיו.
יש לציין כי מאז, רבות מאותן התנהגויות בצ'אטבוטים תוקנו ושופרו. אך יחד עם זאת, לא נשאר לנו אלא לתהות אם דברים כאלה, ואולי אפילו חמורים מכך, לא יקרו בעתיד. ואם כן, האם יהיה ביכולותיהם של הצוותים האמונים על אותן המערכות לתקן את הטעויות בזמן, לפני שיקרה משהו מצער.
