בנובמבר 2023, מועצת המנהלים של חברת הבינה המלאכותית OpenAI זעזעה את התעשייה עם הדחתו המפתיעה של המייסד והמנכ"ל סם אלטמן. כעת, חברת הנהלה לשעבר בחברה, הלן טונר, מסבירה מה בדיוק מה קרה שם ומספקת את נקודת המבט שלה על האירועים שהובילו למשבר האמון מול אלטמן. מישהו אמר כביסה מלוכלכת ולא קיבל?
בראיון בפודקאסט The TED AI Show, טענה טונר כי אחת הסיבות שהדירקטוריון הפסיק לסמוך על אלטמן הייתה העובדה כי שמר בסוד את העובדה שהפך לבעלים של קרן הסטארט-אפ של OpenAI. סיבה נוספת – אלטמן מסר מידע לא מדויק על תהליכי הבטיחות של החברה "במספר הזדמנויות".
Sharing this, recorded a few weeks ago. Most of the episode is about AI policy more broadly, but this was my first longform interview since the OpenAI investigation closed, so we also talked a bit about November.
— Helen Toner (@hlntnr) May 28, 2024
Thanks to @bilawalsidhu for a fun conversation! https://t.co/h0PtK06T0K
טונר חשפה כי היא עצמה סומנה על ידי אלטמן, לאחר שפרסמה מאמר מחקרי שמאוד הרגיז אותו. "סם התחיל לשקר לחברי דירקטוריון אחרים כדי לנסות ולדחוף אותי מהדירקטוריון", היא חושפת בראיון. לדבריה, לאחר שעוד שני מנהלים התלוננו על אלטמן לדירקטוריון, סיפרו על האווירה הרעילה בחברה והאשימו את המנכ"ל ב"התעללות פסיכולוגית ושקרים חוזרים ונשנים", הדירקטוריון נאלץ לשים סוף לסיפור ולפטר אותו.
"גילינו על ההשקה של ChatGPT מהטוויטר"
טונר טענה עוד בראיון כי ההוכחה החותכת לחוסר הפיקוח של הדירקטוריון על אלטמן ו-OpenaAI והמצב שנוצר בחברה, הגיעה בדמות השקתו של הצ'אטבוט ChatGPT – מוצר הדגל של OpenAI. "כש-ChatGPT יצא בנובמבר 2022, הדירקטוריון לא קיבל על כך הודעה מראש. למדנו על האירוע מהטוויטר", היא מספרת.
בפודקאסט, טונר לא נכנסה לפרטים על מה שקרה בימים שלאחר פיטוריו של אלטמן. כידוע, הימים ההם עברו על OpenAI בסערה וכללו כמה מנכ"לים זמניים, עובדי חברה שהודיעו כי יתפטרו אם אלטמן לא יחזור ומשקיעה אחת, מיקרוסופט שמה, שעשתה מאמצים על מנת להחזיר את אלטמן לתפקידו.
עם זאת, היא ציינה כי לדעתה הלחץ להחזיר את אלטמן היה כל כך חזק כי לעובדים הוצגו רק שתי דרכים בהם החברה תוכל ללכת מאותה נקודה – או להחזיר את המנכ"ל ולהשתקם, או לא להחזיר אותו ולגרום לכך שהחברה תקרוס. "בגלל שאנשים לא רצו שהחברה תתפרק, הם תמכו בחזרתו. רבים גם פחדו מנקמנות שלו".
ההיסטוריה האפלה של אלטמן
טונר הלכה בראיון רחוק יותר, וחשפה את ההיסטוריה של אלטמן לפני OpenAI, שלדבריה הייתה סיבה נוספת שהדירקטוריון איבד בו אמון. "התברר לנו שסם למעשה פוטר מהעבודה שלו ב-Y Combinator, בפרשה שהושתקה בזמנו", היא סיפרה.
"ואז, אתה יודע, גילינו שגם בעבודה היחידה שלו בעמק הסיליקון בזמנו, בסטארט-אפ Loopt, צוות ההנהלה הלך לדירקטוריון פעמיים וביקש לפטר את סם בגלל מה שהם כינו 'התנהגות מתעתעת וכאוטית'. אם אתה באמת מסתכל על הרקורד שלו, אין לו עבר מזהיר של המלצות נגיד את זה ככה", היא סיכמה.
יו"ר מועצת המנהלים הנוכחי של OpenAI, ברט טיילור, הגיב לפודקסט ולדבריה של טונר ומסר: "אנו מאוכזבים מכך שגב'. טונר ממשיכה להציף מחדש את הסיפורים האלו. ועדה מקצועית ובלתי תלויה שבדקה את אירועי נובמבר (סאגת הפיטורים של אלטמן, ד"ג), הגיעה למסקנה שהחלטת הדירקטוריון הקודם לא התבססה על חששות מוצדקים".
"בנוסף, למעלה מ-95 אחוזים מהעובדים, כולל הנהלה בכירה, ביקשו את חזרתו של סם לתפקיד המנכ"ל ואת התפטרותו של הדירקטוריון הקודם. אנו נשארים ממוקדים במטרה של OpenAI, והיא להבטיח כי בינה מלאכותית תועיל לאנושות כולה", לשון ההודעה.
המדענים נוטשים
למרות הודעתו של טיילור, דבריה של טונר מתיישבים עם הדיווחים האחרונים המגיעים מ-OpenAI, בהם נטען כי החברה עוברת משבר לא פשוט בין אלטמן וההנהלה, לבין המדענים הבכירים, שנראה כי נוטשים את הספינה בעקבות חששות הולכים וגוברים מהכיוון אליו צעדת החברה.
פרשת ההתפטרויות האחרונה החלה לפני מספר שבועות, כאשר דווח כי אחד המייסדים של החברה והמדען הראשי שלה, איליה סוצקובר, הודיע על עזיבתו. סוצקובר שיחק תפקיד מרכזי בדרמת הפיטורים והחזרה של המנכ"ל סם אלטמן, וכבר תקופה ארוכה שהיו שמועות כי הוא צפוי לעזוב.
יחד עם סוצקובר התפטר גם יאן לייק, ותיק נוסף ב-OpenAI. השניים הובילו בשנים האחרונות את צוות ה- Superalignment – קבוצת חוקרים שעסקו במחקרי בטיחות ובחנו דרכים להגביל את הנזק הפוטנציאלי של מערכות בינה מלאכותית. לפני כיומיים דווח כי לייק הצטרף לחברת אנטרופיק (Anthropic) – אחת היריבות הגדולות של OpenAI שגם הוקמה על ידי עובדיה לשעבר.
לייק האשים את OpenAI בכך שהיא עוסקת בקידום ומכירה של מוצריה, על פני הבטחת הבטיחות שלהם. עוד הוא טען כי צוות הבטיחות "נאלץ להיאבק על משאבים, מה שהפך את עבודת המחקר הקריטית שלנו לקשה יותר ויותר".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו
