משבר ב-OpenAI: נטישת מוחות, תביעות משפטיות וקשרים ממשלתיים

בנובמבר 2023, הוועד המנהל של OpenAI הצביע להסיר את סם אלטמן, אחד מהמייסדים, מהחברה. הוועד כלל את איליה סוצקבר (מייסד נוסף), גרג ברוקמן (גם הוא מייסד), הלן טונר, טשה מקולי וד"ר דייוויד ד'אנג'לו. התברר כי איליה, הלן, טשה ודייוויד היו אלה שהצביעו לפטר את אלטמן, בעוד ברוקמן היה היחיד שתמך בו.

בחודשים שלאחר מכן, OpenAI חוותה נזילת מוחות משמעותית. בפברואר 2024, אנדרה קרפתי, חלוץ בקידום הבינה המלאכותית והמעורב בהקמת רשתות עצביות קונבולוציוניות, החליט לעזוב את החברה כדי להתמקד בפרויקטים שלו. חודש לאחר מכן, לוגן קילפטריק, ראש יחסי הציבור והדמות הבולטת ב-OpenAI, עזב את החברה כדי להצטרף לגוגל.

זמן קצר לאחר מכן, איליה סוצקבר, אחד המייסדים שהיה מעורב בהחלטה להסיר את אלטמן, הודיע גם הוא על עזיבתו של OpenAI, תוך ציון רצונו להתמקד בפרויקטים שלו.然而, עזיבתו לא הייתה כל כך הרמונית כמו האחרים, שכן ייתכנו מתחים בינו לבין אלטמן.

העידן הלא-קונפרונטציוני של מהנדסים ומובילים שעוזבים את OpenAI הגיע לסיומו כאשר יאן לקון, דמות בולטת אחרת, עזב את החברה. לקון הביע חילוקי דעות עם הנהלת OpenAI בנוגע לעדיפויות החברה, בעיקר בתחומים כמו אבטחה, ניטור, כוננות, בטיחות ועמידות בפני התקפות מתנגדות. הוא האמין שסוגיות אלה לא טופלו באופן הולם, והוא היה מודאג מהשינוי בכיוון של "מוצרים מבריקים" במקום להתמקד בבטיחות.

הסיבה לכך שלקון היה היחיד שדיבר בשלילה על הפרקטיקות של OpenAI הייתה מדיניות החברה לדרוש מעובדים לחתום על הסכמי אי-הסגת פה. פירוש הדבר היה שאם הם יעזבו את החברה, הם לא יהיו רשאים לבקר את OpenAI, או שהם יסכנו את המניות שהם צברו.然而, לאחר מקרה זה, OpenAI שינתה את מדיניותה, מאפשרת לעובדים לדבר בחופשיות יותר על חוויותיהם.

העזיבות האחרונות של דמויות מפתח מ-OpenAI, כמו יאן לקון, ג'ון שולמן ופיטר דנג, העלו חששות לגבי המיקוד של החברה בבטיחות וביטחון.

שרשרת הטוויטר של יאן לקון הדגישה את חילוקי הדעות שלו עם הנהלת OpenAI לגבי העדיפויות של החברה, תוך ציון ש"בטיחות, תרבות ותהליכים נדחקו לשוליים לטובת מוצרים מבריקים". הוא הביע חששות שבעיות קריטיות כמו אבטחה, ניטור, כוננות והעמידות בפני התקפות מתנגדות לא טופלו באופן הולם.

בדומה לכך, ההחלטה של ג'ון שולמן לעזוב את OpenAI ולהצטרף למתחרה, Anthropic, נבעה מ"הרצון להעמיק את המיקוד שלי בהתאמת הבינה המלאכותית". זה מרמז שהוא הרגיש שOpenAI לא מעניקה עדיפות מספקת לסוגיה החשובה של התאמת הבינה המלאכותית.

החשיפה שOpenAI דרשה בעבר מעובדים לחתום על הסכמי אי-הסגת פה, שמנעו מהם לדבר על פרקטיקות החברה, מדגישה עוד יותר את הבעיות הפוטנציאליות בגישה של החברה לבטיחות ולשקיפות.

בנוסף, שיתוף הפעולה ההולך וגובר של OpenAI עם ממשלת ארה"ב, כולל המינוי של מנהיג לשעבר של ה-NSA לדירקטוריון שלה, העלה חששות לגבי העצמאות של החברה ויכולתה לשמור על מיקוד על הטובה הציבורית במקום על אינטרסים מסחריים.

בכללותו, העזיבות של דמויות מפתח והחששות שהם הביעו לגבי העדיפויות של OpenAI מרמזים שייתכן שהחברה מתקשה לאזן את המרדף אחר טכנולוגיית בינה מלאכותית מתקדמת עם הצורך החיוני להבטיח את הבטיחות והביטחון של מערכותיה.

Open AI מתמודדת עם מספר אתגרים משפטיים ומעורבות ממשלתית מוגברת, מה שמוסיף לאי-שקט בתוך החברה:

• יוטיובר הגיש תביעה ייצוגית נגד Open AI, בטענה שהחברה מקלטת תמלילים מערוצי יוטיוב כדי להדריך את הדגמים שלה, כולל Sora.
• אילון מאסק, שמכר את החזקותיו ב-Open AI בעבר, עכשיו תובע אותה מחדש, בטענה שהיא הפרה את העקרונות המייסדים שלה על-ידי מעבר מארגון ללא מטרות רווח למודל רווחי ומתמקדת בעניינים מסחריים על פני הטובה הציבורית.
• Open AI מאשרת מספר הצעות חוק בסנאט, כולל "חוק עתיד החדשנות בבינה מלאכותית", שיצור גוף רגולטורי חדש בשם מכון הבטיחות של הבינה המלאכותית של ארצות הברית. זה מרמז שהחברה מחפשת קשרים הדוקים יותר עם הממשלה.
• Open AI מינתה גנרל בצבא ארה"ב בדימוס, פול מ. נקסון, שבעבר הוביל את פיקוד הסייבר של ארה"ב והסוכנות הלאומית לביטחון, לדירקטוריון שלה. זה מצביע עוד יותר על שיתוף הפעולה המוגבר של החברה עם גופים ממשלתיים.
• דיווחים מציעים שOpen AI שורפת 5 מיליארד דולר בשנה, כאשר 7 מיליארד דולר הושקעו באימון הדגמים ו-1.5 מיליארד דולר בשכר עובדים, מה שמעורר חששות לגבי הקיימות הפיננסית של החברה.

אתגרים משפטיים אלה, מעורבות ממשלתית ולחצים פיננסיים מוסיפים לאי-השקט המתמשך בתוך Open AI, כפי שניכר מהעזיבות האחרונות של דמויות מפתח כמו ג'ון שולמן והחופשה הממושכת שנטל המייסד המשותף גרג ברוקמן. יכולתה של החברה להמשיך ולהתמקד בבטיחות ובהתאמה בתוך לחצים אלה נותרת דאגה משמעותית.

OpenAI, חברת המחקר בבינה מלאכותית הבולטת, נאלצת להתמודד עם סדרת אתגרים שהעלו חששות לגבי כיוונה העתידי ויציבותה. חלק מהאתגרים העיקריים כוללים:

1. נזילת מוחות: החברה חוותה בריחה משמעותית של אנשי מפתח, כולל מייסדים, חוקרים בולטים ומנהיגים. דמויות כמו אנדרה קרפתי, לוגן קילפטריק, איליה סוצקבר ויאן לקון כולם עזבו את החברה, מה שמעורר שאלות לגבי יציבות ההנהגה והכיוון של המחקר שלה.

2. חששות לגבי בטיחות והתאמה: כמה מעובדים לשעבר, כמו יאן לקון, הביעו חששות לגבי העדפת OpenAI של "מוצרים מבריקים" על פני בטיחות, אבטחה והתאמה לערכים אנושיים. זה הוביל לספקות לגבי המחויבות של החברה לפיתוח אחראי של בינה מלאכותית.

3. לחצים פיננסיים: מדווח שOpenAI שורפת סכומי כסף משמעותיים, עם תחזיות להפסדים של 5 מיליארד דולר בתוך 12 החודשים הבאים. העלויות הגבוהות של אימון מודלי שפה גדולים ושמירה על צוות גדול הציבו את החברה תחת מתח פיננסי.

4. אתגרים משפטיים: OpenAI ניצבת בפני תביעות משפטיות מרובות, כולל תביעה ייצוגית על החשד לקליטת תמלילי יוטיוב ותביעה מאת אילון מאסק בטענה להפרת העקרונות המייסדים של החברה.

5. מעורבות ממשלתית מוגברת: החברה כרתה קשרים הדוקים יותר עם ממשלת ארה"ב, מאשרת יוזמות חקיקתיות וממנה בכיר לשעבר של ה-NSA לדירקטוריון שלה. זה העלה חששות לגבי האפשרות של השפעה ממשלתית על מחקר OpenAI וקבלת ההחלטות שלה.

6. עיכובים באספקה ולחצי תחרות: בעוד שOpenAI הציגה דגמי בינה מלאכותית מרשימים כמו GPT-4 ו-Dolly, היא איטית בהפצת טכנולוגיות אלה לציבור הרחב. בינתיים, מתחרים כמו Anthropic, Stability AI וגוגל מקדמים במהירות את יכולות הבינה המלאכותית שלהם, עלולים להשאיר את OpenAI מאחור.

אתגרים אלה, יחד, מצוירים כתמונה של חברת בינה מלאכותית הניצבת בפני אי-שקט ואי-ודאות משמעותיים. העזיבה של אנשי מפתח, החששות לבטיחות, הלחצים הפיננסיים, הקרבות המשפטיים והמעורבות הממשלתית המוגברת כולם מרמזים שOpenAI עשויה להיות בצומת קריטית בהתפתחותה, עם פוטנציאל לשינויים משמעותיים או אפילו קריסה בעתיד הקרוב.