ראש תחום הרובוטיקה ב-OpenAI מתפטרת על רקע עסקת הבינה המלאכותית עם הפנטגון שמעוררת ויכוח על טכנולוגיה ביטחונית
- ראש תחום הרובוטיקה ב-OpenAI התפטרה בעקבות עסקה לשילוב כלי בינה מלאכותית של החברה ברשת המאובטחת של הפנטגון, תוך העלאת חששות לגבי מעקב ללא פיקוח שיפוטי ונשק אוטונומי ללא אישור אנושי, בעוד OpenAI טוענת שהציבה קווים אדומים לשימוש אחראי ב-AI בביטחון הלאומי.
- העסקה עם הפנטגון מסמלת העמקה של שילוב חברות AI במערך הטכנולוגיה הביטחונית האמריקאי, על רקע קרע קודם עם Anthropic, ומדגישה את המתח הגובר סביב האופן שבו טכנולוגיות בינה מלאכותית ורובוטיקה עשויות לשמש על ידי המדינה בעתיד.
OpenAI הודיעה שראש צוות הרובוטיקה שלה עזבה את החברה, לאחר ש-OpenAI חתמה על עסקה להצבת כלי בינה מלאכותית (AI) ברשת המאובטחת של משרד ההגנה האמריקאי (הפנטגון). המהלך מדגיש עד כמה מהר חברות בינה מלאכותית נכנסות לתחום הביטחוני בארה"ב, גם כאשר חלק מהעובדים מעלים חשש לגבי אופן השימוש בטכנולוגיה.
קייטלין קלינובסקי, שעמדה בראש קבוצת הרובוטיקה ב-OpenAI, אמרה שבחרה להתפטר בגלל העסקה. היא כתבה בפוסט ב-X שבינה מלאכותית יכולה לסייע למדינה, אך רק עם גבולות ברורים.
“ל-AI יש תפקיד חשוב בביטחון לאומי,” היא כתבה. “אבל מעקב אחרי אזרחים אמריקאים ללא פיקוח שיפוטי ואוטונומיה קטלנית ללא אישור אנושי הם קווים אדומים שהגיע להם יותר דיון ממה שקיבלו.”
OpenAI מסרה שהיא מכבדת את עמדתה, אך עומדת מאחורי ההסכם עם משרד ההגנה האמריקאי. החברה אמרה שהעסקה יוצרת “נתיב מעשי לשימושים אחראיים של AI בביטחון הלאומי, תוך הבהרה של הקווים האדומים שלנו: ללא מעקב בתוך ארה"ב וללא נשק אוטונומי.”
עסקה שבאה לאחר הקרע עם Anthropic
ההסכם הגיע גם לאחר עימות בשוק ה-AI בארה"ב, כאשר המגעים עם Anthropic PBC עלו על שרטון, אחרי שהחברה דרשה תנאים מחמירים לגבי האופן שבו המדינה תוכל להשתמש ב-AI שלה.
זמן קצר לאחר מכן, ממשל טראמפ בבית הלבן הורה לכל גופי המדינה להפסיק את העבודה עם Anthropic. משרד ההגנה (DOD) הגדיר לאחר מכן את החברה כ-"סיכון בשרשרת האספקה". תיוג כזה שימש בעבר חברות המקושרות למדינות יריבות, כמו Huawei.
בעקבות זאת, OpenAI מיהרה לחתום על עסקה עם הפנטגון. עם זאת, מנכ"ל OpenAI סם אלטמן אמר שהמרוץ לסגור את ההסכם לא נראה טוב. הוא אמר שהמהלך נראה “אופורטוניסטי ורשלני”, והחברה גם ציינה שהיא לא תומכת בהכללת Anthropic ברשימת סיכוני שרשרת האספקה.
שינוי רחב יותר בקרב חברות ה-AI
ברמה רחבה יותר, העסקה מראה כיצד חברות AI הופכות כעת לחלק מערימת הטכנולוגיה הביטחונית של ארה"ב. חברות טכנולוגיה גדולות כגון מיקרוסופט (מיקרוסופט) ואמזון (אמזון) כבר מפעילות תשתיות ענן מרכזיות עבור הממשל האמריקאי. עכשיו, כלי AI צפויים למלא תפקיד בסריקת נתונים, בעבודת מודיעין ובמשימות סייבר.
במקביל, העזיבה של ראש תחום הרובוטיקה מוסיפה טוויסט קטן לסיפור. תפקידה של קלינובסקי ב-OpenAI עסק בטכנולוגיית רובוטיקה, לא רק בקוד של AI. לכן, ההתפטרות שלה מרמזת שעובדים מסוימים אולי מודאגים מהאופן שבו AI עלולה בעתיד להתחבר למערכות בעולם הפיזי, כמו מערכות רובוטיות שעשויות לשמש את המדינה.
בינתיים, OpenAI אומרת שהכללים שלה ברורים, ושה-AI שלה לא ישמש למעקב בתוך ארה"ב או לנשק אוטונומי. למרות זאת, הוויכוח מדגיש עד כמה מהר משתנים גבולות הגזרה, ככל שחברות AI גדולות נטמעות בתוך טכנולוגיות ביטחוניות.
בינתיים, קהל המשתמשים של OpenAI באונליין ממשיך לגדול, ומספר העוקבים עולה ליותר מ-10.2 מיליון, בזמן שהחברה מרחיבה את תפקידה בפיתוח AI ובשיתופי פעולה עם הממשלה.
