דוח חדש על בטיחות ב-AI מציב את Anthropic במקום הראשון ואת SpaceXAI קרוב לתחתית
- Anthropic דורגה ראשונה במדד בטיחות ה-AI של FLI עם ציון C+, לפני OpenAI ו-גוגל DeepMind, אך גם החברות המובילות קיבלו ציונים נמוכים יחסית, מה שמצביע על פער בין קצב פיתוח ה-AI לבין בניית כללי בטיחות חזקים.
- SpaceXAI ירדה לציון F לאחר המיזוג עם SpaceX, ומטא השתפרה מעט ל-D+, בזמן שהדוח מזהיר שגם החברות המובילות ריככו או הסירו התחייבויות קודמות לעצור פיתוח מסוכן של מודלים מתקדמים.
מכון Future of Life Institute (FLI) פרסם עדכון חדש למדד בטיחות ה-AI שלו, דוח שמדרג את חברות ה-AI המובילות לפי רמת הבטיחות שבה הן בונות ומטמיעות מודלים מתקדמים. Anthropic מובילה את הרשימה עם ציון C+, ואחריה OpenAI ו-גוגל DeepMind של אלפאבית A (גוגל) בטווח ציוני C, בעוד SpaceXAI של SpaceX (SPCX) קיבלה ציון נכשל F.
המדד בוחן מידע ציבורי בשישה תחומים, כולל בדיקות מודלים, בקרות סיכון, שקיפות, אמצעי הגנה מפני שימוש לרעה וממשל תאגידי, כדי להראות אילו חברות מתייחסות ברצינות לבטיחות ואילו נשארות מאחור.
המובילות: Anthropic, OpenAI ו-גוגל DeepMind
העדכון האחרון מציב את Anthropic, OpenAI ו-גוגל DeepMind בראש הרשימה, אם כי אפילו המובילות קיבלו רק ציונים בטווח C. הציונים הנמוכים מראים שרוב החברות ממהרות לבנות מערכות AI חזקות יותר, בקצב מהיר יותר מזה שבו הן בונות כללי בטיחות חזקים.
Anthropic קיבלה C+ והובילה בחמש מתוך שש קטגוריות, בזכות שקיפות חזקה, מבנה לטובת הציבור וכללים נוקשים לטיפול בנתונים. OpenAI הגיעה למקום השני עם ציון C, עם תוצאות טובות בבדיקות סיכון ובהגנה על חושפי שחיתויות.
בנוסף, גוגל DeepMind קיבלה C על בדיקת מודלים מול איומים ביולוגיים וסייבר ברמת סיכון גבוהה.
מטא משתפרת, SpaceXAI נופלת
מטא (מטא) עלתה מעט ל-D+, עם דיווח ציבורי טוב יותר ומסגרות בטיחות ראשוניות.
הירידה החדה ביותר הייתה של SpaceXAI של אילון מאסק (לשעבר xAI), שירדה ל-F אחרי המיזוג לתוך SpaceX. לפי הסוקרים, המיזוג הקשה יותר לעקוב אחר נוהלי הבטיחות, והחברה עדיין חסרה שקיפות בסיסית ומבני ממשל שנחשבים מצופים ממפתחת AI גדולה.
גם שתי סטארט-אפים שצומחות במהירות, DeepSeek ו-Mistral, קיבלו ציוני F, משום שלא הציגו סטנדרטים פנימיים ברורים לבטיחות או להתאמה.
כדאי לציין שהדוח גם הזהיר כי אפילו החברות המובילות מחלישות בשקט חלק מההבטחות שנתנו בעבר. Anthropic, OpenAI, גוגל ומטא אמרו בעבר שיעצרו את פיתוח מודלי החזית אם המערכות שלהן יגיעו לרמות סיכון מסוימות. לפי FLI, ההבטחות האלה רוככו כעת או הוסרו, מה שמעלה חשש שפיתוח ברמת AGI יתקדם בלי מספיק בלמים.
איזו מניה היא קנייה טובה יותר?
מבין חברות ה-AI שהוזכרו למעלה, רק שלוש נסחרות בבורסה. השתמשנו ב-כלי השוואת המניות של TipRanks כדי להשוות בין מניות גוגל, מטא ו-SPCX. ל-גוגל ול-מטא יש דירוג קונצנזוס של האנליסטים של קנייה חזקה ב-TipRanks, בעוד של-SPCX יש קנייה מתונה. עם זאת, SPCX מציעה פוטנציאל עלייה גבוה יותר ל-12 חודשים, בשיעור של 44.3%.
