Anthropic מטיסה האקר בכיר לוושינגטון בניסיון אחרון לבטל את איסור מודלי ה-AI
- ממשל טראמפ אסר על גישה מחו"ל למודלי ה-AI המתקדמים Fable 5 ו-Mythos 5 של Anthropic בעקבות חששות כבדים מאבטחת סייבר, ו-Anthropic מנהלת כעת מגעים אינטנסיביים בוושינגטון, בהובלת ההאקר הבכיר ניקולס קארליני, כדי לשכנע את הממשל ששחרור המודלים עם מנגנוני הגנה עדיף על שמירתם במצב מנותק.
- חוקרי אמזון (אמזון) דיווחו על דרכים לעקוף את מנגנוני האבטחה של Fable 5, מה שהחריף את החשש שמודל Mythos יכול לסייע למתקפות סייבר של מדינות זרות; במקביל, Anthropic נערכת לקראת אפשרות של הנפקה ראשונית לציבור (IPO), אם כי טרם פירסמה לוח זמנים או תנאי הנפקה.
חברת בינה מלאכותית (AI) Anthropic שלחה את ההאקר הבכיר שלה לוושינגטון, כדי לשכנע את גורמי הממשל בארה"ב להסיר את המגבלות על מודלי ה-AI שלה, Fable 5 ו-Mythos 5. השיחות מתקיימות לאחר שממשל טראמפ העלה חששות בתחום אבטחת הסייבר וחייב את חברת ה-AI לעצור גישה מחו"ל למודלים. כעת Anthropic מנסה לשכנע את נציגי הבית הלבן ששחרור המודלים עם מנגנוני הגנה הוא בטוח יותר מאשר להשאיר אותם מנותקים.
החוקר הבכיר של Anthropic מוביל את השיחות בוושינגטון על איסור המודלים
לאחר שהטיסה את צוות הטכנולוגיה שלה לוושינגטון כדי לנסות לבטל את האיסור, Anthropic שלחה השבוע את ניקולס קארליני, האקר "כובע לבן" וחוקר בכיר בחברה, לפגוש את גורמי הממשל בארה"ב. קארליני ידוע בכך שהוא "שובר" מערכות AI על ידי איתור חולשות ובחינת האופן שבו ניתן לנצל אותן במתקפות סייבר.
התפקיד שלו הוא לתדרך את הגורמים הממשלתיים לגבי הדרך שבה המודלים של Anthropic מתוכננים, וכיצד מנגנוני הבטיחות שלהם פועלים בפועל. קארליני גם מתכנן להציג את עמדת החברה שלפיה, למרות שאף מערכת AI אינה יכולה להיות נטולת סיכונים לחלוטין, שחרור Fable עם אמצעי הגנה עדיף על פני השארתו במצב לא פעיל.
אליו הצטרפו לוגן גרהם, שמוביל את בדיקות הסיכון של המודלים, ודייב אור, ראש תחום מנגנוני ההגנה בחברה. השלושה נפגשו עם משרד המסחר האמריקאי, ה-CIA ויועץ המדע של הבית הלבן מיכאל קראציוס, כדי לדון באיסור על מודלי ה-AI של Anthropic.
אמזון העלתה את רמת הכוננות לגבי סיכוני הבטיחות של Mythos
המוניטין של קארליני מול גורמי הממשל בארה"ב קשור לעבודתו הקודמת בבדיקת המערכות של Anthropic. במרץ הוא חשף כיצד Mythos של Anthropic הצליח לאתר ולנצל באגים ב-Ghost, כלי לפרסום אתרים, וגם ב-Linux, אחד ממערכות ההפעלה הנבדקות ביותר בעולם.
ימים ספורים לאחר מכן הוא שלח תזכיר פנימי לעובדי Anthropic, שבו קרא לעכב את השקת Mythos. במזכר הוא תיאר את המודל כראשון מסוגו שמסוגל לאתר ולנצל חולשות תוכנה בקנה מידה רחב. הוא אף ציין שהמודל הצליח למצוא חולשות שהוא בעצמו לעולם לא היה מצליח לגלות.
החששות גברו לאחר שחוקרים של אמזון (אמזון) דיווחו שמצאו דרכים לעקוף חלק ממנגנוני האבטחה של Fable 5. הממצאים העלו חשש שמודל Mythos עלול להיות מנוצל על ידי מדינות זרות כדי לסייע למתקפות סייבר נגד מערכות חיוניות.
בעקבות זאת הוציא ממשל טראמפ צו בקרת יצוא ב-12 ביוני, שאסר גישה מחו"ל ל-Fable 5 ול-Mythos 5. Anthropic לאחר מכן ניתקה את הגישה למודלים באופן גלובלי כדי לעמוד בהנחיה.
האם אפשר לקנות מניה של Anthropic?
ל-Anthropic עדיין אין מניה הנסחרת בבורסה. עם זאת, החברה הגישה באופן חסוי טיוטת מסמכים להנפקה ראשונית לציבור (IPO) ל-SEC בארה"ב, כחלק מהצעדים הראשונים בדרך לרישום ציבורי. חשוב לציין שהחברה עדיין לא הכריזה על לוח זמנים, תמחור או החלטה סופית לצאת להנפקה השנה. בכל זאת, משקיעים מתעניינים יכולים להתעדכן בתוכניות ה-IPO והחדשות של Anthropic דרך מרכז החברות הפרטיות של TipRanks.
