Anthropic מאשימה מעבדות בינה סיניות בהעתקת מודלים, ומסכנת את אנבידיה (אנבידיה) ומדיניות הפיקוח על שבבים בארה"ב
- Anthropic מאשימה שלוש מעבדות בינה מלאכותית סיניות בכך שביצעו "התקפות זיקוק" רחבות היקף על מודלי Claude שלה באמצעות עשרות אלפי חשבונות מזויפים, כדי להעתיק ביצועים ולפתח מודלים מתחרים, מה שמעלה חששות בטיחותיים לגבי היעלמות מנגנוני ההגנה במודלים המועתקים.
- ההאשמות ממחישות כיצד יכולת זיקוק ממודלים אמריקאיים עשויה לעקוף את מגבלות היצוא של שבבים מתקדמים של אנבידיה לסין, ועלולה להביא להקשחת הגישה למודלים, לפיקוח הדוק יותר על שימוש, ולצעדי רגולציה חדשים מצד ארה"ב כלפי מעבדות בינה מלאכותית זרות.
Anthropic האשימה שלוש מעבדות בינה מלאכותית סיניות גדולות בכך שהפעילו מה שהיא כינתה "התקפות זיקוק בקנה מידה תעשייתי" על המודלים שלה. הטענה מוסיפה שכבה חדשה לעימות הטכנולוגי בין ארה"ב לסין. ההאשמות של Anthropic מגיעות גם בזמן שבו בכיר בממשל טראמפ טוען ש-DeepSeek, המפתחת הסינית של R1, עשויה הייתה לאמן את מודל הבינה הבא שלה על שבבי Blackwell של אנבידיה, בניגוד למגבלות המדיניות.
Anthropic, חברת סטארט-אפ מסן פרנסיסקו שעומדת מאחורי כלי הקוד Claude, אמרה כי DeepSeek, Moonshot ו-MiniMax (HK:0100) השתמשו בחשבונות מזויפים כדי לשאוב נתונים מהמערכת שלה. החברה אמרה שמצאה 24,000 חשבונות הונאה, שיצרו יותר מ-16 מיליון אינטראקציות עם Claude. לטענתה, האינטראקציות הללו שימשו כדי "לאמן ולשפר את המודלים שלהן."
זיקוק (Distillation) הוא שיטה נפוצה בבינה מלאכותית. הכוונה היא לאימון מודל קטן יותר על בסיס התשובות של מודל מתקדם יותר. כך חברה יכולה להעתיק חלק מהביצועים של מערכת מובילה, בלי להוציא אותו סכום על שבבים וחשמל. עם זאת, Anthropic טוענת שבמקרה הזה, השימוש בשיטה עבר את הגבול.
"התקפות זיקוק מערערות את מנגנוני הפיקוח הללו, בכך שהן מאפשרות למעבדות זרות... לצמצם את היתרון התחרותי שאותם פיקוחי יצוא נועדו לשמר", אמרה החברה.
למה זה חשוב לפיקוח על שבבים
התזמון הוא המפתח. ארה"ב הטילה מגבלות על יצוא של שבבים מתקדמים לסין, כולל מוצרים מתקדמים של אנבידיה Corporation (אנבידיה). המגבלות נועדו להאט את ההתקדמות של סין בבינה מלאכותית מתקדמת. כתוצאה מכך, מעבדות סיניות נאלצו למצוא דרכים אחרות להישאר בקצב. חלקן אימנו מודלים בחו"ל. אחרות נשענו על שבבים ישנים יותר. ועכשיו, הזיקוק נמצא במרכז תשומת הלב.
אם חברות סיניות יכולות להשתמש בפלטים של מודלים אמריקאיים כדי לאמן את המערכות שלהן, הדבר עלול להחליש את ההשפעה של מגבלות השבבים. בפשטות, גם אם סין לא יכולה לקנות את השבבים המתקדמים ביותר, היא עדיין יכולה ללמוד ממודלים שנבנו בעזרת אותם שבבים.
הסיכון הזה כבר הועלה בעבר. בשנה שעברה, OpenAI אמרה שמצאה סימנים לזיקוק הקשור למודל ChatGPT שלה. לאחרונה יותר, היא אמרה בפאנל של בית הנבחרים בארה"ב שמודל הבינה הבא של DeepSeek צריך להיבחן על רקע מאמצים "לרכוב בחינם על היכולות שפותחו על ידי OpenAI ומעבדות אמריקאיות מובילות אחרות."
השפעות על בטיחות ועל השוק
Anthropic העלתה גם דאגה בתחום הבטיחות. היא אמרה שמודלים "שנבנים באמצעות זיקוק בלתי חוקי" כנראה "לא ישמרו" על אמצעי ההגנה שמונעים שימוש לרעה, למשל בתחומי איומים ביולוגיים או פשעי סייבר. כלומר, מודלים מועתקים לא בהכרח יכילו את אותן מגננות.
ובכל זאת, לסיפור יש כמה זוויות. ראשית, הוא מדגיש עד כמה שבבים מתקדמים של אנבידיה ממשיכים להיות במרכז מירוץ הבינה המלאכותית. שנית, הוא רומז שחברות בינה מלאכותית עשויות להקשיח את תנאי הגישה למערכות שלהן ולעקוב אחרי השימוש בהן בצורה הדוקה יותר. שלישית, הוא מעלה את הסיכוי לצעדים חדשים מצד ארה"ב, אם גורמי הממשל יחליטו שהזיקוק מחליש את מדיניות הפיקוח על היצוא.
האמצנו את כלי ההשוואה של TipRanks כדי להשוות בין חברות ציבוריות בולטות שמפעילות צ'טבוטים הדומים ל-ChatGPT, Grok ו-Claude. זהו כלי מצוין לקבלת תמונה רחבה יותר על כל מניה ועל תעשיית הבינה המלאכותית כולה.
