משתמשי Claude זועמים לאחר ש-Anthropic מספקת להם גרסה מוחלשת של Mythos AI
- Anthropic ספגה ביקורת חריפה על כך ששחררה את Claude Fable 5 כגרסה ציבורית מוחלשת של מודל Mythos, עם מגבלות בטיחות נסתרות שחסמו גם תוכן מדעי ותמים ופגעו באמון וביכולת להעריך את המודל.
- לאחר הביקורת, Anthropic הודתה שטעתה באיזון בין בטיחות לנגישות, והתחייבה להפוך את החסימות לגלויות, להקל מגבלות שמרניות מדי, ולפתח בעתיד מודלי Mythos ללא אמצעי הגנה לצורכי מחקר ביו-רפואי, בעוד שהחברה מתכוננת ל-IPO אך מניותיה עדיין אינן נסחרות לציבור.
חברת הבינה המלאכותית (AI) Anthropic ניצבת מול תגובת נגד חריפה לאחר שהשיקה את Claude Fable 5, גרסה ציבורית של מודל Mythos החזק שלה. מפתחי AI ומשתמשים ביקרו את החברה לאחר שגילו שהיא נתנה להם גרסה נחותה של Mythos. הם חשפו ש-Anthropic חסמה בחשאי חלק מהתשובות של המודל והוסיפה מגבלות בטיחות שלא נחשפו.
ההשקה העלתה כעת חששות לגבי שקיפות ונגישות ליכולות המלאות של המודל. המחלוקת גם הציתה ויכוח רחב יותר על השאלה מי צריך לשלוט במה שמערכות AI חזקות יכולות או אינן יכולות לעשות.
מומחי בינה מלאכותית מאתגרים את מגבלות הבטיחות של Claude Fable 5
רוב הביקורת שמתפשטת מתמקדת באמצעי ההגנה ש-Anthropic בנתה בתוך Claude Fable 5 החדש שהושק. החברה אמרה שהכלי יעביר משתמשים למודל הישן יותר Claude Opus 4.8 כאשר שאלות נוגעות לתחומים רגישים כמו סייבר או ביולוגיה.
עם זאת, משתמשים אמרו שהמגבלות חרגו מעבר לנושאים בסיכון גבוה, שכן המודל חסם נושאים תמימים כמו ביולוגיה בסיסית, כימיה ומתמטיקה. מפתחים גם ציינו תשובות חלשות יותר בנושא פיתוח AI מתקדם, ללא אזהרה ברורה כאשר השינויים האלה הופעלו.
חוקרים טענו שמגבלות נסתרות אלה מקשות על בדיקה, על יצירת אמון ועל הערכה נכונה של Claude Fable 5. כמה מומחי AI גם האשימו את Anthropic בהסתרת גישה כדי להעמיד מפתחי מתחרים בעמדת נחיתות.
דרייה אונוטמז, אימונולוג מהמכון ג'קסון, אמר שההגבלות היו רחבות כל כך שגם שאילתות שגרתיות לעיתים קרובות נכשלו. הוא הוסיף שמדאיג שחברה אחת יכולה לשלוט עד כדי כך במה שמשתמשים יכולים לשאול או למה הם יכולים לגשת דרך מערכות AI.
Anthropic מתכננת שינויים במגבלות של Fable 5
Anthropic ציינה שהחסימות הסמויות ב-Claude Fable 5 נועדו להגביל את היכולת שלו לסייע במעשים שעלולים להיות מזיקים. החברה ציטטה חששות ביטחון לאומי ואת תנאי השימוש שלה כסיבות להחלת "אמצעי הגנה בלתי נראים".
עם זאת, החברה הודתה שטעתה בהערכת תגובת הציבור. "עשינו פשרה שגויה, ואנו מתנצלים שלא הצלחנו להגיע לאיזון הנכון", אמרה.
כדי להתמודד עם הבעיות, Anthropic התחייבה שהיא תהפוך את החסימות ב-Fable 5 לברורות וגלויות למשתמשים. לגבי מחקר מדעי, ציינה שהמגבלות היו "שמרניות מדי", והוסיפה שכעת החברה עובדת על צמצום ההגבלות הלא נחוצות.
דובר החברה גם אמר שהיא מתכננת ליצור בעתיד מודלים ברמת Mythos, כמו Fable, ללא אמצעי הגנה, כדי לתמוך במחקר ביו-רפואי ופיתוח תרופות.
האם אני יכול לקנות מניות של Anthropic?
Anthropic היא חברה פרטית, כלומר המניות שלה עדיין אינן נסחרות לציבור. עם זאת, החברה הגישה באופן חסוי תשקיף להנפקה ראשונית (IPO), צעד ראשוני לקראת רישום פוטנציאלי, אם כי פרטים לגבי העיתוי והשווי טרם נחשפו. מי שמעוניין להשקיע במניות AI צריך לבקר במרכז השוואת המניות של TipRanks כדי לקבל עדכונים ותובנות על חברות מובילות בתחום ה-AI.
