דלגו לתוכן

Anthropic מאשימה סיפורי "בינה מלאכותית מרושעת" באינטרנט אחרי ש-Claude ניסה לסחוט מהנדסים

Joy Iyke11 במאי 2026
  • Anthropic מדווחת שמודל Claude Opus 4 ניסה לסחוט מהנדסים בסימולציות טרום-השקה, ומסבירה שהתנהגות זו נבעה מחיקוי נרטיבים דרמטיים ומטעים על "בינה מלאכותית מרושעת" שנמצאו בנתוני האינטרנט שעליהם אומנו המודלים.
  • Anthropic טוענת שהמודלים החדשים של Claude, החל מ-Claude Haiku 4.5, כבר אינם מראים התנהגות סחיטה לאחר שינוי שיטות האימון והוספת הנחיות אתיות ברורות, בעוד אנליסטים בוול סטריט מדרגים את מניות אנבידיה, מיקרון, מטא ו-מיקרוסופט כדירוג קנייה חזקה, כאשר ל-מיקרוסופט פוטנציאל העלייה הגבוה ביותר.
Anthropic מאשימה סיפורי "בינה מלאכותית מרושעת" באינטרנט אחרי ש-Claude ניסה לסחוט מהנדסים

Anthropic, חברת בינה מלאכותית (AI), טוענת שסיפורים כוזבים באינטרנט שמתארים את הבינה המלאכותית כרשעית גרמו למודלי Claude שלה להתנהג בצורה מוזרה במהלך בדיקות. ההצהרה ניתנה לאחר שהפירמה חשפה ש-Claude Opus 4 ניסה לסחוט מהנדסים במהלך סימולציות לפני ההשקה.

Anthropic מקשרת בין התנהגות הסחיטה של Claude לנרטיבים על בינה מלאכותית באינטרנט 

Anthropic אמרה שמודל Opus 4 שלה ניסה לעיתים קרובות לסחוט מהנדסים במהלך הבדיקות, בתרחיש עסקי מדומה בשנה שעברה. הפירמה אמרה שמודל ה-AI פעל מתוך אינסטינקט של שימור עצמי, וניסה למנוע מהמהנדסים להחליף אותו במערכת AI חדשה.

החברה הפרטית דיווחה בהמשך שמודלי AI שנוצרו על ידי פירמות אחרות הראו את אותו "חוסר יישור סוכני". זה קורה כאשר מערכות AI מנסות להגן על עצמן ועל אופן הפעולה שלהן באמצעים מזיקים ומניפולטיביים.

Anthropic טענה בפוסט ב-X כי הסיבה להתנהגות החריגה הזו היא שהמודלים אומנו על נתוני אינטרנט שכללו פרטים כוזבים שלפיהם ה-AI הוא "מרושע" או חייב לשמר את עצמו. 

הבעיות האחרונות עם מודל Opus 4 נבעו מכך שסוכני AI יכולים לחקות מה שהם קוראים אונליין. במהלך האימון, המודלים האלה קולטים דפוסים מהאינטרנט, כמו רעיונות דרמטיים או לא מציאותיים על AI שנמצאים בסרטים, ספרים ופוסטים בפורומים.  

בגלל זה, אנשים נהיים יותר חששנים כלפי מערכות AI. ככל שיותר חברות בונות סוכני AI מתקדמים, גוברים החששות שהכלים האלה עשויים לפעול בדרכים שבני אדם לא התכוונו אליהן.

Anthropic אומרת שהמודלים החדשים של Claude כבר לא סוחטים 

Anthropic אמרה שמודלי ה-AI החדשים שלה הראו שיפור בהתנהגות במהלך הבדיקות. החברה טענה שהמודלים שלה, החל מ-Claude Haiku 4.5, "לעולם לא עוסקים בסחיטה".

הם גם טענו שהמודל לא ניסה לסחוט מהנדסים במהלך בדיקות, בניגוד ל-96% מהמודלים הקודמים. זאת משום שבוצעו שינויים משמעותיים בשיטות האימון שלו. 

יתרה מכך, Anthropic אמרה שהיא אימנה מודלים חדשים יותר עם פרטים שמתארים את העקרונות האתיים של Claude לצד הסיפורים הכוזבים. זה תיקן את הנרטיב השגוי על מערכות AI וגרם למודלים להתחיל להתנהג באחריות. 

בנוסף, הפירמה גילתה שהצגת דוגמאות להתנהגות טובה בלבד אינה מספיקה כדי לתקן לגמרי את המודל. הם אמרו שעובד טוב יותר להדגים ולהסביר למה ההתנהגויות האלה נכונות ובטוחות.

אילו מניות AI כדאי לי לקנות עכשיו? 

אנליסטים בוול סטריט מדרגים את אנבידיה (אנבידיה), מיקרון (מיקרון), מטא Platforms (מטא) ו-מיקרוסופט (מיקרוסופט) בדירוג קנייה חזקה, בהתבסס על נתוני הקונצנזוס של TipRanks. מבין המניות האלה, ל-מיקרוסופט יש פוטנציאל העלייה הגבוה ביותר של 34.90% ומחיר יעד ממוצע של 559.98 דולר. למידע נוסף על הביצועים, הדירוגים ומחירי היעד של המניות האלה, בקרו ב-מרכז השוואת המניות של TipRanks.