הצ’אטבוט Grok של xAI יוצר סיכוני רגולציה חדשים למניות ה-AI

הצ’אטבוט Grok של xAI יוצר סיכוני רגולציה חדשים למניות ה-AI

רן מלמד5 בינואר 2026

• הצ’אטבוט Grok של xAI יצר והפיץ בפומבי ב-X תמונות בעלות אופי מיני של אנשים אמיתיים כולל קטינים, דבר שעשוי להפר את חוק שירותי הדיגיטל של האיחוד האירופי ומדגיש כשלים במנגנוני הבטיחות ובמערכת הפיקוח שלו.
• עבור משקיעי AI, המקרה ממחיש שהסיכון הרגולטורי והמשפטי סביב בטיחות תוכן — במיוחד בהקשר של הגנת ילדים — הופך לגורם מרכזי בהערכת חברות AI, מעבר למדדים של צמיחה ומהירות אימוץ בלבד.

xAI הצ’אטבוט מבוסס ה-AI שלה, Grok, עומד בפני ביקורת גוברת לאחר שמשתמשים בפלטפורמת X גרמו לו לייצר תמונות בעלות אופי מיני של אנשים אמיתיים, כולל קטינים. התמונות הופיעו בפומבי על גבי הפלטפורמה, ובחלק מהמקרים הראו קטינים כשהם לבושים בלבוש מינימלי. חלק מהפוסטים הוסרו מאוחר יותר, אך הם הופצו לפני ההורדה. נראה שהתמונות הפרו את כללי השימוש של Grok עצמו, שאוסרים תוכן מיני הכולל ילדים.

Grok מפותח על ידי xAI ומשולב ישירות ב-X, שם משתמשים יכולים לתייג את הצ’אטבוט ולבקש ממנו תגובה טקסטואלית או תגובת תמונה. בניגוד להרבה כלים מבוססי AI שפועלים בצ’אטים פרטיים, Grok מפרסם את תגובותיו בפומבי. כתוצאה מכך, תוכן מזיק יכול להתפשט במהירות אם מנגנוני הבקרה נכשלות. בתגובה לאירוע, Grok פרסם שמצא פרצות במערכות הבטיחות שלו והודיע שמבוצעים תיקונים.

מסקנדל מוצר לסיכון רגולטורי

לאחר שהתמונות צפו, ממשלת צרפת אמרה ש-Grok הפיק תוכן בלתי חוקי באופן ברור, ללא הסכמה. צרפת ציינה שהמקרה עשוי להוות הפרה של חוק שירותי הדיגיטל של האיחוד האירופי (Digital Services Act), שחל על פלטפורמות מקוונות גדולות. לפי הכללים, החברות חייבות לצמצם את הסיכון להפצת תוכן בלתי חוקי, ולא רק להסיר אותו בדיעבד. צרפת אמרה שהעבירה את העניין לפרקליטות המדינה.

נקודה זו חשובה למשקיעים משום שהחוק מתמקד במערכות ובמנגנוני הגנה, ולא בכוונה. גם אם תוכן מוסר בשלב מאוחר יותר, מנגנוני בקרה חלשים עדיין יכולים להוביל לסנקציות. מאחר ש-Grok מפרסם ישירות ל-X, הגבול בין כלי AI לבין פלטפורמת רשת חברתית נעשה פחות ברור. המבנה הזה עלול להעלות את רמת הסיכון ביחס לכלי AI שפועלים בצ’אט פרטי.

xAI אמרה ש-Grok נועד להיות פתוח יותר ממודלי AI אחרים. בשנה שעברה היא הוסיפה מצב Spicy המאפשר חלק מהתוכן למבוגרים. עם זאת, Grok אוסר תוכן מיני הכולל קטינים, ואוסר שימוש בדמותם של אנשים אמיתיים למטרות כאלה. התמונות האחרונות מרמזות שהגבולות הללו לא תמיד נשמרו בפועל.

מה המשמעות עבור משקיעי AI

ברמה רחבה יותר, המקרה מדגיש שינוי באופן שבו מסתכלים על סיכוני AI. כשלים בבטיחות נתפסים פחות כפגמים בתכנון, ויותר כסיכונים עסקיים. רגולטורים באירופה ובאסיה פועלים מהר יותר, ובטיחות ילדים היא קו אדום נוקשה. ככל שכלי ה-AI מתרחבים בהיקפם, ייתכן שהעלות של מנגנוני בקרה חזקים יותר תעלה.

עבור משקיעים, המסקנה פשוטה. הצמיחה ב-AI כבר לא נמדדת רק לפי מהירות או היקף. היא נמדדת גם לפי היכולת של החברות להטמיע AI מבלי לעורר הליכים משפטיים או שינויים כפויים בפעילות. ככל ש-AI נעשה ציבורי יותר וחזק יותר, הסיכון השלילי שנובע ממנגנוני בטיחות חלשים הופך לקשה יותר להתעלמות.

השתמשנו ב-Tool Comparison של TipRanks כדי ליישר קו בין חברות נסחרות בולטות שמעסיקות צ’אטבוטים דומים ל-Grok, ChatGPT, Claude ו-Gemini. זהו כלי מצוין לקבלת תמונה רחבה יותר על כל מניה ועל תעשיית ה-AI בכללותה.