מכלי בינה מלאכותית לנכס בעייתי: גְּרוֹק מתמודד עם הסתייגות גוברת ברחבי העולם
- הפיליפינים מצטרפים למלזיה ולאינדונזיה בחסימת הגישה ל-Grok עקב שימוש לרעה בכלי ליצירת תמונות מיניות ללא הסכמה, מה שמגביר את הלחץ הרגולטורי על X ו-xAI ועלול להשפיע על חוזים עתידיים עם גופים ממשלתיים וביטחוניים.
- רגולטורים ברחבי העולם רואים בשימוש לרעה בבינה מלאכותית מבוססת תמונה איום על בטיחות אישית ואמון הציבור, ומתחילים לאכוף בפועל מגבלות וכללים – מה שמחדד את הדרישה ממפתחי בינה מלאכותית לשפר את מנגנוני הבקרה והבטיחות שלהם.
המומנטום השלילי של Grok נמשך, כאשר הפיליפינים כעת פועלים לחסום גישה ל-Grok AI בכל רחבי המדינה, בעקבות צעדים דומים שכבר ננקטו במלזיה ובאינדונזיה. ההחלטה מגיעה בזמן שגורמים רשמיים מעלים חששות לגבי האופן שבו נעשה שימוש בכלי הבינה המלאכותית ליצירת תמונות מיניות ללא הסכמה.
ביום חמישי, מזכיר משרד טכנולוגיית המידע והתקשורת, הנרי אגודה, אמר שהממשלה עובדת עם רשות התקשורת הלאומית ועם ספקיות האינטרנט המקומיות כדי לבצע את החסימה. כתוצאה מכך, כל חברות התקשורת הגדולות צפויות להגביל את הגישה ל-Grok בהקדם האפשרי.
מעבר לשיקולי רגולציה, המהלך עלול להשפיע גם על X ועל יחידת הבינה המלאכותית שלה, xAI, בצד העסקי. ממשלות ומוסדות גדולים בוחנים לעיתים את היסטוריית הבטיחות לפני שהם מעניקים חוזים הקשורים לבינה מלאכותית או לנתונים. ככל שהבחינה סביב Grok מתגברת, עסקאות עתידיות במגזר הציבורי עשויות לעבור בדיקה מעמיקה יותר, כולל הסכמים רגישים כמו עבודות הקשורות לביטחון או להגנה.
בעוד xAI עבדה עם רשויות בארה"ב, כולל הפנטגון, כללים מחמירים יותר בחו"ל עשויים להשפיע על הדרך שבה שותפים מעריכים סיכון, פיקוח ושימוש ארוך טווח במערכות הבינה המלאכותית שלה.
מדוע הרגולטורים מתערבים
המהלך מגיע בעקבות דיווחים שלפיהם נעשה שימוש בכלי התמונות של Grok כדי לשנות תמונות של נשים וקטינים לתוכן מיני. לפי גורמים רשמיים, זה כולל מקרים שבהם תמונות שונו ללא הסכמה, מה שעורר חששות משפטיים ובטיחותיים.
ברמה רחבה יותר, הרגולטורים אמרו שהסוגיה משתלבת במאמץ רחב יותר להגבלת התעללות מקוונת הקשורה לכלי בינה מלאכותית. הם ציינו ששימוש לרעה בבינה מלאכותית מבוססת תמונה יוצר סיכונים לבטיחות אישית ולאמון הציבור.
במקביל, מדינות אחרות גם נוקטות צעדים. מלזיה ואינדונזיה הגבילו לאחרונה את Grok מסיבות דומות, והפכו בכך למדינות הראשונות שעשו זאת. במקביל, רגולטורים בבריטניה ובחלקים מאירופה בוחנים כיצד X ו-xAI מטפלות בתוכן הקשור ל-Grok.
בסך הכול, המצב מדגיש לחץ גובר על מפתחי בינה מלאכותית לשפר מנגנוני בקרה, במיוחד בזמן שממשלות מתחילות לאכוף כללים במקום להסתפק באזהרות.
השתמשנו ב-כלי ההשוואה של TipRanks כדי ליישר קו בין חברות נסחרות בולטות שמפעילות צ'טבוטים הדומים ל-Grok ול-Gemini. זהו כלי מצוין לקבלת תמונת מצב רחבה יותר על כל מניה ועל תעשיית הבינה המלאכותית בכללותה.
