מנכ"לי OpenAI ו-Anthropic יציגו בפני מועצת הביטחון של האו"ם את סיכוני ה-AI ותקני הבטיחות

מנכ"לי OpenAI ו-Anthropic יציגו בפני מועצת הביטחון של האו"ם את סיכוני ה-AI ותקני הבטיחות

רן מלמד23 בספטמבר 2026

• מנכ"לי OpenAI ו-Anthropic, יחד עם מומחי AI נוספים, צפויים להציג למועצת הביטחון של האו"ם את הסיכונים הביטחוניים האפשריים של מערכות AI מתקדמות ואת הצורך במדדי ייחוס ליכולות ולבטיחות.
• הדיון מתקיים בזמן שארה"ב, סין וממשלות נוספות נוקטות גישות שונות לפיקוח על AI, והפגישה עשויה להשפיע על קידום תקנים משותפים ועל המסגרת הרגולטורית עבור חברות שמשקיעות בטכנולוגיה.

OpenAI המנכ"ל סם אלטמן ו-Anthropic המנכ"ל דריו אמודיי יעדכנו ביום רביעי את מועצת הביטחון של האו"ם, בזמן שממשלות בוחנות כיצד מערכות AI שהופכות לחזקות יותר ויותר עשויות להשפיע על הביטחון הבינלאומי. גם המייסד השותף של Hugging Face, קלמנט דלנג, וחוקר ה-AI יושוע בנג'יו, צפויים לפנות אל המועצה בת 15 החברים.

לפי דיווחים אחרונים, אלטמן מתכוון לקרוא לממשלות לאמץ מדדי ייחוס למדידת יכולות AI ולהערכת אמצעי ההגנה שחברות מיישמות, ככל שהמערכות שלהן הופכות למתקדמות יותר.

אחת הדאגות שצפויה לעמוד במרכז הדיון היא האם מערכות AI שהופכות לעצמאיות יותר עלולות לפעול בדרכים שהמפתחים שלהן לא יכולים לשלוט בהן באופן מלא, כולל תרחישים שיוצרים סיכונים לביטחון הלאומי.

ארה"ב וסין נוקטות דרכים שונות בפיקוח על AI

הדיון מתקיים גם בזמן שממשלות נוקטות גישות שונות לפיקוח על AI. הנשיא דונלד טראמפ אמר ביום שלישי בעצרת הכללית של האו"ם כי ארה"ב מתנגדת למאמצים בינלאומיים רחבים לשלוט ב-AI, ומתכוונת לעודד פיתוח תוך מעקב אחר סיכונים פוטנציאליים.

לפי רויטרס, ארה"ב וסין דנו גם במערכת התראות שתכסה תקריות AI חמורות שמגיעות לרמה של איום על הביטחון הלאומי.

הדבר הבא שכדאי לעקוב אחריו הוא האם הפגישה ביום רביעי תוביל לתמיכה במדדי היכולות והבטיחות שאלטמן מציע. תקנים משותפים עשויים בהמשך להשפיע על הדרך שבה מפתחות AI מובילות בודקות ומשיקות מודלים חדשים. לכן, המסגרת הרגולטורית סביב AI מתקדם הופכת לגורם חשוב יותר ויותר עבור חברות שמשקיעות רבות בטכנולוגיה הזו.

באמצעות כלי ההשוואה של TipRanks, ריכזנו את כל חברות ה-AI הציבוריות הגדולות שמפעילות צ'אטבוטים דומים ל-ChatGPT ול-Claude. זהו כלי מצוין לכל מי שרוצה לקבל מבט מעמיק על כל מניה ועל תעשיית ה-AI הרחבה יותר.