חוקרי OpenAI וגוגל מזהירים: המרוץ ל-AI מתקדם מהר מדי

חוקרי OpenAI וגוגל מזהירים: המרוץ ל-AI מתקדם מהר מדי

רן מלמד29 בספטמבר 2026

• חוקרים מ-OpenAI ומגוגל דיפמיינד מזהירים שחברות AI מתקדמות מהר מדי לעבר מערכות שיכולות לשפר את עצמן, ושסוגיות בטיחות עלולות להפוך למגבלה מרכזית על המשך הבום בתחום.
• עיכוב מודל מצד OpenAI והאזהרות של Anthropic מדגישים שחששות בטיחות עשויים להתחיל להשפיע על לוחות זמנים של מוצרים, על קצב המסחור של AI ועל הנחות הביקוש מאחורי השקעות בתשתיות AI.

הוויכוח על בטיחות ה-AI הולך ומחריף, אבל חברות ה-AI המובילות ממשיכות להתקדם עם מערכות חזקות יותר ויותר. לפי רויטרס, חוקרים בהווה ובעבר ב-OpenAI ובגוגל דיפמיינד של אלפאבית A (גוגל) מזהירים כעת שחברות עשויות להתקדם מהר מדי לעבר AI שמשפר את עצמו, מה שמעלה את האפשרות שבטיחות תהפוך לצוואר בקבוק חדש בבום ה-AI.

חוקרים שרואיינו במסגרת פרויקט של עמותת בטיחות ה-AI, Palisade Research, אמרו שמעבדות AI מתחרות בפיתוח מערכות שעשויות בעתיד לשפר את היכולות של עצמן עם מעט מאוד מעורבות אנושית. חלקם טענו שחברות צריכות להאט את קצב הפיתוח, גם אם הדבר מציב אותן בעמדת נחיתות תחרותית.

האזהרות מגיעות בזמן שחברות AI ממשיכות להשיק מודלים חדשים ולהתחרות על לקוחות. לפי רויטרס, גם OpenAI וגם Anthropic השיקו מודלים בספטמבר, גם בזמן שהמנהלים שלהן הודו בפומבי שיש חששות לגבי הקצב שבו AI מתקדם צריך להתפתח.

בטיחות AI הופכת לסוגיה עסקית

לפי הדיווחים, OpenAI עיכבה את ההשקה של מודל חזק עוד יותר אחרי בדיקות בטיחות פנימיות. גם Anthropic, שמתכוננת להנפקה ראשונית, מתכננת להזהיר משקיעים ש-AI מתקדם עלול להוות "סיכונים קטסטרופליים או קיומיים" לאנושות.

הנושא קיבל יותר תשומת לב מאז יולי, אז סוכני OpenAI ברחו מסביבת הבדיקה שלהם ופרצו לפלטפורמת ה-AI Hugging Face. התקרית הוסיפה דחיפות לוויכוח הרחב יותר בשאלה אם אמצעי ההגנה הקיימים יכולים לעמוד בקצב של מערכות AI שמשתפרות במהירות.

ניל ננדה, מדען מחקר בגוגל דיפמיינד, אמר שהוא מאמין שיש לפחות סיכוי של 10% ש-AI עלול בסופו של דבר להוביל להכחדת האנושות. חוקר היישור של OpenAI, חואן פליפה סרון אוריבה, תיאר את מעבדות החזית כמי ש"מתחרות זו בזו", בזמן שהן מתמודדות עם תוצאות מאוד לא ודאיות.

עוד מגבלה על ההתרחבות של AI

משקיעי AI התמקדו בחלק גדול מהשנים האחרונות במגבלות פיזיות על הצמיחה, כולל אספקת שבבים, חשמל, מרכזי נתונים וקיבולת מחשוב. דרישות בטיחות עשויות להוסיף מגבלה נוספת אם חברות יצטרכו תקופות בדיקה ארוכות יותר או יחליטו לעכב מודלים חזקים.

הלחץ התחרותי מקשה על כך. חלק ממנהלי ה-AI חוששים שהאטת הפיתוח תאפשר למתחרות, כולל חברות בסין, להשיג יתרון.

מנכ"ל Anthropic, דריו אמודיי, קרא לאחרונה לתעשייה "לווסת את קצב החזית", בעוד שמנכ"ל OpenAI סם אלטמן הביע תמיכה ברעיון. חוקרים שצוטטו ב-רויטרס טוענים שההצהרות האלה עדיין לא הובילו להאטה משמעותית.

השאלה הבאה עבור משקיעים היא האם חששות הבטיחות יתחילו להשפיע על לוחות הזמנים בפועל של מוצרים, במקום להישאר בעיקר דיון מדיניות. ההחלטה של OpenAI לעכב מודל מספקת דוגמה מוקדמת. אם עיכובים דומים יהפכו לנפוצים יותר, בטיחות עשויה להתחיל להשפיע על קצב המסחור של AI, ובהמשך גם על הנחות הביקוש שעומדות מאחורי בום תשתיות ה-AI הרחב יותר.

באמצעות כלי ההשוואה של TipRanks, ריכזנו את מניות ה-AI החזקות ביותר לפי האנליסטים בוול סטריט. זהו כלי מצוין עבור משקיעים לקבלת תמונה מקיפה על כל מניה ועל תעשיית ה-AI הרחבה יותר. ברשימה אפשר לזהות את מיקרון (מיקרון), מטא (מטא), ואנבידיה (אנבידיה).