"האנושות צריכה להתעורר" – מנכ"ל Anthropic מזהיר שסיכוני ה-AI עלולים לפגוע בעבודות ובשווקים
- דריו אמודיי, מנכ"ל Anthropic, מזהיר שהתקדמות מהירה ב-AI עלולה להקדים את הרגולציה, מנגנוני הבטיחות ושוק העבודה, לאפשר נזק חמור בידי שחקנים בודדים, לחזק שלטון אוטוריטרי ולערער את היציבות הגלובלית.
- למרות הסיכונים, השווקים והחברות הגדולות, במיוחד חברות שבבים וענן כמו Nvidia ו-Microsoft, ממשיכים לדחוף קדימה את מהפכת ה-AI, בעוד שהוויכוח סביב בטיחות, רגולציה וריכוז עושר וכוח בעמק הסיליקון מתחדד ומשפיע על שיקולי ההשקעה.
האנושות צריכה להתעורר לסיכונים הקשורים להתקדמות המהירה של בינה מלאכותית (AI), כך לפי דריו אמודיי, המנכ"ל של Anthropic. במאמר ארוך שפורסם השבוע, אמודיי הזהיר שה-AI עלול להתקדם מהר יותר מהרגולציה, משוק העבודה וממתווי הבטיחות. הוא כתב ש-AI עשוי בקרוב להיות בעל יכולות גבוהות משל מדענים, מנהיגים או מהנדסים מהשורה הראשונה בתחומים רבים, וציין שרמת כוח כזו יכולה להגיע כבר בתוך כמה שנים. "האנושות עומדת לקבל לידיה כוח שקשה כמעט לדמיין", כתב אמודיי, והוסיף שהמערכות הקיימות אולי אינן מוכנות להתמודד עם ניהול הכוח הזה.
עבור משקיעים, האזהרה הזו חשובה, משום שהצמיחה ב-AI קשורה כיום קשר הדוק לחברות ציבוריות גדולות ולמגמות רחבות בשוק, גם בזמן שה-AI נשאר אחד ממנועי הצמיחה החזקים ביותר לטווח הארוך בהוצאות על טכנולוגיה.
אמודיי התמקד במה שהוא מכנה AI חזק (powerful AI), שעלול להוריד בצורה חדה את החסמים לביצוע נזקים חמורים. הוא התריע ש-AI יכול לאפשר לאדם יחיד ליצור כלים שבעבר היו מוגבלים למומחים מיומנים, וכתב ששחקן בודד יכול להגיע ליכולות ברמת דוקטורט. כתוצאה מכך, הסיכונים הקשורים לנשק, פשיעת סייבר או פגיעה נרחבת עלולים לעלות. הוא גם הזהיר ש-AI עלול "לצאת משליטה", לחזק משטרים אוטוריטריים, או לעזור לגורמים זדוניים לפעול בהיקפים גדולים, דבר שעלול ללחוץ על היציבות הגלובלית.
השווקים דוחפים קדימה בזמן שהמדיניות מפגרת
עם זאת, אמודיי הצביע גם על מתח גובר בין חששות בטיחות לבין לחצים עסקיים, ואמר שממשלות מתמקדות כיום יותר במהירות וביתרון תחרותי מאשר בשליטה. "ההתנדנדות הזאת מצערת", כתב, והדגיש שסכנת ה-AI עשויה להיות קרובה יותר ב-2026 ממה שהייתה ב-2023. עמדה זו מנוגדת לצעדי מדיניות אמריקאיים אחרונים, כולל etfs">צו נשיאותי של הנשיא דונלד טראמפ שמגביל רגולציה על AI ברמת המדינות ומקדם פיתוח מהיר יותר של AI.
אמודיי גם ביקר תוכניות למכור שבבי AI מתקדמים לסין, והשווה זאת למכירת נשק גרעיני למדינות עוינות. ההערות הללו מדגישות פער עמוק בתוך תחום ה-AI עצמו. Anthropic מתחרה ישירות ב-OpenAI, יוצרי ChatGPT, ואמודיי עזב את OpenAI לאחר עימות עם סם אלטמן סביב מגבלות בטיחות. כיום, Anthropic נמצאת במגעים לגיוס הון בסכום של כ-25 מיליארד דולר, שעשוי להעריך את שווי החברה בכ-350 מיליארד דולר.
בינתיים, חברות שבבים ומחשוב ענן גדולות ממשיכות להיות מרכזיות בהתרחבות ה-AI. חברות כמו Nvidia (NVDA) מספקות את החומרה שמפעילה מודלי AI גדולים, בעוד Microsoft (MSFT) מספקת מערכות ענן שמאפשרות להגדיל את השימוש ב-AI ברחבי תעשיות שונות. במקביל, אמודיי הזהיר ש-AI עלול להוביל לאובדן משרות ולריכוז עושר, ולהעביר עוד כוח אל עמק הסיליקון. "זה המלכודת", כתב, וציין שקשה לגלות ריסון כשהתגמולים גדולים. עבור משקיעים, המסר הוא מאוזן אבל ברור: הצמיחה ב-AI נותרת חזקה, אבל הדיונים על בטיחות ומדיניות חוזרים להיות במרכז הסיפור.
השתמשנו ב-כלי ההשוואה של TipRanks כדי להשוות בין חברות ציבוריות בולטות שמפעילות צ'טבוטים דומים ל-ChatGPT, Grok ו-Claude. זהו כלי מצוין לקבלת תמונת מצב רחבה יותר על כל מניה ועל תעשיית ה-AI בכללותה.
