Root Nationחֲדָשׁוֹתחדשות ITאינטל תיצור את מחשב העל החזק ביותר עם אלפי מאיצי AI של Gaudi2

אינטל תיצור את מחשב העל החזק ביותר עם אלפי מאיצי AI של Gaudi2

-

תאגיד אינטל, לפי אתר Datacenter Dynamics, מתכוון ליצור את אחד ממחשבי העל החזקים בעולם לעבודה עם AI יצירתי. משאבי הפלטפורמה ישמשו את חברת Stability AI, המיישמת פרויקטים בתחום הרלוונטי. פלטפורמת ה-LPC מבוססת על מעבדי Xeon. בנוסף, אומרים שהוא משתמש בכ-4000 מאיצים של Gaudi2.

מעבד גאודי הופיע כתוצאה מרכישת Habana Labs ב-2019 מיליארד דולר של אינטל ב-2. בזמנו, הוא נטש את שבבי הבינה המלאכותית מהרכישה הקודמת של Nervana לטובת העסק הישראלי.

אינטל פרסמה לאחרונה את תוצאות בדיקת Gaudi2 במדד GPT-J (כלול ב-MLPerf Inference v3.1), המבוסס על מודל שפה גדול (LLM) עם 6 מיליארד פרמטרים. לפי הערכות, גאודי2 יכול להפוך לפתרון חלופי NVIDIA H100 בשוק הבינה המלאכותית.

אינטל

עם זאת, ה-H100 עדיין מתעלה על המתחרים בכל הנוגע לטיפול ביישומי AI. לפני NVIDIA הכריז על התוכנה TensorRT-LLM קוד פתוח, שתוכנן במיוחד כדי להאיץ את הביצוע של מודלים של שפה גדולה (LLM). לפי הערכות NVIDIA, היישום של TensorRT-LLM מאפשר להכפיל את הביצועים של מאיץ H100 במדד GPT-J 6B. בשימוש בדגם Llama2, העלייה במהירות בהשוואה ל-A100 מגיעה ל-4,6x.

פרויקט Intel and Stability AI יסייע לחברות לחזק את עמדותיהן בשוק ה-AI הגנרטיבי. לא מדווח שום דבר על תזמון הפעלת המערכת והביצועים הצפויים שלה.

קרא גם:

הירשם
תודיע על
אורח

0 תגובות
ביקורות משובצות
הצג את כל ההערות