Root Nationסטטטיחברותמ-CUDA ל-AI: סודות ההצלחה NVIDIA

מ-CUDA ל-AI: סודות ההצלחה NVIDIA

-

NVIDIA - החברה הראשונה בהיסטוריה של תעשיית השבבים, שהשווי שלה עלה על טריליון דולר. מהו סוד ההצלחה?

אני בטוח שרבים מכם שמעו על החברה NVIDIA ורובכם מקשרים את זה ספציפית למעבדים גרפיים, כי הביטוי "NVIDIA GeForce" נשמע כמעט על ידי כולם.

NVIDIA

NVIDIA לאחרונה עשה היסטוריה פיננסית בתעשיית ה-IT. זוהי חברת המעגלים המשולבים הראשונה ששווי השוק שלה עלה על טריליון דולר. זוהי גם החברה החמישית הקשורה לטכנולוגיה בהיסטוריה שזוכה להצלחה כה גדולה (לפי שווי שוק). בעבר, רק אנשים יכלו להתפאר בדירוג כה גבוה Apple, Microsoft, אלפבית (הבעלים של גוגל) ואמזון. לכן אנשי כספים כינו אותו לפעמים "מועדון הארבעה", שכעת הורחב NVIDIA.

בנוסף, מבחינת שווי שוק, היא נמצאת הרחק מאחורי AMD, אינטל, קוואלקום וחברות טכנולוגיה נוספות. זה לא היה מתאפשר לולא מדיניות החזון של החברה שהוצגה לפני עשור.

קרא גם: האם יש עתיד ל-TruthGPT של אילון מאסק?

ביקוש מדהים ל NVIDIA H100 Tensor Core

מה הסוד של עלייה כזו בהיוון? קודם כל, זו תגובת הבורסה להצלחת השבב NVIDIA H100 Tensor Core, שזוכה לביקוש גבוה בקרב ספקים מובילים של תשתיות ענן ושירותים מקוונים. השבבים האלה נרכשים על ידי אמזון, מטה ו Microsoft (לצרכיה ולצרכים של שותפתה - חברת OpenAI). הם חסכוניים במיוחד באנרגיה בהאצת חישובים האופייניים לבינה מלאכותית גנרטיבית, כגון ChatGPT או Dall-E. זוהי קפיצה מדהימה בסדר גודל עבור מחשוב מואץ. אנו מקבלים ביצועים חסרי תקדים, מדרגיות ואבטחה עבור כל עומס עבודה NVIDIA H100 Tensor Core GPU.

NVIDIA-H100-ליבת טנזור

שימוש במערכת מיתוג NVIDIA NVLink יכול להיות מחובר לעד 256 H100 GPUs כדי להאיץ עומסי עבודה בקנה מידה exa. ה-GPU כולל גם Transformer Engine ייעודי לפתרון מודלים של שפה עם טריליוני פרמטרים. החידושים הטכנולוגיים המשולבים של ה-H100 יכולים להאיץ מודלים של שפה גדולה (LLMs) פי 30 מדהימים בהשוואה לדור הקודם, ולספק בינה מלאכותית לשיחה מובילה בתעשייה. המפתחים רואים בו כמעט אידיאלי עבור למידת מכונה.

- פרסום -

עם זאת, ה-H100 לא הופיע משום מקום. ואם לומר את האמת, זה לא מהפכני במיוחד. NVIDIA, כמו אף חברה אחרת, משקיעה משאבים אדירים בבינה מלאכותית כבר שנים רבות. כתוצאה מכך, חברה המזוהה בעיקר עם מותג הכרטיסים הגרפיים GeForce יכולה להתייחס לשוק הצרכני כמעט כמו תחביב. זה בונה כוח אמיתי בשוק של ענקיות IT, אחרי הכל NVIDIA כבר יכול לדבר איתם כשווים.

מעניין גם: מהן רשתות 6G ולמה הן נחוצות?

האם בינה מלאכותית היא העתיד?

כיום, כמעט כולם משוכנעים בכך, אפילו מומחים סקפטיים בתחום זה. עכשיו זו כמעט אקסיומה, אמת. למרות ש NViDIA ידע על זה לפני 20 שנה. הפתעתי אותך?

טכנית, המגע הקרוב הראשון NVIDIA עם בינה מלאכותית קרה בשנת 1999, כאשר מעבד GeForce 256 הופיע בשוק, המסוגל להאיץ חישובים של למידת מכונה. למרות זאת NVIDIA החלה להשקיע ברצינות בבינה מלאכותית רק ב-2006, כשהציגה את ארכיטקטורת CUDA, שאפשרה להשתמש ביכולות העיבוד המקביל של המעבדים הגרפיים לצורך אימון ומחקר.

NVIDIA-CUDA

מה זה CUDA? היא מוגדרת בצורה הטובה ביותר כפלטפורמת מחשוב מקבילה וממשק תכנות יישומים (API) המאפשרת לתוכנה להשתמש ביחידות עיבוד גרפיות למטרות כלליות (GPGPUs). גישה זו נקראת מחשוב כללי במעבדי GPU. בנוסף, CUDA היא שכבת תוכנה המספקת גישה ישירה לערכת ההוראות הווירטואלית ולרכיבי מחשוב מקבילים של המעבד הגרפי. זה נועד לעבוד עם שפות תכנות כמו C, C++ ו-Fortran.

הנגישות הזו היא שמקלה על מפתחים מקבילים לנצל את משאבי ה-GPU, בניגוד לממשקי API קודמים כמו Direct3D ו-OpenGL, שדרשו מיומנויות תכנות גרפיות מתקדמות.

NVIDIA-CUDA

פריצת דרך חשובה הייתה האספקה ​​של החברה NVIDIA כוח מחשוב עבור הרשת העצבית פורצת הדרך AlexNet. זוהי רשת עצבית קונבולוציונית (CNN), שפותחה על ידי האוקראיני אלכס קריז'בסקי בשיתוף עם איליה סוצקבר וג'פרי גינטון.

רשתות עצביות קונבולוציוניות (CNN) תמיד היו המודל הרצוי לזיהוי אובייקטים - הם מודלים רבי עוצמה שקל לשלוט בהם ואפילו קל יותר לאמן. הם אינם חווים התאמת יתר במידה מדאיגה כאשר משתמשים בהם במיליוני תמונות. הביצועים שלהם כמעט זהים לרשתות עצביות סטנדרטיות להזנה קדימה באותו גודל. הבעיה היחידה היא שקשה ליישם אותם על תמונות ברזולוציה גבוהה. קנה המידה של ImageNet דרש חידושים שיעברו אופטימיזציה עבור GPUs ויפחיתו את זמן האימון תוך שיפור הביצועים.

אלכסנט

ב-30 בספטמבר 2012, AlexNet השתתפה באתגר ImageNet Large Scale Visual Recognition. הרשת השיגה ציון של 15,3% במבחן חמש השגיאות המובילות, למעלה מ-10,8% נמוך מהציון במקום השני.

המסקנה העיקרית מהעבודה המקורית הייתה שהמורכבות של המודל נבעה מהביצועים הגבוהים שלו, שגם הם היו יקרים מאוד מבחינה חישובית, אך התאפשרו על ידי שימוש ביחידות עיבוד גרפיות (GPU) במהלך תהליך האימון.

הרשת העצבית הקונבולוציונית של AlexNet עצמה מורכבת משמונה שכבות; חמש השכבות הראשונות הן שכבות קונבולוציוניות, שלחלקן קדמו שכבות משולבות מקסימליות, ושלושת האחרונות הן שכבות מחוברות במלואן. הרשת, למעט השכבה האחרונה, מפוצלת לשני עותקים, שכל אחד מהם פועל על GPU יחיד.

- פרסום -

כלומר, בזכותו NVIDIA ועדיין רוב המומחים והמדענים מאמינים כי AlexNet הוא מודל חזק להפליא המסוגל להשיג דיוק גבוה על מערכי נתונים מורכבים מאוד. AlexNet היא הארכיטקטורה המובילה לכל משימת זיהוי אובייקטים ויכולה להכיל יישומים רחבים מאוד בתחום הראייה הממוחשבת לבעיות בינה מלאכותית. בעתיד, AlexNet עשוי לשמש יותר מ-CNN בתחום ההדמיה.

מעניין גם: תופעת הבלוסקי: איזה שירות והאם זה לאורך זמן?

בינה מלאכותית נמצאת לא רק במעבדות ובמרכזי נתונים

В NVIDIA ראה סיכויים גדולים ל-AI גם בטכנולוגיות של מכשירי צריכה ואינטרנט של הדברים. בעוד המתחרים רק מתחילים לשקול השקעה רחבה יותר בסוג חדש של מעגל משולב, NVIDIA כבר עובד על מזעור שלהם. שבב Tegra K1, שפותח בשיתוף פעולה עם טסלה וחברות רכב אחרות, הוא כנראה חשוב במיוחד.

NVIDIA-Tegra-K1

מעבד Tegra K1 הוא אחד המעבדים הראשונים NVIDIA, תוכנן במיוחד עבור יישומי AI במכשירים ניידים ומשובצים. Tegra K1 משתמש באותה ארכיטקטורת GPU כמו סדרת הכרטיסים והמערכות הגרפיים NVIDIA GeForce, Quadro וטסלה, המספקת ביצועים גבוהים ותאימות לתקני גרפיקה ומחשוב כגון OpenGL 4.4, DirectX 11.2, CUDA 6.5 ו-OpenCL 1.2. הודות לכך, מעבד Tegra K1 יכול לתמוך באלגוריתמים מתקדמים של בינה מלאכותית כגון רשתות עצביות עמוקות, למידת חיזוק, זיהוי תמונה ודיבור וניתוח נתונים. ל-Tegra K1 192 ליבות CUDA.

בשנת 2016 NVIDIA הוציאה סדרה של מעבדי Pascal המותאמים לתמיכה ברשתות עצביות עמוקות ומודלים אחרים של בינה מלאכותית. תוך שנה הופיעה בשוק סדרת מעבדי Volta ליישומים הקשורים לבינה מלאכותית, יעילים וחסכוניים אף יותר. בשנת 2019 NVIDIA קונה את מלאנוקס טכנולוגיות, יצרנית רשתות מחשבים בעלות ביצועים גבוהים למרכזי נתונים ומחשבי-על.

NVIDIA

כתוצאה מכך, כולם משתמשים במעבדים NVIDIA. בשוק הצרכני, למשל, גיימרים משתמשים באלגוריתם שחזור התמונות המהפכני DLSS, המאפשר להם ליהנות מגרפיקה חדה יותר במשחקים מבלי להוציא הרבה כסף על כרטיס מסך. בשוק העסקי, זה מוכר כי צ'יפס NVIDIA במובנים רבים מעבר למה שהמתחרים מציעים. למרות שזה לא שאינטל ו-AMD ישנו לגמרי את המהפכה האינטלקטואלית.

מעניין גם: הכלים הטובים ביותר המבוססים על בינה מלאכותית

אינטל ו-AMD בתחום הבינה המלאכותית

בואו נדבר על מתחרים ישירים NVIDIA בפלח שוק זה. אינטל ו-AMD עובדות כאן יותר ויותר באופן פעיל, אך באיחור רב.

אינטל רכשה מספר חברות בינה מלאכותית כמו Nervana Systems, Movidius, Mobileye ו-Habana Labs כדי לחזק את סל הטכנולוגיות והפתרונות שלה בינה מלאכותית. אינטל מציעה גם פלטפורמות חומרה ותוכנה לבינה מלאכותית, כגון מעבדי Xeon, FPGAs, שבבי NNP וספריות אופטימיזציה. אינטל עובדת גם עם שותפים במגזר הציבורי והפרטי כדי לקדם חדשנות וחינוך בינה מלאכותית.

אינטל ו-AMD

AMD פיתחה סדרה של מעבדי Epyc וכרטיסי מסך Radeon Instinct המותאמים ליישומי AI ולמידה עמוקה. AMD עובדת גם עם חברות כמו גוגל, Microsoft, IBM ואמזון, המספקות פתרונות ענן עבור AI. AMD גם שואפת להשתתף במחקר ופיתוח בינה מלאכותית באמצעות שותפויות עם מוסדות אקדמיים וארגונים בתעשייה. אבל הכל טוב מאוד NVIDIA כבר הרבה לפניהם, והצלחתו בתחום הפיתוח והתמיכה באלגוריתמי AI גדולה לאין ערוך.

מעניין גם: סיכום של Google I/O 2023: Android 14, פיקסל והרבה AI

NVIDIA מקושר למשחקי וידאו במשך עשרות שנים

גם את זה אסור לשכוח. NVIDIA אינו מספק פירוט מדויק של הכנסותיה בין השוק הצרכני והעסקי, אך ניתן לאמוד אותן על סמך מגזרי הפעילות שהחברה חושפת בדוחותיה הכספיים. NVIDIA מפריד בין ארבעה מגזרי פעילות: משחקים, ויזואליזציה מקצועית, מרכזי נתונים ומכוניות.

NVIDIA

ניתן לשער שגזרת המשחקים מתמקדת בעיקר בשוק הצרכני, שכן הוא כולל מכירת כרטיסי מסך GeForce ושבבי Tegra לקונסולות משחק. מגזר ההדמיה המקצועית מתמקד בעיקר בשוק העסקי, שכן הוא כולל מכירת כרטיסי מסך Quadro ושבבי RTX לתחנות עבודה ואפליקציות מקצועיות. גם מגזר הדאטה סנטרים מתמקד בעיקר בשוק העסקי, שכן הוא כולל מכירה של GPUs ו-NPUs (כלומר, שבבים מהדור הבא - כבר לא GPUs, אלא מיועדים אך ורק ל-AI) לשרתים ולשירותי ענן. פלח הרכב מכוון הן לשוק הצרכני והן לשוק העסקי, שכן הוא כולל מכירות של מערכות טגרה ו-Drive עבור אינפורמציה ובידור ונהיגה אוטונומית.

NVIDIA

בהתבסס על הנחות אלו, ניתן להעריך את חלקן של ההכנסות משווקים צרכניים ועסקיים בסך ההכנסות NVIDIA. על פי הדו"ח הכספי האחרון לשנת 2022, הכנסות החברה NVIDIA לפי מגזרי פעילות היו כדלקמן:

  • משחקים: 12,9 מיליארד דולר
  • הדמיה מקצועית: 1,3 מיליארד דולר
  • מרכזי נתונים: 9,7 מיליארד דולר
  • מכוניות: 0,8 מיליארד דולר
  • כל שאר המגזרים: 8,7 מיליארד דולר

הכנסה כוללת NVIDIA הסתכם ב-33,4 מיליארד דולר. אם נניח שפלח הרכב מחולק בערך שווה בשווה בין השוק הצרכני והעסקי, ניתן לחשב את הפרופורציות הבאות:

  • הכנסה משוק הצרכנים: (12,9 + 0,4) / 33,4 = 0,4 (40%)
  • הכנסה מהשוק העסקי: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60%)

המשמעות היא שכ-40% מההכנסה NVIDIA מגיע מהשוק הצרכני, וכ-60% מהשוק העסקי. כלומר, הכיוון העיקרי הוא הפלח העסקי. אבל תעשיית המשחקים מביאה גם הכנסה טובה למדי. הדבר החשוב ביותר הוא שהם גדלים כל שנה.

מעניין גם: יומנו של חנון זקן נרגן: בינג נגד גוגל

מה יביא לנו העתיד?

זה ברור ש NVIDIA יש כבר תוכנית להשתתף בפיתוח אלגוריתמים של בינה מלאכותית. והיא הרבה יותר רחבה ומבטיחה מכל מתחרותיה הישירות.

רק בחודש האחרון NVIDIA הכריזה על השקעות חדשות רבות בבינה מלאכותית. אחד מהם הוא מנגנון GET3D, המסוגל לייצר מודלים תלת מימדיים מורכבים של עצמים ודמויות שונות המשקפים נאמנה את המציאות. GET3D יכול ליצור כ-20 אובייקטים בשנייה באמצעות שבב גרפי בודד.

צריך להזכיר עוד פרויקט מעניין נוסף. אודות ישראל-1 הוא מחשב-על לתוכניות בינה מלאכותית, אשר NVIDIA יוצרת בשיתוף משרד המדע והטכנולוגיה של ישראל וחברת מלאנוקס. המכונה צפויה להיות בעלת יותר מ-7 petaflops של כוח מחשוב ולהשתמש ביותר מ-1000 GPUs NVIDIA A100 Tensor Core. Israel-1 ישמש למחקר ופיתוח בתחומים כמו רפואה, ביולוגיה, כימיה, פיזיקה ואבטחת סייבר. ואלה כבר השקעות הון מבטיחות מאוד, בהתחשב בסיכויים ארוכי הטווח.

NVIDIA

כמו כן, יש כבר פרויקט נוסף - NVIDIA אֵס. זוהי טכנולוגיה חדשה שאמורה לחולל מהפכה בתעשיית המשחקים בכך שהיא מאפשרת לשחקן לקיים אינטראקציה עם דמות שאינה שחקן (NPC) בצורה טבעית ומציאותית. דמויות אלו יוכלו לנהל דיאלוג פתוח עם השחקן, להגיב לרגשותיו ולמחוותיו ואף לבטא את רגשותיהם ומחשבותיהם. NVIDIA ACE משתמשת במודלים מתקדמים של שפה ומחוללי תמונות מבוססי בינה מלאכותית.

טריליון הדולרים הראשונים NVIDIA. נראה שבקרוב יהיו עוד. אנו נדאג לעקוב אחר התקדמות החברה וליידע אותך.

קרא גם:

Yuri Svitlyk
Yuri Svitlyk
בן הרי הקרפטים, גאון בלתי מוכר במתמטיקה, "עורך דין"Microsoft, אלטרואיסט מעשי, שמאל-ימין
- פרסום -
הירשם
תודיע על
אורח

0 תגובות
ביקורות משובצות
הצג את כל ההערות