Nvidia
בתחילת שבוע שעבר ב- COMPUTEX, Nvidia הודיעה כי החדש שלה GH200 גרייס הופר "סופרצ'יפ"- שילוב מעבד ו-GPU שנוצר במיוחד עבור יישומי AI בקנה מידה גדול - נכנס לייצור מלא. זו חיה. יש לו 528 ליבות טנזור GPU, תומך בעד 480GB של זיכרון RAM ו-96GB של GPU RAM, ומתהדר ברוחב פס של זיכרון GPU של עד 4TB לשנייה.
לקריאה נוספת
ה-H100 GPU החזק של Nvidia יישלח באוקטוברכיסינו בעבר את שבב Nvidia H100 Hopper, שהוא כיום ה-GPU החזק ביותר של מרכז הנתונים של Nvidia. זה מניע דגמי AI כמו של OpenAI ChatGPT, וזה סימן א שדרוג משמעותי מעל שנות ה-2020 A100 שבב, שהניע את הסיבוב הראשון של ריצות אימון עבור רבים מהצ'אטבוטים ומחוללי התמונות המייצרים חדשות בינה מלאכותית עליהם אנחנו מדברים היום.
מעבדי GPU מהירים יותר מתורגמים בגסות לדגמי AI מחוללים חזקים יותר מכיוון שהם יכולים להריץ יותר מטריקס הכפלות במקביל (ועשו זאת מהר יותר), מה שהכרחי לרשתות העצבים המלאכותיות של היום פוּנקצִיָה.
ה-GH200 לוקח את הבסיס הזה של "הופר" ומשלב אותו עם זה של Nvidia "חן" פלטפורמת CPU (שתיהן נקראות על שם חלוץ המחשבים
גרייס הופר), מגלגל אותו לשבב אחד באמצעות טכנולוגיית החיבור שבב-לשבב NVLink (C2C) של Nvidia. Nvidia מצפה שהשילוב יאיץ באופן דרמטי יישומי בינה מלאכותית ולמידת מכונה הן באימון (יצירת מודל) והן בהסקת היסוד (הרצתו)."בינה מלאכותית גנרית משנה במהירות עסקים, פותחת הזדמנויות חדשות ומאיצה את הגילוי בתחום הבריאות, הפיננסים, שירותים עסקיים ותעשיות רבות נוספות", אמר איאן באק, סגן נשיא למחשוב מואץ ב-Nvidia, בהודעה לעיתונות. "עם Grace Hopper Superchips בייצור מלא, יצרנים ברחבי העולם יספקו בקרוב את המואץ ארגוני תשתית נדרשים לבנות ולפרוס יישומי AI גנרטיביים הממנפים את הייחודיות שלהם נתונים קנייניים."
לדברי החברה, תכונות מפתח של ה-GH200 כוללות ממשק זיכרון קוהרנטי (משותף) חדש של 900GB/s, שהוא מהיר פי שבעה מאשר PCIe Gen5. ה-GH200 מציע גם רוחב פס מצטבר של זיכרון מערכת גבוה פי 30 ל-GPU בהשוואה ל-Nvidia DGX A100 הנ"ל. בנוסף, ה-GH200 יכול להריץ את כל פלטפורמות התוכנה של Nvidia, כולל Nvidia HPC SDK, Nvidia AI, ו Nvidia Omniverse.
לקריאה נוספת
רעבים לבינה מלאכותית? מחשב העל החדש מכיל 16 שבבים בגודל צלחת ארוחת ערביש לציין שגם Nvidia הכריז שהיא תבנה את שבב המעבד/GPU המשולב הזה למחשב-על חדש בשם DGX GH200, שיכול לנצל את הכוח המשולב של 256 שבבי GH200 כדי להופיע כ-GPU יחיד, לספק ביצועים של 144 טרה-בייט של זיכרון משותף, כמעט פי 500 יותר זיכרון מהדור הקודם של Nvidia DGX A100.
ה-DGX GH200 יהיה מסוגל לאמן דגמי AI ענק מהדור הבא (GPT-6, מישהו?) עבור יישומי שפה גנרטיביים, מערכות ממליצים וניתוח נתונים. Nvidia לא הכריזה על תמחור עבור ה-GH200, אבל לפי אננדטק, מחשב DGX GH200 יחיד "יעלה בקלות איפשהו ב-8 ספרות נמוכות."
בסך הכל, סביר לומר שבזכות המשך התקדמות החומרה של ספקים כמו Nvidia ו- מוחין, סביר להניח שדגמי AI ענן מתקדמים ימשיכו להיות מסוגלים יותר עם הזמן, יעבדו יותר נתונים ויעשו זאת הרבה יותר מהר מבעבר. בוא נקווה שהם לא לִטעוֹן עם עיתונאים טכנולוגיים.