עכשיו עם שיגעון ה-LLM, אני מריץ דגמי 33B Llama באמצעות CPU + GPU בסביבות 1-2 אסימון לשנייה. הם מעניינים למדי. השימוש בדגמי 65B הוא הרבה יותר איטי, אני מקבל בסביבות 0.1 אסימונים לשנייה. 64GB יאפשר לי להריץ את דגמי ה-65B קצת יותר טוב.
אז מה יקרה אם אקנה שני מקלות DDR4 בנפח 32GB ואשתמש בהם במערכת שלי? האם המערכת תוכל לעשות שימוש ב-64GB?
זה תיאורטי בלבד מכיוון שלדעתי יש לי צוואר בקבוק במהירויות המעבד וה-RAM וכדי לפתור את זה אצטרך את המעבד העדכני ביותר עם DDR5 עבור רוחב הפס של הזיכרון וביצועים טובים. אין תוכנית לקבל מערכת חדשה בקרוב. אני רק רוצה לדעת מה יקרה.
בהסתכלות על המפרט של לוח אם 4 חריצי DIMM, הוא תמך ב-128GB של זיכרון RAM. בהחלט שווה לאשר עם ספק הלוח.
זכור שבקר הזיכרון נמצא במעבד, כך שהחשש היחיד האפשרי הוא אם ה-BIOS תומך ב-DIMM של 32 GB. אתה לא מכיר מישהו שאתה יכול לשאול ממנו זיכרון RAM למבחן הוכחה של מושג?
אם זה הדגם שלך, וכתוב "עד 32GB", אז אתה צריך לבקש הוכחה משכנעת לפני רכישת זיכרון נוסף. מילים סמור כמו "המערכת עשויה לתמוך ביותר זיכרון ככל שהטכנולוגיה מתפתחת" אינן הוכחה ניצחת.
אבל, לא, שני משבצות. אני חושב ש-64G זה.