Pitanje o maksimalnom podržanom RAM-u na matičnoj ploči.

Prošlog rujna kupio sam unaprijed izgrađeni sustav s Ryzen 5600G, 16 GB RAM-a i RTX 3060 12 GB za igranje uz Stable Diffusion. Nadogradio sam RAM na maksimalno podržanih 32 GB uzimajući RAM iz postojećeg sustava.

Sada kada sam lud za LLM-om, koristim 33B Llama modele koristeći CPU + GPU pri oko 1-2 tokena u sekundi. Razumno su zanimljivi. Korištenje 65B modela puno je sporije, dobivam oko 0,1 tokena u sekundi. Posjedovanje 64 GB omogućit će mi malo bolji rad s modelima 65B.

Dakle, što će se dogoditi ako kupim dva 32GB DDR4 sticka i koristim ih na svom sustavu? Hoće li sustav moći iskoristiti 64 GB?

Ovo je čisto teoretski jer mislim da sam usko grlo zbog brzina CPU-a i RAM-a i da bih to riješio trebat će mi najnoviji CPU s DDR5 za propusnost memorije i dobre performanse. Ne postoji plan za skoro dobivanje novog sustava. Samo želim znati što će se dogoditi.

Gledajući tablicu specifikacija na https://www.amd.com/en/products/chipsets-am4 i čitajući poprijeko, mislim da je B550 s novom oznakom.

Imajte na umu da je memorijski kontroler na CPU-u, tako da je jedina moguća briga ako BIOS podržava 32 GB DIMM-ove. Ne poznajete nikoga od koga biste mogli posuditi malo RAM-a za test dokaza koncepta?

edit: ups, samo dva mjesta. Vjerojatno možete staviti 64G tamo. Mislio sam da imate četiri utora, koji bi mogli podržavati 128G, da je Lenovo spojio sve tragove.

Ali, ne, dva utora. Mislim da je 64G to.