Hallo,
Ich habe für mein Setup (9800x3D, 5090) RAM 96GB gebraucht erworben, der ging leider kaputt und ich hab jetzt vom Hersteller ein komplett neues 96GB DDR5-6000 CL30 Kit geschickt bekommen.
Ich benutze den PC für Softwareentwicklung (und tw. Gaming) ohne viele VMs, habe auch mal ein lokales Modell in Claude Code Harness eingespannt um bei Downzeiten und wenn mein Pro Limit aufgebraucht war noch damit arbeiten zu können.
Wenn ich llama.cpp mit einem großen Modell, zuletzt QWEN3.5-35B-A3B-Q6_K, belade, war ich schon öfters mal bei 50+GB RAM Belegung.
Trotzdem ist mein Kontext (131072) teilweise übergelaufen, und die Performance war eher für kleine Arbeiten gut.
Meine Frage ist nun, lohnt sich so viel RAM überhaupt? Habe noch 32GB hier rum liegen den ich stattdessen nutzen könnte, dann das 96GB verkaufen.
Außerdem ist der 96GB RAM lt. Mainboardhersteller und RAM Hersteller nicht supported auf AM5 und meinem Mainboard, was wohl eher ein kleines Problem darstellen sollte, bin mir aber trotzdem unsicher. Das Mainboard ist recht billig (PC fertig gekauft, warn guter Deal) und damit einhergehend wohl auch unsicherer (poor power delivery?)
Bitte verzeiht mir mein Unwissen, bin noch recht neu im local AI Game. Würde mich über Meinungen von erfahreneren Leuten hier freuen.
Danke im Voraus für eure Beratung :)