Igen, ezt elvileg beteszi a RAM-ba:
https://huggingface.co/TheBloke/WizardCoder-Python-34B-V1.0-GGUF - most ezzel fogok próbálkozni.
"Max RAM required" az egyenesen arányos a modell fájl méretével
A laptopban van 64 GB RAM, az asztali gépen ez nem tudom rendesen gyűrni... :)
Az olcsó PC-t az NVIDIA kártyák millió forintos árához képest írtam. 64 GB RAM is csak < 100.000 Ft, aprópénz az AI-képes GPU-khoz képest.