> rtx3090 Majdnem 1 millió.
majd. nem. 2 eve volt 600k az uj, en 300-ert vettem akkor.
1 misiert mar rtx5090-et kapsz 32gb ddr7-el...
de cpu-rol szolt a thread amugy, csak erdekessegkent kiprobaltam ha a model harmadat a gpu-n futtatom (tobb nem is fer bele) mennyivel gyorsabb, hat nem sokkal.
> amit 50 ember sem tud megfelelő sebességgel használni
hat ezt 1 max 2 ember tudja, es nem hasznalni hanem bohockodni vele, azert a kanyarba sincs a nagy modellekhez (deepseek 720b, gemini, fizetos chatgpt stb) kepest. de a hasonlo meretu llama4-hez (vagy a tobbi <100b modelhez) kepest azert sokkal jobb, raadasul gyuorsabb is erezhetoen (llama4 nekem ugyanezen a vason cpu+gpuval 6t/s korul futott).
de ilyen weboldalba integralt kamu ugyfelszolgalat chatbotnak vagy emaileket, pdf-eket, weboldalakat osszefoglalni roviden feladatokra ez is jo. de programozni ne akarj vele :)