> Irtó jó lenne saját szerveren futtatni egy ilyet, de nyilván arra egy komoly géppark kellene.
igenyektol fugg, egy llama3 70b is eleg mar sokmindenre, es az elfut egy 96-128gb ramos desktop gepen is, bar nem lesz gyors.
deepseek meg jobb de ugye ahhoz mar vegtelen sok (de legalabb 512GB) memoria kell... azt mar desktop pc-vel nehez megoldani.
ha nincs szukseged a model sajat tudasara, eleg csak az altalad beadott pdf-ekbol dolgoznia, akkor egy kisebb model is bovel jo lehet. olyat kell keresni/futtatni ami elegge nagy contextet is tud, mert fontos hogy az osszes inputod es az outputod is beferjen egyszerre.