NagyZ javaslatara nekialltam LLM-eket futtatni, tesztelni. Mindig is erdekelt a tema, de se idom se eleg motivaciom nem volt ra.
Most viszont van ez a webui, ami elegge megkonnyiti az eletet a kezdoknek...
Kiprobaltam a GPT-6B es a GPT-4chan modelleket, de ezek eleg "gyerekesek" meg. Utobbi mondjuk jo lenne a HUP-ra is kommentelni, ugy tolja a politikai trollkodast hogy orom nezni, csak sajnos angolul, de rakok majd kommentbe peldat :)
Az uj "nagyagyu", a facebookos LLaMA mar kicsit macerasabb: