Nekem 2-3 perc egy tipikus válasz, nagyon lassú, de kibírható.
1-2 GB körüli modellek tuti vannak a huggingface-en, de azok persze butábbak: https://discuss.huggingface.co/t/smallest-pretrained-model/5495
> Másik kérdés, van-e ugyanilyen generikus processzorra fordítható grafikai AI?
Ilyenről nem tudok, de jó lenne persze.