LLM-ek Apple Siliconon: MLX, kvantizálás és LoRA

Mostanában viszonylag sok időt töltök kisebb nagy nyelvi modellek finomhangolásával, és ezek egy részét a saját Apple-gépeimen végzem. Ezzel kapcsolatban írtam egy bejegyzést; ha valaki hasonlóval szeretne foglalkozni, talán hasznát veheti. Bővebben: itt.