( arpi_esp | 2024. 12. 24., k – 19:47 )

nem igazan lehet osszevonni. meg a Tesla K80 karytanal sem ahol 1 fizikai kartyan 2db gpu es 2x12GB van, ott sem tudja egyben hasznalni :(

azt lehet hogy a modelt spliteled 2 reszre es a 2 gpu a model 2 kulon reszet szamolja, de nem lehet mindent parhuzamositani es van sok adat amire mindket gpu-nak szuksege van (pl. embedding), amit mindket kartya/gpu memoriajaba fel kell toltened, tehat nem fogod tudni ugy kihasznalni a 2x12GB-ot mint az 1x24-et mert eleg nagy az overhead.