"Full model tanítás dev gépen? Vannak bajok látom :)))))"
Önreflexióval vannak bajok nálad úgy látom. Szerinted mire utalt a 3800 évecske?
A logikád a legfontosabb ponton bukik meg:
Ha egy fejlesztő egy olyan cégnél dolgozik, ahol már van egy bikaerős AWS/Azure/DGX/Akármi felhős infrastruktúra, miért a bánatért iktatna be a munkafolyamatba egy 4000 dolláros, asztali "mini téglát"?
A te általad vázolt "profi" munkafolyamat így néz ki: Fejlesztő (Notebook) -> DGX Spark (az asztalon) -> AWS/DGX/AI_Akármi felhő (a nagy rendszer)
Ez teljesen logikátlan. A valódi profi munkafolyamat így néz ki: Fejlesztő (Notebook) -> Kisebb Dev Instance (az AWS/DGX/AI_Akármi felhőben)
Miért? Mert olcsóbb, rugalmasabb, és 100%-ban ugyanabban a környezetben dolgozik, mint ahol a végső tanítás futni fog. A te logikád szerint a DGX Spark egy drága és felesleges köztes lépés lenne.
Akkor kinek is készült valójában a DGX Spark? Pont azoknak, akiket te "amatőrnek" nevezel:
Egyéni kutatóknak és fejlesztőknek, akiknek NINCS hozzáférésük egy több millió dolláros DGX klaszterhez.
Kis startupoknak, akik a felhőköltségek töredékéért akarnak nagy modellekkel kísérletezni.
Olyan cégeknek, ahol a szenzitív adatok miatt a felhő használata szóba sem jöhet (pl. egészségügy, hadiipar).
Bárkinek, aki offline akar dolgozni, és nem függeni a hálózati kapcsolattól.
A Spark nem egy "SDK" a nagy DGX-hez. A Spark egy önálló termékkategória: az első, viszonylag megfizethető eszköz, ami a szuperszámítógépek képességét (az óriási modellek futtatását) hozza le az egyéni fejlesztő asztalára.