- summoner blogja
- A hozzászóláshoz be kell jelentkezni
- 663 megtekintés
Hozzászólások
csak a szokasos alkudasi strategia a kovetkezo bevasarlas elott
- A hozzászóláshoz be kell jelentkezni
mily meglepo, hogy egy celhardver gyorsabb es/vagy olcsobb tud lenni egy (majdnem) altalanos celu processzornal (gpu). foleg hogy az inferencehez tenyleg csak szorzas es osszeadas kell, de az iszonyu gyorsan es rengeteg adaton amihez sok es gyors eleresu ram kell.
igazabol a ram a szuk keresztmetszet mar most is, es azt pont nem gyart a fenti cegek kozul egy sem. nem lepodnek meg azon se, ha pl a samsung kozben elorukkolna egy inference-optimized chippel memoriaval osszeintegralva.
- A hozzászóláshoz be kell jelentkezni
"With 44 GB of on-chip SRAM and 21 petabytes per second of memory bandwidth"
https://www.cerebras.ai/chip
Amit nem lehet megirni assemblyben, azt nem lehet megirni.
- A hozzászóláshoz be kell jelentkezni
gondolom ez is a megfizethetetlen kategoria, mint az nvidia H200
- A hozzászóláshoz be kell jelentkezni
A 108 millió Ft az megfizethető. A kérdés nekem az, hogy ki tudja visszatermelni a kártya árát és milyen szolgáltatással.
- A hozzászóláshoz be kell jelentkezni
nem, nem az. foleg hogy az inferencehez is legalabb 4-8db kell az ilyen kartyabol 1 kozepes modelhez is. soha a budos eletbe nem terul ez meg...
- A hozzászóláshoz be kell jelentkezni
egy másik topikban pont azt mondtad, hogy egyre olcsóbb lesz a modellek futtatása. na akkor most mi is van? megéri, vagy nem éri meg?
- A hozzászóláshoz be kell jelentkezni
a mostani nvidia H200 es hasonlokkal draga nagyon, ezert kell valami uj olcso celhw amivel olcsobb lesz. erre var mindenki. bar a kinaiaknak allitolag mar van.
- A hozzászóláshoz be kell jelentkezni
Hát ha nem térül meg, akkor nem jövedelmező célra van használva, ennyike. Építeni kell valami startupot, ahol 8 ilyen kártya megtérül pár hónapon belül, majd gyorsan eladni valami befektetőnek! :-)
- A hozzászóláshoz be kell jelentkezni