Kaptam kölcsön egy USB-s Google-féle Coral.ai kütyüt. Egy ismerősöm pedig egy Hailo 8L-et tartalmazó Raspberry Pi AI kitet vett magának. Ezek valamiféle összehasonlítását szeretném/nk megcsinálni. Mondjuk Pi4-en.
Van valami ilyen jellegű publikusan elérhető demó kód, teszteszköz?
Hozzászólások
Papír szerint a Hailo 13 TOPS-ot tud, a Coral meg 4-et vagy esetleg 8-at, ha a dupla chip-est kaptad. Utóbbi elvileg csak a Tensorflow Lite-ot támogatja, így eléggé be vagy korlátozva mivel mérsz.
Ha USB-set kaptál, az RPi USB I/O-ban is szűk lehet hozzá, így nem biztos, hogy a chip korlátoz
Én megkérdezném erről a mesterséges intelligenciát.
Kiindulásnak ez: https://coral.ai/docs/edgetpu/benchmarks/
vs ez: https://hailo.ai/products/hailo-software/model-explorer/
Mondjuk az egyiknél ms van, a másiknál fps, de ezt majd kibogarászod :)
Szerk: közben rájöttem hogy a fenti két táblázat nem biztos hogy 1 az egyben összevethető. A Hailo 8L-at nem ismerem, de gondolom a coral ai-hoz hasonlóan csak bizonyos műveleteket támogat (coral ai nem tud csak integert). Szóval csak úgy lehet rendesen összehasonlítani ha ugyanazon a host cpu-n fut a model.
hat ezek nem sokra jok. altalaban max tensorflow lite vagy valami sajat framework, elor egyartott altalaban kep vagy hangfelismero modelleket tudnak futtatni. ez nem olyan AI mint a chatgpt...
Szia! Nem tudom azóta hogy áll a benchmark, vagy foglalkoztok-e még vele, de a coral ai-hoz egy apró adalék:
Nem mindegy hogy a raspberry pi4-en az usb 2.0 vagy 3.0-ra van-e dugva. Ez utóbbira dugva nagyobb órajelen fut, illetve ennek megfelelően jobban is melegszik. Ezen kívül ugye kétfajta libedgetpu van, az std és max, a maxnál a szokásosnál is magasabb órajelen megy és még jobban melegszik. Szóval ha már benchmark, akkor ezeket az eshetőségeket is érdemes tesztelni.