Eddig szuperül működött a zfs send | ssh remote zfs receive
de átállva 10 Gbps-re, már limitál az ssh. Kb. 1 Gbps-nél vágja a forgalmat és a fogadó gépen látszik, hogy az sshd process 100%on fut 1 core-t használva.
Valakinek van ötlete, hogy lehet más módszerrel átküldeni a stream-et másik gépre?
- 1284 megtekintés
Hozzászólások
Szedd szét a zfs-t és akkor tudod párhuzamosítani.
Ssh compression ugye nincs bekapcsolva?
- A hozzászóláshoz be kell jelentkezni
Szét van, de nem jutott eszembe párhuzamosan futtatni. Így már 4-5 Gbps-en megy a küldés 4 párhuzamos zfs send-el.
Sokkal többet már nem vinne a fogadó szerver sem, tehát ez így tökéletes.
A Compression az default (delayed), de ha átküldtem mindent ami fut, kipróbálom kikapcsolva is.
- A hozzászóláshoz be kell jelentkezni
A compression kikapcsolása nem segített.
- A hozzászóláshoz be kell jelentkezni
Hm. Pedig az viszi a cpu használat komoly százalékát, ha csak cpu-ban koppant, javulni kellett volna.
- A hozzászóláshoz be kell jelentkezni
Én is saját szenvedésen jutottam erre, távoli telephelyre egyszálas bármilyen kommunikáció lassú volt az rtt miatt. Miután kollégákkal rájöttünk hogy több szálon viszont kitömhető a vonal, a zfs send is rögtön szárnyalt :)
- A hozzászóláshoz be kell jelentkezni
Ha nincs koztes eszkoz ahol elkaphatjak a forgalmat, tehat a halozatod kvazi secure a 2 gep kozott, akkor probalkozz nc-vel.
Nalam sokat segitett VM ki-be koltozesnel (eloszor dd image-be, majd vissza dd-ztem).
Ennek mintajara kb, csak zfs send/recieve:
on the sending side: tar -c /path/to/data | nc -q 10 12345
on the receiving side: nc -w 10 -l -p 12345 | tar -x
kozben megtalaltam pl. ez (a bzip kevesbe cpu ehes):
nc -l 19000|bzip2 -d|dd bs=16M of=/dev/sdb
dd bs=16M if=/dev/sda|bzip2 -c|nc serverB.example.net 19000
- A hozzászóláshoz be kell jelentkezni
Úgy tűnik megy:
fogadó gép:
nc -l 1234 | zfs receive tank/bknfs1/test
küldő gép:
zfs send tank/test@snap01 | nc backup_host 1234
Evvel a módszerrel 500-600 MB/s (5Gbps) átvitelt sikerült elérni, ami kb a fogadó gép limitje, tehát így ki tudom használni a hálózatot.
- A hozzászóláshoz be kell jelentkezni
Ez érdekes prezentáció. A netcat joggal az etalon.
http://allanjude.com/bsd/AsiaBSDCon2017_-_SSH_Bulk_Transfer_Performance…
- A hozzászóláshoz be kell jelentkezni
Ez egy érdekes prezi volt!
Köszi a linket!
- A hozzászóláshoz be kell jelentkezni
[Feliratkozás]
- A hozzászóláshoz be kell jelentkezni
Feliratkozom
- A hozzászóláshoz be kell jelentkezni