Neurális hálózat projekt

 ( csxeba | 2017. július 23., vasárnap - 14:59 )

Sziasztok, van egy Pythonban írt neurális háló könyvtáram, ami a használhatóság határát súrolja. Csak a NumPy-t használja függőségként. Mély tanulásban persze nem veszi fel a versenyt a nagy kutyákkal (Theano, Tensorflow, Keras, stb.), de kisebb hálókhoz, illetve tanulni, kísérletezni szerintem ideális.
Nem használtam benne automatikus differenciálót, minden gradiens meghatározás explicit le van vezetve matematikailag, így háló-matek tanulására is alkalmas.
Lassan, de biztosan túlnő rajtam a dolog, ezért ha valakit érdekel, szívesen kooperálnék. Továbbá nem vagyok programozó, a könyvtár nincs rendesen csomagolva, nincs normális dokumentáció, kevés teszt van, stb. Ilyen jellegű tanácsokat, segítséget szívesen fogadnék, illetve code review is jöhet, bírom a kritikát és nincsenek illúzióim :)
Pár feature:
- Konvolúciós réteg
- Rekurrens rétegek (LSTM, GRU, Clockwork)
- Megerősítéses tanulás (DQN, Policy Gradients, stb.)
- Sokféle SGD-alapú optimalizáló (Adagrad, RMSprop, Adam, stb.)
- Neuroevolúció differenciál evolúcióval
Link:
https://github.com/csxeba/brainforge

Hozzászólás megjelenítési lehetőségek

A választott hozzászólás megjelenítési mód a „Beállítás” gombbal rögzíthető.

Szia,

megneztem, komoly cucc. kar hogy a numpy nem a leggyorsabb, legalabbis a cuda gpu-s megoldasokhoz kepest (cuDNN stb). komolyabb adatmennyisegnel sajnos a cpu felejtos :(

akar kooperalhatunk is, en is elegge beleastam mostansag magam a deep learning temakorbe, csak nekem inkabb a programozas megy jobban mint a matek resze :)
en foleg tensorflow-al dolgoztam, de annak a forditasa es a dep-jei egy agyrem...

A'rpi