( tr3w | 2008. 03. 09., v - 14:57 )

2.
Szigmoid: http://mathworld.wolfram.com/SigmoidFunction.html
Egyébként a te linkeden is ez van, mi a gond a deriválhatósággal?

3.
A "tanulás" bevett terminológia.
Egy függvény (jelen esetben hibafüggvény) lokális minimumának megtalálására elég sok módszer van, csak ebből sok a gyakorlatban nem alkalmazható neurális hálókra. Csak gondolj bele a paramétertér dimenziószámába.
Az első (és talán leggyakrabban használt) módszer a backpropagation, aminek lényege, hogy a "tanító" mintákra összeveti a kapott eredményt a várt eredménnyel, és a hibát "visszapropagálja", ezáltal arra a mintára a háló jó(/jobb) eredményt ad. Innen a "tanítás" kifejezés...

"...handing C++ to the average programmer seems roughly comparable to handing a loaded .45 to a chimpanzee."
-- Ted Ts'o