polinom illesztése zárt alakban

Algoritmusok

Sziasztok,

szeretném megkérdezni, hogy n-ed fokú polinom illesztése esetén a következő mátrixos alak miért adja a közönséges legkisebb négyzetek szerinti legjobb illeszkedést?

http://en.wikipedia.org/wiki/Polynomial_regression#Matrix_form_and_calc…

Azt sejtem, hogy a Vandermonde-mátrix algebrailag a polinomiális alakkal lehet összefüggésben (minden elem 0...n-1-edik hatványa előáll ugye), de egyelőre nem tudom belátni, hogy pontosan mi a szerepe. El tudja magyarázni valaki egyszerűen?

További kérdéseim:
- úgy tapasztalom, hogy az illesztendő polinom fokszámát elegendően magasra választva nem javul, hanem romlik az illeszkedés, pedig azt a viselkedést várnám, hogy legfeljebb a "szükségtelen", magas fokszámú komponensek együtthatói 0, vagy nagyon alacsony értékek lesznek. Ez miért nem így működik?
- a számításigényt leszámítva, ez a módszer miben tér el attól (elsősorban az eredményt, ill. az alkalmazhatóságot tekintve), mintha favágással, numerikusan keresném meg az együtthatókat, szintén a legkisebb négyzetek alapján, de pl. valamilyen gradiensalapú szélsőértékkereső eljárással?
- létezik-e ehhez hasonló zárt alakú megoldás a teljes legkisebb négyzetek módszerére is (total least squares)?

  • 5215 megtekintés

( DieHappy | 2011. 07. 05., k – 01:41 )

az X matrix es az y vector tartalmazza az osszes x_i, y_i part, es azt szeretned, hogy ez igaz legyen:

y = Xa +e

ez barmikor igazza teheto, megfelelo e-vel. De, jo lenne olyan a-t valasztani, amivel az e-k a legkisebbek. Konkretan, ha eTe a legkisebb lenne.

(y-Xa)^T(y-Xa) = e^Te , derivalva a szerint ennek nullanak kell lennie, mert az a minimalis e^Te szumma.

2(y-Xa)^T(-X) = 0, vagyis:

y^T X = (Xa)^T X = a^T (X^T X)

innen pedig egy transponalas es egy inverz, de az eredmenyben a matrixok sorrendjet most nem latom. Csak vigyazni kell, hogy csak X^TX vagy XX^T invertalhato matrix, X onmagaban nem, es a vektorok sem.

Az altalaban igaz, hogy a polinomillesztesnel a tul sok tag tullo a celon. Megilleszte nehany pontot, de a pontok kozott osszevissza oszcillal. Az is igaz, hogy a nagyobb foku polinomnak nincs koze az illesztett kisebbhez. Ha "jol viselkedo" illesztest akarsz, akkor csinald Csebisev polinomokkal. Azok sokkal "biztonsagosabb" bazisok, mint a sima x, x^2, x^3 ... stb

Altalaban a gradiensalapu modszerek tobb lepesbol allnak, mint egy jol beprogamozott inverz kereses, de sok bennuk a kozos. A vegeredmeny elvileg ugyanaz, hiszen a matrixos megoldasbol latszik, egy optimum van.