Matematické Fórum

Nevíte-li si rady s jakýmkoliv matematickým problémem, toto místo je pro vás jako dělané.

Nástěnka
!! 17.06.2018 (Jel.) Khanova škola zve nadšence ke spolupráci na překladech návodů pro učitele a rodiče.
! 04.11.2016 (Jel.) Čtete, prosím, před vložení dotazu, děkuji!
17.01.2016 (Jel.) Rok 2016 s novými a novějšími krystaly od kolegy Pavla!
17.01.2016 (Jel.) Nabídka knih z oborů matematiky, fyziky, chemie
23.10.2013 (Jel.) Zkuste před zadáním dotazu použít některý z online-nástrojů, konzultovat použití můžete v sekci CAS.

Nejste přihlášen(a). Přihlásit

#1 13. 06. 2019 11:45

bsaid
Zelenáč
Příspěvky: 3
Škola: FI MU
Pozice: pracující
Reputace:   
 

Statistika: Aproximace přímkou, metoda nejmenších čtverců

Hledám regresní p%u0159ímku, kde sou%u010Det odchylek je co nejmen%u0161í.
NEhledám regresní p%u0159ímku, kde sou%u010Det druhých mocnin odchylek je co nejmen%u0161í.

Jinými slovy je pro m%u011B toté%u017E, kdy%u017E:
- se jedna hodnota li%u0161í od nalezené p%u0159ímky o 10
- nebo se 10 hodnot li%u0161í od nalezené p%u0159ímky o 1

Když vezmu součet čtverců:
$S(a,b) = \sum_{i=0}^{n} (f(x_i)-y_i)^2$

A odstraním mocninu tak, abych získal součet odchylek:
$S(a,b) = \sum_{i=0}^{n} f(x_i)-y_i$

Potom se parciální derivace podle $a$ a $b$ "příliš pokrátí":
$\frac{\partial }{\partial a}(a x + b - y) = x$
$\frac{\partial }{\partial b}(a x + b - y) = 1$

a výsledná soustava rovnic neobsahuje proměnné $a$ a $b$, které chci spočítat.
Existuje tedy způsob, jak najít regresní přímku, která minimalizuje součet odchylek, nikoliv jejich čtverců?

Offline

 

#2 13. 06. 2019 12:11

Jj
Příspěvky: 7620
Škola: VŠB, absolv. r. 1970
Pozice: Důchodce
Reputace:   537 
 

Re: Statistika: Aproximace přímkou, metoda nejmenších čtverců

↑ bsaid:

Řekl bych, že těžko. V takovém případě by se myslím $S(a,b)\rightarrow - \infty$.


Pokud se tedy nemýlím.

Offline

 

#3 13. 06. 2019 13:01

bsaid
Zelenáč
Příspěvky: 3
Škola: FI MU
Pozice: pracující
Reputace:   
 

Re: Statistika: Aproximace přímkou, metoda nejmenších čtverců

Děkuji za odpověď! Existence $\mathbb{R}^{-}$ mi tady nějak unikla.

V tom případě po odstranění mocniny přidám absolutní hodnotu:
$S(a,b) = \sum_{i=0}^{n} |f(x_i)-y_i|$

Potom parciální derivace:
$\frac{\partial }{\partial a}(|ax+b-y|) = x \cdot \text{sgn}(a x + b - y)$
$\frac{\partial }{\partial b}(|ax+b-y|) = \text{sgn}(a x + b - y)$

Obávám se, že matice výsledné soustavy rovnic:
$\sum_{i=1}^{n} (x \cdot \text{sgn}(a x_i + b - y_i)) = 0$
$\sum_{i=1}^{n} (\text{sgn}(a x + b - y)) = 0$

nemusí být regulární $\forall n \ge 2$. Takže tudy opravdu cesta nevede?

Offline

 

#4 13. 06. 2019 14:32

Jj
Příspěvky: 7620
Škola: VŠB, absolv. r. 1970
Pozice: Důchodce
Reputace:   537 
 

Re: Statistika: Aproximace přímkou, metoda nejmenších čtverců

↑ bsaid:

Nevím.


Pokud se tedy nemýlím.

Offline

 

#5 13. 06. 2019 15:21

Stýv
Vrchní cenzor
Příspěvky: 5269
Reputace:   200 
Web
 

Re: Statistika: Aproximace přímkou, metoda nejmenších čtverců

V první řadě se nabízí otázka: proč nechceš nejmenší čtverce?

V druhé řadě: opravdu to není tak jednoduché, jako minimalizovat nejmenší čtverce, viz https://en.wikipedia.org/wiki/Least_absolute_deviations

Unlike least squares regression, least absolute deviations regression does not have an analytical solving method.

Offline

 

#6 13. 06. 2019 16:02

bsaid
Zelenáč
Příspěvky: 3
Škola: FI MU
Pozice: pracující
Reputace:   
 

Re: Statistika: Aproximace přímkou, metoda nejmenších čtverců

Moc děkuji za odpovědi. Zabývám se digitálním zpracováním signálu ze senzoru, který má speciální vlastnost.
Řekněme, že senzor v ideálním případě naměří posloupnost hodnot $D=(d_1, d_2, ...)$. Jenže měření jsou jako vždy zatížena chybou. Chyba se projevuje tak, že na náhodných intervalech $I = (d_a, d_b)$ je k reálné hodnotě přičteno náhodné číslo $r \in \mathbb{R}$, $r \in (0, \epsilon)$. Tyto intervaly $I_1, I_2, ...$ se mohou překrývat a tady vzniká důvod, proč nechci nejmenší čtverce. Výsledná chyba na intervalu $I_1 \cap I_2$ má vyšší váhu než by měla mít. Ve výsledném filtrovaném signálu mi takto vznikají nežádoucí okem viditelné artefakty nebo lépe řečeno nespojitosti.

Offline

 

Zápatí

Powered by PunBB
© Copyright 2002–2005 Rickard Andersson