Numerika
Aproximace metodou nejmenších čtverců
Další možnou aproximační metodou je metoda nejmenších čtverců. V praxi se totiž setkáváme s případy, kdy funkční hodnoty aproximované funkce v uzlových bodech jsou zatíženy většími chybami a v takovémto případě pak není příliš vhodný požadavek , na interpolační polynom p.
Nejjednodušší úlohou řešenou touto metodou je následující úloha.
Je dána spojitá funkce f na intervalu [a,b], množina k bodů v (tato množina může být dělením intervalu [a,b], kde je a ) a n funkcí na , , kde . Předpokládejme, že vektory
jsou lineárně nezávislé. Označme .
Naším cílem je nalézt funkci takovou, že
(8)
Dříve než budeme řešit úlohu (8), připomeneme si řešení podobného geometrického problému.
Jsou dány vektory , jsou lineárně nezávislé. Naším úkolem je najít vektor takový, že
(9)
Je zřejmé, že vektor splňuje (9) právě tehdy, když je kolmý na vektory . Protože je . Pro určení vektoru musíme nalézt konstanty .
Protože je kolmý na vektory , musí platit
a po úpravě, dostaneme
(10)
Koeficienty tedy dostaneme jako řešení soustavy . Z lineární nezávislosti vektorů pak vyplývá, že matice soustavy
je regulární a tato soustava je jednoznačně řešitelná.
Nyní se vrátíme k úloze (8). Naším úkolem je najít funkci , tedy takovou, že
kde jsou neznámé koeficienty.
Označme nejdříve pro libovolné funkce skalární součin
Obdobným způsobem jako při řešení úlohy (9) lze i při řešení úlohy (8) dojít k rovnicím
Koeficienty jsou řešením soustavy
(11)
Protože podle předpokladu jsou vektory lineárně nezávislé, je matice soustavy (11)
regulární a soustava (11) je řešitelná jednoznačně. Z vlastností skalárního součinu navíc plyne, že tato matice je symetrická.