- Metoda najmniejszych kwadratów
- Rozwiązane ćwiczenia
- Ćwiczenie 1
- Rozwiązanie
- Ćwiczenie 2
- Po co to jest?
- Bibliografia
Metoda najmniejszych kwadratów jest jednym z najważniejszych zastosowań w aproksymacji funkcji. Chodzi o to, aby znaleźć taką krzywą, że biorąc pod uwagę zestaw uporządkowanych par, funkcja ta najlepiej aproksymuje dane. Funkcja może być linią, krzywą kwadratową, sześcienną itp.
Idea metody polega na zminimalizowaniu sumy kwadratów różnic rzędnych (składowa Y) między punktami wygenerowanymi przez wybraną funkcję a punktami należącymi do zbioru danych.
Metoda najmniejszych kwadratów
Przed podaniem metody musimy najpierw wyjaśnić, co oznacza „lepsze podejście”. Załóżmy, że szukamy linii y = b + mx, która najlepiej reprezentuje zbiór n punktów, a mianowicie {(x1, y1), (x2, y2)…, (xn, yn)}.
Jak pokazano na poprzednim rysunku, gdyby zmienne xiy były powiązane linią y = b + mx, to dla x = x1 odpowiadająca jej wartość y wyniosłaby b + mx1. Jednak ta wartość różni się od prawdziwej wartości y, która wynosi y = y1.
Pamiętaj, że w płaszczyźnie odległość między dwoma punktami jest określona wzorem:
Mając to na uwadze, aby określić sposób wyboru prostej y = b + mx, która najlepiej przybliża podane dane, logiczne wydaje się użycie jako kryterium wyboru linii minimalizującej sumę kwadratów odległości między punktami. i prosto.
Ponieważ odległość między punktami (x1, y1) i (x1, b + mx1) wynosi y1- (b + mx1), nasz problem sprowadza się do znalezienia liczb m i b takich, że następująca suma jest minimalna:
Linia spełniająca ten warunek jest nazywana „przybliżeniem linii najmniejszych kwadratów do punktów (x1, y1), (x2, y2),…, (xn, yn)”.
Po rozwiązaniu problemu pozostaje tylko wybrać metodę znalezienia przybliżenia metodą najmniejszych kwadratów. Jeśli wszystkie punkty (x1, y1), (x2, y2),…, (xn, yn) znajdują się na linii y = mx + b, otrzymalibyśmy współliniowość y:
W tym wyrażeniu:
Wreszcie, jeśli punkty nie są współliniowe, to y-Au = 0 i problem można przełożyć na znalezienie wektora u takiego, że norma euklidesowa jest minimalna.
Znalezienie minimalizującego wektora u nie jest tak trudne, jak mogłoby się wydawać. Ponieważ A jest macierzą nx2, a u jest macierzą 2 × 1, mamy, że wektor Au jest wektorem w R n i należy do obrazu A, który jest podprzestrzenią R n o wymiarze nie większym niż dwa.
Zakładamy, że n = 3, aby pokazać, którą procedurę należy zastosować. Jeśli n = 3, obraz A będzie płaszczyzną lub linią przechodzącą przez początek.
Niech v będzie wektorem minimalizującym. Na rysunku widzimy, że y-Au jest zminimalizowane, gdy jest prostopadłe do obrazu A. To znaczy, jeśli v jest wektorem minimalizującym, to zdarza się, że:
Następnie możemy to wyrazić w następujący sposób:
Może się to zdarzyć tylko wtedy, gdy:
Wreszcie, rozwiązując v, mamy:
Jest to możliwe, ponieważ A t A jest odwracalne, o ile n punktów podanych jako dane nie jest współliniowych.
Teraz, gdybyśmy zamiast szukać linii, chcielibyśmy znaleźć parabolę (której wyrażenie miałoby postać y = a + bx + cx 2 ), która byłaby lepszym przybliżeniem do n punktów danych, procedura byłaby taka, jak opisano poniżej.
Gdyby n punktów danych znajdowało się w tej paraboli, mielibyśmy:
Następnie:
Podobnie możemy napisać y = Au. Jeśli wszystkie punkty nie znajdują się w paraboli, mamy, że y-Au jest różne od zera dla dowolnego wektora u i nasz problem jest taki: znajdź wektor u w R3 taki, aby jego norma - y-Au - była jak najmniejsza .
Powtarzając poprzednią procedurę, możemy dojść do wniosku, że poszukiwany wektor to:
Rozwiązane ćwiczenia
Ćwiczenie 1
Znajdź linię, która najlepiej pasuje do punktów (1,4), (-2,5), (3, -1) i (4,1).
Rozwiązanie
Musimy:
Następnie:
Dlatego dochodzimy do wniosku, że linia, która najlepiej pasuje do punktów, jest określona wzorem:
Ćwiczenie 2
Załóżmy, że upuszczono obiekt z wysokości 200 m. W miarę jak spada, podejmowane są następujące kroki:
Wiemy, że wysokość wspomnianego obiektu, po upływie czasu t, jest wyrażona wzorem:
Jeśli chcemy otrzymać wartość g, możemy znaleźć parabolę, która jest lepszym przybliżeniem do pięciu punktów podanych w tabeli, a tym samym mielibyśmy, że współczynnik towarzyszący t 2 będzie rozsądnym przybliżeniem do (-1/2) g, jeśli pomiary są dokładne.
Musimy:
I później:
Zatem punkty danych są dopasowane przez następujące wyrażenie kwadratowe:
Więc musisz:
Jest to wartość dość bliska poprawnej, która wynosi g = 9,81 m / s 2 . Aby uzyskać dokładniejsze przybliżenie g, należałoby zacząć od dokładniejszych obserwacji.
Po co to jest?
W problemach, które pojawiają się w naukach przyrodniczych lub społecznych, wygodnie jest zapisać relacje, które istnieją między różnymi zmiennymi, za pomocą jakiegoś wyrażenia matematycznego.
Na przykład w ekonomii możemy powiązać koszt (C), dochód (I) i zyski (U) za pomocą prostego wzoru:
W fizyce możemy powiązać przyspieszenie powodowane przez grawitację, czas, w którym obiekt spadał, i wysokość obiektu zgodnie z prawem:
W poprzednim wyrażeniu s o to wysokość początkowa wspomnianego obiektu, a v o to jego prędkość początkowa.
Jednak znalezienie takich wzorów nie jest łatwym zadaniem; zwykle to do dyżurnego specjalisty należy praca z dużą ilością danych i wielokrotne wykonywanie kilku eksperymentów (w celu sprawdzenia, czy uzyskane wyniki są stałe) w celu znalezienia zależności między różnymi danymi.
Typowym sposobem osiągnięcia tego jest przedstawienie danych uzyskanych na płaszczyźnie jako punktów i poszukiwanie funkcji ciągłej, która optymalnie przybliża te punkty.
Jednym ze sposobów znalezienia funkcji, która „najlepiej przybliża” dane dane, jest metoda najmniejszych kwadratów.
Ponadto, jak widzieliśmy w ćwiczeniu, dzięki tej metodzie możemy uzyskać dość bliskie przybliżenia stałych fizycznych.
Bibliografia
- Algebra liniowa Charlesa W. Curtisa. Springer-Velarg
- Kai Lai Chung. Elementarna teoria proability z procesami stochastycznymi. Springer-Verlag New York Inc.
- Richar L Burden i J. Douglas Faires. Analiza numeryczna (7ed). Thompson Learning.
- Stanley I. Grossman. Zastosowania algebry liniowej. MCGRAW-HILL / INTERAMERICANA DE MEXICO
- Stanley I. Grossman. Algebra liniowa. MCGRAW-HILL / INTERAMERICANA DE MEXICO