Statystyka matematyczna/Funkcje charakterystyczne

Statystyka matematyczna

Funkcje charakterystyczne

Licencja
Autor: Mirosław Makowiecki Absolwent UMCS Fizyki Komputerowej Uniwersytetu Marii Curie-Skłodowskiej w Lublinie Email: miroslaw(kropka)makowiecki(małpa)gmail(kropka)pl Dotyczy: książki, do której należy ta strona, oraz w niej zawartych stron i w nich podstron, a także w nich kolumn, wraz z zawartościami. Użytkownika książki, do której należy ta strona, oraz w niej zawartych stron i w nich podstron, a także w nich kolumn, wraz z zawartościami nie zwalnia z odpowiedzialności prawnoautorskiej nieprzeczytanie warunków licencjonowania. Umowa prawna: Creative Commons: uznanie autorstwa, na tych samych warunkach, z możliwością obowiązywania dodatkowych ograniczeń. Autor tej książki dołożył wszelką staranność, aby informacje zawarte w książce były poprawne i najwyższej jakości, jednakże nie udzielana jest żadna gwarancja, czy też rękojma. Autor nie jest odpowiedzialny za wykorzystanie informacji zawarte w książce, nawet jeśli wywołaby jakąś szkodę, straty w zyskach, zastoju w prowadzeniu firmy, przedsiębiorstwa lub spółki bądź utraty informacji, niezależnie czy autor (a nawet Wikibooks) został powiadomiony o możliwości wystąpienie szkód. Informacje zawarte w książce mogą być wykorzystane tylko na własną odpowiedzialność.

Wykaz modułów w książce
1Średnie w matematyce statystycznej 2Wprowadzenie do rozkładów zmiennych losowych 3Momenty statystyczne ciągłe i dyskretne 4Momenty statystyczne dla funkcji złożonej 5Momenty statystyczne w działaniu 6Pobieranie próby 7Metoda największej wiarygodności 8Funkcje charakterystyczne 9Ważniejsze rozkłady statystyczne 10Twierdzenie o rozkładzie Bernoulliego 11Twierdzenie o rozkładzie wielomianowym 12Twierdzenie o rozkładzie normalnym jednowymiarowym 13Twierdzenie o rozkładzie normalnym wielowymiarowym 14Centralne twierdzenie graniczne 15Twierdzenie o rozkładzie χ² 16Twierdzenie o rozkładzie hipergeometrycznym 17Twierdzenie o rozkładzie Poissona 18Błędy pomiarowe w fizyce 19Metoda najmniejszych kwadratów

Spis treści
1Wartość oczekiwana z wielkości zespolonej 2Funkcja charakterystyczna rozkładu 3Momenty statystyczne λ, a funkcji charakterystyczna rozkładu 4Momenty statystyczne μ, a funkcja charakterystyczna rozkładu 5Funkcja charakterystyczna dwóch niezależnych zmiennych 6Rozkład normalny i jego funkcja charakterystyczna

Następny rozdział: Ważniejsze rozkłady statystyczne. Poprzedni rozdział: Metoda największej wiarygodności.

Podręcznik: Statystyka matematyczna.

Wprowadzimy funkcję zwaną funkcją charakterystyczną, która charakteryzuje sam rozkład gęstości prawdopodobieństwa. Mając funkcję gęstości prawdopodobieństwa można określić funkcję charakterystyczną i odwrotnie, mając funkcję charakterystyczną możemy określić sam rozkład gęstości prawdopodobieństwa.

Wartość oczekiwana z wielkości zespolonej

Załóżmy, że mamy pewną funkcję prostą zespoloną, która jest sumą jej części rzeczywistej i urojonej i której definicją jest:

z = x + i y

(8.1)

Znając wartości oczekiwane względem funkcji prostych x i y przy pewnej funkcji gęstości prawdopodobieństwa, to jego wartość oczekiwana (8.1), korzystając przy tym z udowodnionej tożsamości (5.3), możemy przedstawić jako sumę wartości oczekiwanej argumentu x i iloczynu jednostki urojonej przez wartości oczekiwanej argumentu y.

E (z) = E (x) + i E (y)

(8.2)

Funkcja charakterystyczna rozkładu

Funkcją charakterystyczną rozkładu względem zmiennej x definiujemy jak wartość oczekiwana z funkcji eksponencjalnej z argumentu itx.

ϕ (t) = E [\exp (i t x)] = \int_{a}^{x} \exp (i t x) f (x) d x

(8.3)

Przy definiowaniu funkcji (8.3), korzystaliśmy z założenia (8.2). Znając funkcję charakterystyczną rozkładu możemy napisać funkcję gęstości prawdopodobieństwa f(x) na podstawie transformaty Fouriera według funkcji charakterystycznej zdefiniowanej w punkcie (8.3):

f (x) = \frac{1}{2 π} \int_{- \infty}^{\infty} e^{- i t x} ϕ (t) d t

(8.4)

Dystrybuantę zmiennej x gęstości prawdopodobieństwa f(x) (8.4) definiujemy:

F (x) - F (a) = \int_{a}^{x} f (x) d x = \int_{\infty}^{+ \infty} \frac{d t}{2 π} \int_{a}^{x} e^{- i t x} d x = \frac{i}{2 π} \int_{- \infty}^{\infty} \frac{e^{- i t x} - e^{- i t a}}{t} ϕ (t) d t

(8.5)

Momenty statystyczne λ, a funkcji charakterystyczna rozkładu

Weźmy n-tą pochodną funkcji zespolonej (8.3), którą nazywamy:

ϕ^{(n)} (t) = i^{n} \int_{a}^{b} x^{n} e^{i t x} f (x) = i^{n} E [x^{n} \exp (i t x)]

(8.6)

Policzmy n-tą pochodną funkcji charakterystycznej (8.6) w punkcie t=0, i korzystając przy tym z definicji momentu statystycznego (3.1), zatem oczywiste jest, że n-ta pochodna funkcji (8.3) w punkcie zerowym jest wprost proporcjonalna do momentu statystycznego λ_n:

ϕ^{(n)} (0) = i^{n} E [x^{n}] \Rightarrow ϕ^{(n)} = i^{n} λ_{n}

(8.7)

Momenty statystyczne μ, a funkcja charakterystyczna rozkładu

Zdefiniujmy funkcję charakterystyczną φ_y(t) dla funkcji zdefiniowanej jako $y = x - \overline{x}$ względem jakieś funkcji gęstości rozkładu prawdopodobieństwa:

ϕ_{y} (t) = E {\exp [i t (x - \overline{x})]}

(8.8)

n-ta pochodna funkcji φ_y (8.8) jest napisana wedle:

ϕ_{y}^{(n)} (t) = i^{n} E {(x - \overline{x})^{n} \exp [i t (x - \overline{x})]}

(8.9)

Następnie policzmy n-tą pochodną (8.8) w punkcie t=0 , korzystając przy tym z definicji momentu statystycznego μ_n względem średniej arytmetycznej przy jego definicji (3.8):

ϕ_{y}^{(n)} (0) = i^{n} E {(x - \overline{x})^{n}} = i^{n} μ_{n}

(8.10)

Ze wzoru (8.10) wynika, że zerowa pochodna (sama funkcja) jest równa jeden dla t=0, co wynika z normowania funkcji gęstości prawdopodobieństwa, czy z definicji momentu statystycznego μ_n, czyli:

ϕ_{y} (0) = 1

(8.11)

A jego pierwsza pochodna z własności (3.13) momentu statystycznego o numerze jeden jest równa zero:

ϕ_{y}^{(1)} (0) = 0

(8.12)

Także wariacja, z własności (3.14) wzięta z minusem, jest napisana w zależności od drugiej pochodnej funkcji φ_y(t) w tymże punkcie dla t=0:

ϕ_{y}^{(2)} (0) = - σ^{2} (x)

(8.13)

Funkcja charakterystyczna dwóch niezależnych zmiennych

Weźmy pod lupę funkcję w=x+y, gdzie x- to jest zmienna pierwszego rozkładu, y-drugiego rozkładu, zatem funkcję charakterystyczną względem parametru "w", a także korzystając przy tym z własności funkcji eksponencjalnej, możemy napisać:

ϕ_{w} (t) = E {\exp [i t (x + y)]} = E {\exp [i t x] \exp [i t y]}

(8.14)

Wiedząc, ze parametry x i y są zmiennymi niezależnymi w danym doświadczeniu w układzie statystycznym, wedle wzoru (5.9) możemy ten obiekt (8.14) zapisać:

ϕ_{w} (t) = E {\exp (i t x)} E {\exp (i t y)} = ϕ_{x} (t) ϕ_{y} (t)

(8.15)

Funkcja charakterystyczna rozkładu sumy dwóch niezależnych od siebie zmiennych losowych jest równa iloczynowi funkcji charakterystycznych dla tychże zmiennych:

ϕ_{x + y} (t) = ϕ_{x} (t) ϕ_{y} (t)

(8.16)

Rozkład normalny i jego funkcja charakterystyczna

Przyjmijmy na razie bez dowodu, że funkcja rozkładu normalnego (Gaussa) jednowymiarowego względem zmiennej x przy definicji parametru b=σ(x) w tej funkcji względem wartości średniej parametru a=E(x) przyjmuje formę:

ρ (x) = \frac{1}{\sqrt{2 π} b} e^{- \frac{(x - a)^{2}}{2 b^{2}}}

(8.17)

Przy pomocy funkcji rozkładu (8.17) możemy napisać funkcję charakterystyczną (8.3) charakteryzującą ten właśnie wspomniany rozkład:

ϕ (t) = \frac{1}{\sqrt{2 π}} \int_{- \infty}^{\infty} e^{i t x} e^{- \frac{1}{2} \frac{(x - a)^{2}}{b^{2}}} d \frac{x - a}{b}

(8.18)

Dokonajmy zamiany zmiennych, którego wygląd jest napisany poniżej, z której możemy wyznaczyć zmienną x od zmiennej podstawienia u i od pozostałych parametrów:

u = \frac{(x - a)}{b} \Rightarrow x = u b + a

(8.19)

Wtedy funkcja charakterystyczna (8.18) na podstawie definicji podstawienia (8.19) możemy zapisać za pomocą całki względem parametru u.

ϕ (t) = \frac{1}{\sqrt{2 π}} e^{i t a} \int_{- \infty}^{\infty} e^{- \frac{1}{2} u^{2} + i t (b u + a)} d u

(8.20)

Rozpiszmy wyrażenie pomocnicze, które będzie nam potrzebne do wyznaczenia całki w wyrażeniu (8.20):

- \frac{1}{2} u^{2} + i t b u = - \frac{1}{2} (u^{2} - 2 i t b u - t^{2} b^{2}) - \frac{1}{2} t^{2} b^{2} = - \frac{1}{2} (u - i t b)^{2} - \frac{1}{2} t^{2} b^{2}

(8.21)

Korzystając z obliczeń (8.21), dochodzimy do wniosku, że funkcja charakterystyczna (8.20) ma się w postaci:

ϕ (t) = \frac{1}{\sqrt{2 π}} e^{i t a} \int_{- \infty}^{\infty} e^{- \frac{1}{2} (u - i t b)^{2} - \frac{1}{2} t^{2} b^{2}} d u = \frac{1}{\sqrt{2 π}} e^{i t a} e^{- \frac{1}{2} t^{2} b^{2}} \int_{- \infty}^{\infty} e^{- \frac{1}{2} r^{2}} d r = \frac{1}{\sqrt{2 π}} e^{i t a} e^{- \frac{1}{2} t^{2} b^{2}} \sqrt{2 π} = e^{i t a} e^{- \frac{1}{2} t^{2} b^{2}}

(8.22)

Funkcja charakterystyczna rozkładu normalnego (Gaussa) na podstawie obliczeń (8.22) przepisuje ostateczną formę na funkcję charakterystyczną rozkładu rozkładu normalnego:

ϕ (t) = e^{i t a} e^{- \frac{1}{2} t^{2} b^{2}}

(8.23)

Dla postaci standardowej, wtedy zachodzi a=0 i b=1, funkcja (8.23) przyjmuje postać:

ϕ (t) = e^{- \frac{1}{2} t^{2}}

(8.24)

Funkcja charakterystyczna dla postaci standardowej jest to funkcja rozkładu gęstości prawdopodobieństwa rozkładu normalnego standardowego z dokładnością do czynnika normalizacyjnego.