Kurs:Stochastik/Zentraler Grenzwertsatz

Einführung (1)

Der Zentrale Grenzwertsatz befasst sich mit unabhängigen, identisch verteilten Zufallsvariablen, deren Erwartungswert und Varianz endlich sind. Die Besonderheit des Resultats ist, dass die Zufallsgrößen $X_{n}$ stetig oder diskret verteilt sein und dennoch konvergiert normalisierten Summenverteilung $(Z_{n})_{n\in \mathbb {N} }$ der Zufallsgrößen $(X_{n})_{n\in \mathbb {N} }$ stochastisch gegen die Normalverteilung ${\mathcal {N}}(0,1)$ .

Diese Aussage ist auch bekannt als Grenzwertsatz von Lindeberg/Lévy.

Einführung (2)

Die Abildung zeigt die Annäherung von symmetrischen (oben) und schiefen (unten) Binomialverteilungen (rot) an die Normalverteilung (grün).

Einführung (3)

Bei den Zentralen Grenzwertsätzen handelt es sich um eine Familie schwacher Konvergenzaussagen aus der Wahrscheinlichkeitstheorie, die zu den Grenzwertsätzen der Stochastik gezählt werden. Allen gemeinsam ist die Aussage, dass die Summe einer großen Anzahl von unabhängigen Zufallsvariablen asymptotisch einer stabilen Verteilung folgt.^[1] Bei endlicher und positiver Varianz der Zufallsvariablen ist die Summe annähernd normalverteilt, was die Sonderstellung der Normalverteilung erklärt.

Einführung (4)

Es existieren verschiedene Verallgemeinerungen, für die eine identische Verteilung keine notwendige Voraussetzung ist. Stattdessen wird dann eine andere Voraussetzung gefordert, die sicherstellt, dass keine der Variablen zu großen Einfluss auf das Ergebnis erhält. Beispiele sind die Lindeberg-Bedingung und die Ljapunow-Bedingung. Darüber hinausgehende Verallgemeinerungen gestatten sogar „schwache“ Abhängigkeit der Zufallsvariablen.

Die Bezeichnung geht auf G. Pólyas Arbeit Über den zentralen Grenzwertsatz der Wahrscheinlichkeitsrechnung und das Momentenproblem von 1920 zurück.^[2]

Der Zentrale Grenzwertsatz der Statistik bei identischer Verteilung (1)

Sei $X_{1},X_{2},X_{3},\dots$ eine Folge von Zufallsvariablen, die auf demselben Wahrscheinlichkeitsraum mit dem Wahrscheinlichkeitsmaß $P$ alle dieselbe Wahrscheinlichkeitsverteilung aufweisen und unabhängig sind (u.i.v. = unabhängig und identisch verteilt, engl. i.i.d. = independent and identically distributed). Sei weiter angenommen, dass sowohl der Erwartungswert $\mu$ als auch die Standardabweichung $\sigma >0$ existieren und endlich sind.

Der Zentrale Grenzwertsatz der Statistik bei identischer Verteilung (2)

Betrachten wir nun die $n$ -te Teilsumme dieser Zufallsvariablen $S_{n}=X_{1}+X_{2}+\cdots +X_{n}$ .
Der Erwartungswert von $S_{n}$ ist $n\mu$ und die Varianz ist $n\sigma ^{2}$ .
Bildet man daraus die standardisierte Zufallsvariable

Z_{n}={\frac {S_{n}-n\mu }{\sigma {\sqrt {n}}}},

dann besagt der Zentrale Grenzwertsatz, dass die Verteilungsfunktion von $Z_{n}$ für $n\to \infty$ punktweise gegen die Verteilungsfunktion der Standardnormalverteilung ${\mathcal {N}}(0,1)$ konvergiert.

Der Zentrale Grenzwertsatz der Statistik bei identischer Verteilung (3)

Dies entspricht genau dem Begriff der Konvergenz in Verteilung in der Stochastik. Ist $\Phi (z)$ die Verteilungsfunktion von ${\mathcal {N}}(0,1)$ , dann bedeutet dies, dass für jedes reelle $z$

\lim _{n\to \infty }P(Z_{n}\leq z)=\Phi (z).

In etwas anderer Schreibweise erhält man $\lim _{n\rightarrow \infty }P\left({\frac {{\overline {X}}_{n}-\mu }{\sigma /{\sqrt {n}}}}\leq z\right)=\Phi (z),$ wobei ${\overline {X}}_{n}={\frac {S_{n}}{n}}={\frac {X_{1}+\cdots +X_{n}}{n}}$ der Mittelwert der ersten $n$ Summanden der Zufallsvariablen ist.

Bemerkungen (1)

Der Beweis des Zentralen Grenzwertsatzes erfolgt meist auf Basis allgemeiner Sätze über die Eigenschaften von charakteristischen Funktionen. Auf deren Grundlage reicht es, die Momente beziehungsweise Kumulanten der Folgenglieder $Z_{n}$ und so die Koeffizienten der Taylorreihe der charakteristischen Funktion zu bestimmen. Letzteres ist aber einfach möglich (siehe Artikel Kumulante, Abschnitt Zentraler Grenzwertsatz).

Bemerkungen (2)

Der Zentrale Grenzwertsatz kann aber auch elementar, das heißt ohne das tiefliegende Hilfsmittel der charakteristischen Funktion, bewiesen werden. Dazu werden Erwartungswerte der Form $\operatorname {E} (f(Z_{n}))$ untersucht, die einerseits im Fall einer Indikatorfunktion eines abgeschlossenen Intervalls $[a,b]$ der Wahrscheinlichkeit $P(a\leq Z_{n}\leq b)$ entsprechen und andererseits in Fällen einer genügend glatten Funktion $f$ gut approximiert werden können. Dieses Verfahren eines elementaren Beweises stammt von Jarl Waldemar Lindeberg.^[3]

Bemerkungen (3)

Endliche Stichprobenumfänge lassen die Frage nach der Konvergenzgüte aufsteigen. Unter bestimmten Bedingungen liefert der Satz von Berry-Esseen eine Antwort: Existiert das dritte zentrierte Moment $\operatorname {E} ((X_{1}-\mu )^{3})$ und ist es endlich, dann ist die Konvergenz zur Normalverteilung gleichmäßig und die Konvergenzgeschwindigkeit wenigstens von der Ordnung $1/{\sqrt {n}}$ .

Bemerkungen (4)

Da für stochastisch unabhängige normalverteilte Zufallsvariablen die Summe wieder normalverteilt ist, gilt für diese der zentrale Grenzwertsatz im Endlichen, genauer ist $Z_{n}$ für jedes $n$ bereits standardnormalverteilt.

Für stochastisch unabhängige bernoulli-verteilte Zufallsvariablen ist die Summe binomialverteilt und man erhält als Spezialfall des zentralen Grenzwertsatzes den Satz von Moivre-Laplace.

Verallgemeinerungen (1)

Eine Verallgemeinerung des Zentralen Grenzwertsatzes ist der mehrdimensionale Zentrale Grenzwertsatz. Er liefert Aussagen über die Konvergenz der Verteilungen von Zufallsvektoren gegen die mehrdimensionale Standardnormalverteilung.

Verallgemeinerungen (2)

Eine weitere Verallgemeinerung ist der zentrale Grenzwertsatz von Lindeberg-Feller. Er lässt auch gewisse Abhängigkeiten zwischen den Zufallsvariablen zu, indem er sie zu Gruppen zusammenfasst und die Unabhängigkeit nur innerhalb dieser Gruppen fordert. Die Folge dieser Gruppen wird ein Schema von Zufallsvariablen genannt. Die Lindeberg-Bedingung und die Ljapunow-Bedingung lassen sich auch für Schemata von Zufallsvariablen formulieren und liefern damit Kriterien für die Konvergenz bei Verwendung von Schemata.

Literatur

Hans Fischer, A History of the Central Limit Theorem. From Classical to Modern Probability Theory, New York 2011, lSBN 978-0-387-87856-0, doi:10.1007/978-0-387-87857-7.

Siehe auch

Standardnormalverteilungstabelle

Weblinks

Einzelnachweise

↑ John P. Nolan: Stable Distributions – Models for Heavy Tailed Data. Birkhauser, Boston 2011, S. 22 (american.edu).
↑ Jeff Miller: Earliest Known Uses of Some of the Words of Mathematics.
George Pólya: Über den zentralen Grenzwertsatz der Wahrscheinlichkeitsrechnung und das Momentenproblem, Mathematische Zeitschrift, 8, 1920, S. 171–181 (online)
↑ Jarl Waldemar Lindeberg: Eine neue Herleitung des Exponentialgesetzes in der Wahrscheinlichkeitsrechnung, Mathematische Zeitschrift, Band 15, 1922, S. 211–225 (Online-Version).
Siehe auch Jörg Bewersdorff: Statistik – wie und warum sie funktioniert. Ein mathematisches Lesebuch. Vieweg+Teubner Verlag 2011, lSBN 978-3-8348-1753-2, doi:10.1007/978-3-8348-8264-6, S. 139–146.

[[w:de:Kategorie:Zufallsvariable]] [[w:de:Kategorie:Wahrscheinlichkeitsrechnung]] [[w:de:Kategorie:Satz (Stochastik)]]

Seiten-Information

Diese Seite wurde auf Basis der folgenden Wikipedia-Quelle erstellt:

[1] John P. Nolan: Stable Distributions – Models for Heavy Tailed Data. Birkhauser, Boston 2011, S. 22 (american.edu).

[2] Jeff Miller: Earliest Known Uses of Some of the Words of Mathematics.
George Pólya: Über den zentralen Grenzwertsatz der Wahrscheinlichkeitsrechnung und das Momentenproblem, Mathematische Zeitschrift, 8, 1920, S. 171–181 (online)

[3] Jarl Waldemar Lindeberg: Eine neue Herleitung des Exponentialgesetzes in der Wahrscheinlichkeitsrechnung, Mathematische Zeitschrift, Band 15, 1922, S. 211–225 (Online-Version).
Siehe auch Jörg Bewersdorff: Statistik – wie und warum sie funktioniert. Ein mathematisches Lesebuch. Vieweg+Teubner Verlag 2011, lSBN 978-3-8348-1753-2, doi:10.1007/978-3-8348-8264-6, S. 139–146.

[1]

[2]

[3]