Diskrete und stetige Wahrscheinlichkeitsverteilungen

Einführung

Bearbeiten

Die Unterscheidung von diskrete und stetigen Wahrscheinlichkeitsverteilungen erfolgt über die Verteilungsfunktion. Der bereits aus der Analysis bekannte Begriff der Stetigkeit wird dabei auf die Verteilungsfunktion angewendet und stetige Wahrscheinlichkeitsverteilung besitzen eine stetige Verteilungsfunktion. Diskrete Verteilungen besitzen anschaulich Verteilungsfunktionen, die rechtsseitig stetige Treppenfunktionen bilden.

Beispiel - stetige Verteilung

Bearbeiten

Beispiele für Verteilungsfunktionen von Normalverteilungen mit unterschiedlichen Varianzen und Erwartungswerten.

 
Beispiele für Verteilungsfunktionen

Weder stetig noch diskret

Bearbeiten

Es gibt (eher unüblich) Wahrscheinlichkeitsverteilungen, die weder diskret noch stetig sind.

Einführendes Beispiel - diskret

Bearbeiten

Wir betrachten ein Würfelexperiment mit den möglichen Ergebgnissen  . Ein Ereignis kann man in Worten z.B. mit Ereignis A "gerade Zahl gewürfelt" oder Ereignis B "Zahl kleiner 5 gewürfelt" beschreiben. Solche Ereignisse sind formal Teilmengen von der Menge aller Ergebnisse   also   bzw.  . Jedem Ereignis wird dann ein Wahrscheinlichkeit   bzw.   zugeordnet.

Einführendes Beispiel - stetig

Bearbeiten

Eine Person wirft Dartscheibe und versucht dabei immer das den Mittelpunkt des Kreises (Bulls Eye) zu treffen. Die in Regel unbekannte Trefferverteilung auf der Dartscheibe ist eine stetige Wahrscheinlichkeitsverteilung auf einer Teilmenge  .

Diskrete Wahrscheinlichkeitsräume

Bearbeiten

Eine diskrete (Wahrscheinlichkeits-)verteilung bzw. ein diskretes Wahrscheinlichkeitsmaß ist ein spezielles Wahrscheinlichkeitsmaß in der Stochastik. Im Gegensatz zu den allgemeinen Wahrscheinlichkeitsmaßen sind die diskreten Wahrscheinlichkeitsverteilungen auf einer endlichen bzw. abzählbaren Menge   von Ereignissen mit positiver Wahrscheinlichkeit (  für alle  ) und   definiert (siehe Wikipedia: Ereignis (Wahrscheinlichkeitstheorie)).

Weder stetig noch diskret - Summe der Wahrscheinlichkeiten von Einpunktmenge

Bearbeiten

Wahrscheinlichkeitsverteilungen, die weder diskret noch stetig sind, kann man bei abzählbarem Träger an der Summe der Wahrscheinlichkeiten von Einpunktmengen ablesen. Mit Menge   von Ereignissen mit positiver Wahrscheinlichkeit (  wäre   ein Verteilung, die weder diskret noch stetig ist.

Allgemeine Wahrscheinlichkeitsräume

Bearbeiten

Im Gegensatz zu endlichen bzw. abzählbaren Trägermengen   sind überabzählbare Grundmengen   problematisch, um jeder Teilmenge von   (Ereignissen) eine Wahrscheinlichkeit zuzuordnen. Z.B. auf dem Intervall   der reellen Zahlen treten Paradoxien auf. Der Satz von Vitali zeigt, dass die Potenzmenge von   nicht geeignet ist als Definitionsbereich des W'Maßes und man zu einem komplexeren Mengensystem, wie der Borelschen σ-Algebra übergehen muss.

Wahrscheinlichkeitsraum

Bearbeiten

Sei   ein Messraum und eine Abbildung   gegeben, die folgende Eigenschaften besitzt:

  • (Positivität)   für alle  
  • (Normiertheit)  
  • ( -Additivität)   für alle   und paarweise disjunkt folgt:  .

  nennt man dann Wahrscheinlichkeitsmaß auf   und   Wahrscheinlichkeitsraum.

Bemerkung

Bearbeiten

Die Einschränkung 'paarweise disjunkt' ist wesentlich. Für die nicht paarweise disjunkte Mengen sieht man an folgenden Beispielen unmittelbar, dass die  -Additivität hier nicht gilt:

  •   und man erhält  .
  •   gilt:  .

Elementare Eigenschaften von P (1)

Bearbeiten

Allein aus der obigen Definition heraus leiten wir ab:

  •  , denn es folgt für alle  :  ; die Ausnahme   liefert den Widerspruch.
  •   für paarweise disjunkte  ('Additivität'). Insbesondere:   für disjunkte  , denn setzte:   und beachte 1).

Elementare Eigenschaften von P (2)

Bearbeiten
  •  , denn  .
  •   für   ('Monotonie'), denn   (disjunkt), also  .
  • Zusätzlich gilt   mit  .
  • Es gilt außerdem  

Allgemein:  
Insbesondere:  

Elementare Eigenschaften von P (3)

Bearbeiten

Für einelementige (Elementar-)Ereignisse   setzten wir   und haben somit:

  •  .
  •  .
  •   für jedes  .

Aus Letzerem folgt, dass die Wahrscheinlichkeitsverteilung   durch die Werte von   eindeutig festgelegt werden kann.

Diskreter W'Raum - Münzwurf

Bearbeiten

Einfachstes Beispiel einer diskreten Wahrscheinlichkeitsverteilung wäre ein Wurf mit einer möglicherweise gezinkten Münze: Die Wahrscheinlichkeitsverteilung ordnet dem Ereignis "Die Münze zeigt Kopf" eine Zahl zu, die der Wahrscheinlichkeit entspricht, dass die Münze Kopf zeigt. Ebenso ordnet sie dem Ergebnis "Die Münze zeigt Zahl" eine Zahl zu, die der Wahrscheinlichkeit entspricht, dass die Münze Zahl zeigt. Dem intuitiven Verständnis von Wahrscheinlichkeit entsprechend summieren sich diese Zahlen zu eins auf.

Definition: Diskrete W'Verteilung

Bearbeiten

Eine Wahrscheinlichkeitsverteilung   heißt diskrete Wahrscheinlichkeitsverteilung, wenn einer der folgenden drei Fälle gilt:

  • Sie ist auf einer endlichen Menge   definiert.
  • Sie ist auf einer abzählbar unendlichen Menge   definiert (z.B. den natürlichen Zahlen  )
  • Es gibt eine höchstens abzählbar Menge   mit  

Zufallsvariablen, deren Verteilung eine diskrete Wahrscheinlichkeitsverteilung ist, werden auch als diskrete Zufallsvariablen bezeichnet.

Beispiel: Münzwurf

Bearbeiten

Beispiel für die Definition auf einer endlichen Menge ist das Eingangs genannte Beispiel mit dem Münzwurf. Dieses wird auf der Menge   definiert und ist im fairen Fall gegeben durch

 

Häufig werden die Seiten der Münze auch kodiert, wie Kopf=1, Zahl=0 oder Kopf=K, Zahl=Z. Die Kodierung ändert dabei nichts an der Eigenschaft der Verteilung, diskret zu sein.

Beispiel: Poisson-Verteilung

Bearbeiten

Typisches Beispiel einer Wahrscheinlichkeitsverteilung auf einer abzählbar unendlichen Menge, genauer auf   ist die Poisson-Verteilung. Sie wird für einen reellen Parameter   definiert durch

 

Die Normiertheit einer Wahrscheinlichkeitsverteilung folgt hier aus der Definition der Exponentialfunktion über die Potenzreihe.

Aufgabe: Würfeln bis zu ersten 6

Bearbeiten

Welche Wahrscheinlichkeit hat das Ereignis A="Nach dem 5. Wurf eine 6 gewürfelt"? Welchem Fall einer diskreten Wahrscheinlichkeitsverteilung ist diese Beispiel zugeordnet?

Beide obigen Beispiele können auch als diskrete Wahrscheinlichkeitsverteilungen auf dem Grundraum   aufgefasst werden. Dies ermöglicht beispielsweise das Definieren einer Verteilungsfunktion und erlaubt die Faltung der Wahrscheinlichkeitsverteilungen mit weiteren Wahrscheinlichkeitsverteilungen.

Konstruktion 1 - Wahrscheinlichkeitsfunktionen

Bearbeiten

Diskrete Wahrscheinlichkeitsverteilungen werden meist mittels Wahrscheinlichkeitsfunktionen definiert. Im Falle des Grundraumes   sind dies Funktionen  , die jeder natürlichen Zahl   eine positive, reelle Zahl zwischen null und eins zuordnen. Alle diese reellen Zahlen müssen sich zu eins aufsummieren. Dann setzt man

 

Konstruktion 2 - Poisson-Verteilung

Bearbeiten

Im obigen Beispiel der Poisson-Verteilung wäre zum Beispiel

 

Dieses Verfahren lässt sich für beliebige diskrete Wahrscheinlichkeitsverteilungen verwenden. Tatsächlich sind die diskreten Wahrscheinlichkeitsverteilungen genau diejenigen Verteilungen, die sich über eine Wahrscheinlichkeitsfunktion definieren lassen. Die Zuordnung diskrete Wahrscheinlichkeitsverteilung – Wahrscheinlichkeitsfunktion ist also bijektiv.

Definition - Wahrscheinlichkeitsfunktion

Bearbeiten

Eine Abbildung   mit der Eigenschaft ('Normierung')

 

heißt Wahrscheinlichkeitsfunktion (oder diskrete Wahrscheinlichkeitsdichte oder Zähldichte). Jede Wahrscheinlichkeitsfunktion   legt eine Wahrscheinlichkeitsverteilung   eindeutig fest ( -Additivität von   folgt dann aus dem "Umordnungssatz" für absolut konvergente Reihen). Meistens gibt man eine Wahrscheinlichkeitsverteilung durch eine Wahrscheinlichkeitsfunktion an.

Verteilungsfunktionen

Bearbeiten

In dem folgenden Abschnitt werden Verteilungsfunktionen behandelt. Die Begriffsdefinition ist notwendig, um stetige Wahrscheinlichkeitsverteilungen zu definieren. Unterschieden werden dabei

  • der eindimensionale Fall   und
  • der mehrdimensionale Fall  .

Verteilungsfunktion - eindimensional

Bearbeiten

Bei reellwertigen Zufallsgrößen   wird die Verteilungsfunktion über die induzierte Verteilung auf   über   angegeben.


Verteilungsfunktion - mehrdimensional

Bearbeiten

Bei Zufallsgrößen   wird die Verteilungsfunktion über die induzierte Verteilung auf   über   angegeben.

Stetige Wahrscheinlichkeitsverteilungen

Bearbeiten

Bei stetigen Wahrscheinlichkeitsverteilung ist die Verteilungsfunktions stetig. Daraus ergibt sich insbesondere, dass kEinpunktmengen im Gegensatz zu den diskrete Verteilungen keine Wahrscheinlichkeitsmasse tragen. Es ist wichitg zu bemerken, dass sich der Stetigkeitsbegriff nicht auf die Wahrscheinlichkeitsdichte bezieht. Die Rechteckverteilung ist eine stetige Wahrscheinlichkeitsverteilung, dessen Dichtefunktion nicht stetig ist.

Definition - Stetige Verteilung

Bearbeiten

Eine Verteilung auf   heißt stetig, wenn die zugehörige Verteilungsfunktion   stetig ist.

Bemerkung 1 - Stetige Verteilung

Bearbeiten

Die Definition liefert aber nicht, dass eine unstetige Verteilung eine diskrete Verteilung ist. Diskrete Verteilung sind rechtsseitig stetige monoton steigende Treppenfunktionen.

Bemerkung 2 - Stetige Verteilung

Bearbeiten

Die Definition liefert ebenfalls nicht, dass eine stetige Verteilungen eine stetige Wahrscheinlichkeitsdichte. Die Rechteckverteilung ist eine stetige Verteilung, aber diese besitzt keine stetige Wahrscheinlichkeitsdichte.

Beispiel - stetige Verteilung

Bearbeiten

Die folgende Abbildung zeigt verschieden Wahrscheinlichkeitsdichten der Normalverteilung

 
Wahrscheinlichkeitsdichten der Normalverteilung

Verteilungsfunktion (1)

Bearbeiten
 

Die Abbildung zeigt eine Verteilungsfunktion einer Bernoulli-Verteilung zum Parameter   mit charakteristischen Sprungstellen bei 0 und bei 1.

Verteilungsfunktion (2)

Bearbeiten

Bettet man diskrete Verteilungen auf   (oder einer beliebigen höchstens abzählbaren Teilmenge der reellen Zahlen) in die reellen Zahlen   ein, so kann der Verteilung eine Verteilungsfunktion zugeordnet werden. Diese zeichnet sich bei diskreten Wahrscheinlichkeitsverteilungen dadurch aus, dass sie stückweise konstant ist. An einer Stelle   mit   besitzt die Verteilungsfunktion immer einen „Sprung“ nach oben, und das um genau den Wert  .


Beispiel - stetige Verteilungsfunktion

Bearbeiten

Die folgende Abbildung zeigt unterschiedliche Verteilungsfunktionen der Normalverteilung.

 
Unterschiedliche Verteilungsfunktionen der Normalverteilung

Wahrscheinlichkeitserzeugende Funktion

Bearbeiten

Diskreten Wahrscheinlichkeitsverteilungen auf   kann zusätzlich zu den klassischen erzeugenden Funktionen (Momenterzeugende Funktion, Kumulantenerzeugende Funktion und Charakteristische Funktion) noch eine wahrscheinlichkeitserzeugende Funktion zugeordnet werden. Dabei handelt es sich um ein Polynom oder um eine Potenzreihe, die jeder Wahrscheinlichkeitsverteilung eindeutig zugeordnet werden kann. Wahrscheinlichkeitserzeugende Funktionen erleichtern beispielsweise das Berechnen der Momente wie Erwartungswert oder Varianz oder liefern einfache Faltungsidentitäten.


Aufgabe - Weder stetig noch diskret

Bearbeiten

Konstruieren Sie eine Wahrscheinlichkeitsverteilung auf  , bei der

  •  
  •   mit stetiger Gleichverteilung.

Skizzieren Sie die Verteilungsfunktion von  !

Spezielle diskrete Wahrscheinlichkeitsverteilungen

Bearbeiten

Folgend sind einige wichtige diskrete Wahrscheinlichkeitsverteilungen und ihre Konstruktion aufgezählt. Die Einteilung ist dabei nicht zwingend, manche Verteilungen können auch auf mehrere Arten konstruiert werden.

Aus der Bernoulli-Verteilung abgeleitet (1)

Bearbeiten

Ein Ausgangspunkt der Modellierung ist die Bernoulli-Verteilung. Sie modelliert den Wurf einer Münze, wobei "Kopf" mit 1 codiert wird und "Zahl" mit 0. Die Wahrscheinlichkeit für "Kopf" wird durch eine Zahl   gegeben. Somit handelt es sich um eine diskrete Wahrscheinlichkeitsverteilung auf  

Aus dieser Verteilung lassen sich direkt ableiten:

Aus der Bernoulli-Verteilung abgeleitet (2)

Bearbeiten
  • Die Binomialverteilung: Sie gibt die Wahrscheinlichkeit an, bei   unabhängigen Würfen mit derselben Münze   Erfolge zu erhalten. Ihre multivariate Entsprechung ist die Multinomialverteilung.
  • Die Verallgemeinerte Binomialverteilung: Sie gibt die Wahrscheinlichkeit an, bei   unabhängigen Würfen mit unterschiedlichen Münzen   Erfolge zu erhalten.
  • Die Geometrische Verteilung: Sie gibt die Wahrscheinlichkeit für die Wartezeit auf den ersten Erfolg beim sukzessiven, unabhängigen Werfen einer Münze an.
  • Die Negative Binomialverteilung: Sie gibt die Wahrscheinlichkeit für die Wartezeit auf den  -ten Erfolg beim sukzessiven, unabhängigen Werfen einer Münze an.

Aus der Bernoulli-Verteilung abgeleitet (3)

Bearbeiten

Dabei werden geometrische und negative Binomialverteilung auch in verschiedenen Varianten definiert.
Weitere ableitbare Wahrscheinlichkeitsverteilungen sind die Beta-Binomialverteilung (die Erfolgswahrscheinlichkeit der Münze selbst wird als Betaverteilt angenommen) sowie die Rademacher-Verteilung und die Zweipunktverteilung (Bernoulli-Verteilungen auf speziellen Werten) und die Dirac-Verteilung (degeneriertet Grenzfall einer Münze, die immer dasselbe Ergebnis zeigt).

Aus dem Urnenmodell abgeleitet (1)

Bearbeiten

Ein weiterer Ausgangspunkt der Modellierung ist das Urnenmodell, das auf der diskreten Gleichverteilung basiert. Dabei werden insgesamt   Kugeln in mehrere Gruppen geteilt (gefärbt, nummeriert, etc.), in eine Urne gelegt. Aus dieser wird dann gezogen, entweder mit zurücklegen oder ohne. Dabei soll (entsprechend der Gleichverteilung) jede Kugel gleich wahrscheinlich sein. So lassen sich beispielsweise konstruieren:

Aus dem Urnenmodell abgeleitet (2)

Bearbeiten

Gleichverteilung (Definition) (1)

Bearbeiten

Die Gleichverteilung über einer endlichen Grundmenge   wird bestimmt durch die Wahrscheinlichkeitsfunktion

  (für alle  

Die Wahrscheinlichkeit für ein Ereignis   ist dann

 

Gleichverteilung (Definition) (2)

Bearbeiten

Die Gleichverteilung wird auch Laplaceverteilung genannt. Ein Zufallsexperiment, dem die Gleichverteilung zugeordnet wird, wird auch Laplaceexperiment genannt.
Interpretation der zweiten Formel: Sei   gegeben. Ein Ereignis   heißt "günstig" für  . Jedes   ist "möglich".   ist dann die Anzahl der günstigen durch die Anzahl der möglichen Ereignisse.

Gleichverteilung (Beispiel)

Bearbeiten

Einmal werfen mit einem symmetrischen Würfel. Auf   definiert man die Wahrscheinlichkeitsfunktion   ("Gleichverteilung" über  ).

Ist   das Ereignis "ungerade Augenzahl", so gilt  .

Einpunktverteilung (Beispiel)

Bearbeiten

Seien   und   beliebig. Dann definiert

 

(für alle  , "Einpunktverteilung") die in   konzentrierte Wahrscheinlichkeitsverteilung  . Es ist

 

Geometrische Verteilung (Beispiel) (1)

Bearbeiten

Eine symmetrische Münze wird so oft geworfen, bis zum ersten Mal Kopf auftritt. Der Ergebnisraum   besteht aus allen möglichen auftretenden Sequenzen:

 

(Wir schreiben   anstatt  .) Es ist  . Heuristische Überlegung zur Bestimmung der  :

Geometrische Verteilung (Beispiel) (2)

Bearbeiten

Wir betrachten   (k-1-mal Z) als Element der Menge  . Es ist  . Alle   Elemente von   sind gleichwahrscheinlich. Es folgt:

  ('Geometrische Verteilung')

Normierung:  . Somit hat man also   zu setzen.

Siehe auch

Bearbeiten

Literatur

Bearbeiten
  • Hans-Otto Georgii: Stochastik. Einführung in die Wahrscheinlichkeitstheorie und Statistik. 4. Auflage. Walter de Gruyter, Berlin 2009, doi:10.1515/9783110215274
  • Klaus D. Schmidt: Maß und Wahrscheinlichkeit. 2., durchgesehene Auflage. Springer-Verlag, Heidelberg Dordrecht London New York 2011, doi:10.1007/978-3-642-21026-6
  • David Meintrup, Stefan Schäffler: Stochastik. Theorie und Anwendungen. Springer-Verlag, Berlin Heidelberg New York 2005, S. 90, doi:10.1007/b137972

Seiten-Information

Bearbeiten

Der Foliensatz wurde für den Kurs:Stochastik mit Wiki2Reveal über den Linkgenerator erstellt.