Erwartungstreue

Grundbegriffe

Erwartungstreue (eng. unbiasedness) oder Unverzerrtheit

Die Erwartungstreue trifft eine Aussage über den Erwartungswert einer Schätzfunktion, der die Lage der Verteilung der Zufallsvariablen ${\hat {\theta }}$ angibt.

Eine Schätzfunktion ${\hat {\theta }}$ des unbekannten Parameters $\vartheta$ heißt erwartungstreu oder unverzerrt (unbiased), wenn der Erwartungswert der Schätzfunktion mit dem wahren Parameter übereinstimmt:

$E\left[{\hat {\theta }}\right]=\vartheta$

Die Eigenschaft der Erwartungstreue besagt, dass sich bei einer hinreichend großen Anzahl von Stichproben des Umfangs $n$ die positiven und negativen Schätzfehler gegenseitig aufheben (d.h. zu Null addieren) und die Schätzfunktion tendenziell den wahren Parameter weder überschätzt noch unterschätzt.

Für eine erwartungstreue Schätzfunktion ist somit der MSE gleich der Varianz der Schätzfunktion:

$MSE=Var({\hat {\theta }})$

und die Genauigkeit der Schätzung kann über die Varianz der Schätzfunktion bestimmt werden.

Asymptotische Erwartungstreue

Eine Schätzfunktion ${\hat {\theta }}$ des unbekannten Parameters $\vartheta$ heißt asymptotisch erwartungstreu, wenn gilt

$\lim _{n\rightarrow \infty }E({\hat {\theta }})=\vartheta$,

d.h. die Verzerrung geht mit wachsendem Stichprobenumfang $n$ gegen Null.

Verzerrung (eng. bias)

Bei nicht erwartungstreuen Schätzfunktionen tritt eine Differenz zwischen dem Erwartungswert der Schätzfunktion und dem wahren Parameter der Grundgesamtheit auf, die als Verzerrung oder bias bezeichnet wird:

${\mbox{Verzerrung}}\ ({\hat {\theta }})=E\left[{\hat {\theta }}\right]-\vartheta \neq 0$

Zusatzinformationen

Erwartungstreue des Stichprobenmittelwert

Der Stichprobenmittelwert

${\bar {X}}={\frac {1}{n}}\cdot \sum \limits _{i=1}^{n}X_{i}$

ist eine erwartungstreue Schätzfunktion für den unbekannten Erwartungswert $E[X]=\mu$ der Grundgesamtheit, denn es gilt

$E\left[{\bar {X}}\right]=\mu$

(vgl. Abschnitt Verteilung des Stichprobenmittelwertes).

Erwartungstreue des Stichprobenanteilswert

Der Stichprobenanteilswert

${\widehat {\pi }}={\frac {1}{n}}\cdot \sum \limits _{i=1}^{n}X_{i}$

ist eine erwartungstreue Schätzfunktion für den unbekannten Anteilswert $\pi$ der Grundgesamtheit, denn es gilt

$E\left[{\widehat {\pi }}\right]=\pi$.

(vgl. Abschnitt Verteilung des Stichprobenanteilswertes)

Erwartungstreue der Stichprobenvarianz bei bekanntem Erwartungswert

Es wird von einer einfachen Zufallsstichprobe mit dem Umfang $n$ ausgegangen.

Falls der Erwartungswertes $E[X]=\mu$ der Grundgesamtheit bekannt ist, ist die Schätzfunktion

$S^{*2}={\frac {1}{n-1}}\cdot \sum \limits _{i=1}^{n}(X_{i}-\mu )^{2}$

eine erwartungstreue Schätzfunktion für die unbekannte Varianz $\sigma ^{2}$ der Grundgesamtheit, denn es gilt

$\,E\left[S^{*2}\right]=\sigma ^{2}$

(vgl. Abschnitt Verteilung der Stichprobenvarianz)

Erwartungstreue des Stichprobenvarianz bei unbekanntem Erwartungswert

Es wird von einer einfachen Zufallsstichprobe mit dem Umfang $n$ ausgegangen.

Falls der Erwartungswert $E[X]=\mu$ der Grundgesamtheit unbekannt ist und durch den Stichprobenmittelwert geschätzt wird, ist die Schätzfunktion

$S^{2}={\frac {1}{n-1}}\cdot \sum \limits _{i=1}^{n}(X_{i}-{\bar {X}})^{2}$

eine erwartungstreue Schätzfunktion für die unbekannte Varianz $\sigma ^{2}$ der Grundgesamtheit, denn es gilt

$\,E\left[S^{2}\right]=\sigma ^{2}$

(vgl. Abschnitt Verteilung der Stichprobenvarianz)

Die Standardabweichung als Wurzel aus der Stichprobenvarianz $S^{2}$ ist jedoch im Allgemeinen keine erwartungstreue Schätzung für $\sigma$, sondern unterschätzt im Durchschnitt die Standardabweichung der Grundgesamtheit.

Die Schätzfunktion

$S^{\prime 2}={\frac {1}{n}}\cdot \sum \limits _{i=1}^{n}(X_{i}-{\bar {X}})^{2}$,

die die in der deskriptiven Statistik übliche Definition der Varianz beinhaltet, ist dagegen nicht erwartungstreu, denn es gilt

$E\left[S^{\prime 2}\right]=$	$E\left[{\frac {1}{n}}\cdot \sum \limits _{i=1}^{n}(X_{i}-{\bar {X}})^{2}\right]$
	$={\frac {1}{n}}\cdot E\left[\sum \limits _{i=1}^{n}(X_{i}-{\bar {X}})^{2}\right]$
	$={\frac {n-1}{n}}\cdot \sigma ^{2}$

(vgl. Abschnitt Verteilung der Stichprobenvarianz)

Die Verzerrung (bias) ergibt sich zu

$E\left[S^{\prime 2}\right]-\sigma ^{2}={\frac {n-1}{n}}\cdot \sigma ^{2}-\sigma ^{2}=-{\frac {\sigma ^{2}}{n}}$

Mit der Schätzfunktion $S^{\prime 2}$ wird im Mittel der Stichproben die unbekannte Varianz der Grundgesamtheit unterschätzt.

Diese Schätzfunktion ist jedoch asymptotisch erwartungstreu, da mit wachsendem Stichprobenumfang $n$ die Verzerrung gegen Null geht.

Aus dieser Darstellung wird nunmehr auch deutlich, warum bei der Schätzfunktion $S^{2}$ eine Normierung auf $n-1$ erfolgt, da dadurch die Erwartungstreue erreicht wird.

Beispiele

Erwartungstreue dreier Schätzfunktionen

Die folgende Abbildung zeigt drei Schätzfunktionen mit symmetrischer Verteilung für denselben Parameter $\vartheta$ der Grundgesamtheit.

|

Die Schätzfunktionen ${\hat {\theta }}_{1}$ und ${\hat {\theta }}_{2}$ sind erwartungstreue Schätzfunktionen, da ihr Erwartungswert mit dem wahren Parameter $\vartheta$ der Grundgesamtheit übereinstimmt.

Dagegen ist die Schätzfunktion ${\hat {\theta }}_{3}$ nicht erwartungstreu.

Für die beiden erwartungstreuen Schätzfunktionen gilt

$MSE=Var({\hat {\theta }})$,

da die Verzerrung gleich Null ist.

Offensichtlich unterscheiden sich aber beide Schätzfunktionen hinsichtlich der Größe der Varianz.

Obwohl erwartungstreu kann eine Schätzfunktion eine relativ große Varianz aufweisen, so dass die Eigenschaft der Erwartungstreue durch weitere Gütekriterien ergänzt werden sollte.

Schätzung der Parameter

Für eine Grundgesamtheit sollen der unbekannte Erwartungswert $E[X]=\mu$ und die unbekannte (endliche) Varianz $\sigma ^{2}$ geschätzt werden.

Eine einfache Zufallsstichprobe vom Umfang $n=12$ aus einer Grundgesamtheit ergab folgende Werte:

1; 5; 3; 8; 7; 2; 1; 4; 3; 5; 3; 6.

Schätzung des Erwartungswertes

Da bekannt ist, dass der Stichprobenmittelwert

${\bar {X}}={\frac {1}{n}}\cdot \sum \limits _{i=1}^{n}X_{i}$

eine erwartungstreue und absolut effiziente Schätzfunktion ist, wird diese Schätzfunktion verwendet.

Einsetzen der Stichprobenwerte führt zu dem Schätzwert

${\bar {x}}={\frac {1}{12}}\cdot (1+5+3+8+7+2+1+4+3+5+3+6)={\frac {48}{12}}=4$

Dieses Ergebnis dient als Punktschätzung für $\mu$.

Schätzung der Varianz

Da $E[X]=\mu$ unbekannt ist, wird die Schätzfunktion

$S^{2}={\frac {1}{n-1}}\sum \limits _{i=1}^{n}(X_{i}-{\bar {X}})^{2}$

verwendet, da sie erwartungstreu ist.

Einsetzen der Stichprobenwerte führt zu der Punktschätzung

$\,s^{2}$	$={\frac {1}{n-1}}\cdot \sum \limits _{i=1}^{12}(x_{i}-{\bar {x}})^{2}$
	$={\frac {1}{11}}\cdot \left[(1-4)^{2}+(5-4)^{2}+\dots +(3-4)^{2}+(6-4)^{2}\right]={\frac {1}{11}}\cdot 56=5,09$