Effizienz

Grundbegriffe

Effizienz

Gegeben seien zwei erwartungstreue Schätzfunktionen ${\hat {\theta }}_{n}^{(1)}$ und ${\hat {\theta }}_{n}^{(2)}$ mit gleichem Stichprobenumfang $n$ zur Schätzung des unbekannten Parameters $\vartheta$.

Somit gilt:

$E\left[{\hat {\theta }}_{n}^{(1)}\right]=\vartheta$ und $E\left[{\hat {\theta }}_{n}^{(2)}\right]=\vartheta$

Relative Effizienz

Die Schätzfunktion ${\hat {\theta }}_{n}^{(1)}$ heißt relativ effizient zu ${\hat {\theta }}_{n}^{(2)}$, wenn die Varianz von ${\hat {\theta }}_{n}^{(1)}$ kleiner ist als die Varianz von ${\hat {\theta }}_{n}^{(2)}$, also

$Var\left({\hat {\theta }}_{n}^{(1)}\right)\leq Var\left({\hat {\theta }}_{n}^{(2)}\right)$

Absolute Effizienz

Die Schätzfunktion ${\hat {\theta }}_{n}^{(1)}$ heißt absolut effizient für $\vartheta$, wenn sie im Vergleich zu jeder anderen erwartungstreuen Schätzfunktion für $\vartheta$ die kleinste Varianz aufweist.

Zusatzinformationen

Effizienz wichtiger Schätzfunktionen

Stichprobenmittelwert

• Der Stichprobenmittelwert ${\bar {X}}$ ist eine absolut effiziente Schätzfunktion für den unbekannten Erwartungswert $\mu$ bei Grundgesamtheiten, für die beliebige Verteilungen mit endlicher Varianz zugelassen sind.
• Für eine $N(\mu ;\sigma ^{2})$-verteilte Zufallsvariable $X\;$ in der Grundgesamtheit ist der Stichprobenmittelwert ${\bar {X}}$ als Schätzfunktion für den unbekannten Erwartungswert $\mu$ absolut effizient, da es keine erwartungstreue Schätzfunktion für $\mu$ mit einer kleineren Varianz gibt.
• Der Stichprobenmittelwert ${\bar {X}}$ ist eine absolut effiziente Schätzfunktion für den unbekannten Parameter $\lambda$ einer Poisson-verteilten Grundgesamtheit.
• Für eine normalverteilte Grundgesamtheit sind der Stichprobenmittelwert ${\bar {X}}$ und der Stichprobenmedian ${\bar {X_{z}}}$ erwartungstreue Schätzfunktionen für den unbekannten Erwartungswert $\mu$.

Für einfache Zufallsstichproben gilt:

${\sigma ^{2}\left({\bar {X}}\right)={\frac {\sigma ^{2}}{n}}}$

Weiterhin lässt sich zeigen, dass

$\sigma ^{2}\left({\bar {X_{z}}}\right)={\frac {\pi }{2}}\cdot {\frac {\sigma ^{2}}{n}}=1,571\;\sigma ^{2}\cdot \left({\bar {X}}\right)$

und damit

$\sigma ^{2}({\bar {X}})<\sigma ^{2}({\bar {X_{z}}})$

ist.

Der Stichprobenmittelwert ${\bar {X}}$ ist relativ effizient gegenüber dem Stichprobenmedian ${\bar {X_{z}}}$.

Stichprobenanteilswert

Der Stichprobenanteilswert ${\widehat {\pi }}$ ist eine absolut effiziente Schätzfunktion für den unbekannten Anteilswert $\pi$ einer dichotomen Grundgesamtheit, d.h. für alle Bernoulli-Verteilungen.

Stichprobenvarianz

Bei bekanntem Erwartungswert $E[X]=\mu$ einer normalverteilten Grundgesamtheit können für die Schätzung der unbekannten Varianz $\sigma ^{2}$ der Grundgesamtheit die Schätzfunktionen

$S^{*2}={\frac {1}{n}}\cdot \sum \limits _{i=1}^{n}(X_{i}-\mu )^{2}$

$S^{2}={\frac {1}{n-1}}\cdot \sum \limits _{i=1}^{n}(X_{i}-{\bar {X}})^{2}$

verwendet werden. Wie bereits gezeigt, sind beide Schätzfunktionen erwartungstreu:

$\,E\left[S^{*2}\right]=\sigma ^{2}$ und $E\left[S^{2}\right]=\sigma ^{2}\;$

mit den Varianzen

$\,Var\left(S^{*2}\right)=2\cdot {\frac {\sigma ^{4}}{n}}$ bzw. $\,Var\left(S^{2}\right)=2\cdot {\frac {\sigma ^{4}}{n-1}}$.

$\,S^{*2}$ ist relativ effizient gegenüber $S^{2}\;$.

Die Beispiele zeigen, dass der Vergleich von Schätzfunktionen jeweils für eine Klasse von zugelassenen Verteilungen erfolgt.

Beispiele

Beste Schätzfunktion

Eine Grundgesamtheit habe den Mittelwert $\mu$ und die Varianz $\sigma ^{2}$. Es sei $(X_{1},X_{2},X_{3})$ eine einfache (theoretische) Zufallsstichprobe aus dieser Grundgesamtheit.

Jede der Stichprobenvariablen $X_{i}\;(i=1,2,3)$ hat $E\left[X_{i}\right]=\mu$ und $Var(X_{i})=\sigma ^{2}$. Folgende drei Schätzfunktionen sind gegeben:

1. ${\hat {\Theta }}_{1}={\frac {1}{3}}(X_{1}+X_{2}+X_{3})$
2. ${\hat {\Theta }}_{2}={\frac {1}{4}}(2X_{1}+2X_{3})$
3. ${\hat {\Theta }}_{3}={\frac {1}{3}}(2X_{1}+X_{2})$

Welche dieser Schätzfunktionen sind erwartungstreu? Welche Schätzfunktion erhält nach dem Kriterium der Effizienz den Vorzug?

Alle drei Schätzfunktionen sind erwartungstreu, wobei $E\left[X_{i}\right]=\mu$ berücksichtigt wurde:

$E\left[{\hat {\Theta }}_{1}\right]=E\left[{\frac {1}{3}}\left(X_{1}+X_{2}+X_{3}\right)\right]={\frac {1}{3}}\left(E\left[X_{1}\right]+E\left[X_{2}\right]+E\left[X_{3}\right]\right)={\frac {1}{3}}(\mu +\mu +\mu )$	$\,=\mu$
$E\left[{\hat {\Theta }}_{2}\right]=E\left[{\frac {1}{4}}\left(2X_{1}+2X_{3}\right)\right]={\frac {1}{4}}\left(2E\left[X_{1}\right]+2E\left[X_{3}\right]\right)={\frac {1}{4}}(2\mu +2\mu )$	$\,=\mu$
$E\left[{\hat {\Theta }}_{3}\right]=E\left[{\frac {1}{3}}\left(2X_{1}+X_{2}\right)\right]={\frac {1}{3}}\left(2E\left[X_{1}\right]+E\left[X_{2}\right]\right)={\frac {1}{3}}\left(2\mu +\mu \right)$	$\,=\mu$

Betrachtung der Varianz der Schätzfunktionen:

$Var\left({\hat {\Theta }}_{1}\right)$	$=Var\left[{\frac {1}{3}}\left(X_{1}+X_{2}+X_{3}\right)\right]={\frac {1}{9}}Var\left(X_{1}+X_{2}+X_{3}\right)={\frac {1}{9}}\left[Var\left(X_{1}\right)+Var\left(X_{2}\right)+Var\left(X_{3}\right)\right]={\frac {1}{9}}\left(\sigma ^{2}+\sigma ^{2}+\sigma ^{2}\right)={\frac {1}{3}}\sigma ^{2}$
$Var\left({\hat {\Theta }}_{2}\right)$	$=Var\left[{\frac {1}{4}}\left(2X_{1}+2X_{3}\right)\right]={\frac {1}{16}}Var\left(2X_{1}+2X_{3}\right)={\frac {1}{16}}\left[4Var\left(X_{1}\right)+4Var\left(X_{3}\right)\right]={\frac {1}{16}}\left(4\sigma ^{2}+4\sigma ^{2}\right)={\frac {1}{2}}\sigma ^{2}$
$Var\left({\hat {\Theta }}_{3}\right)$	$=Var\left[{\frac {1}{3}}\left(2X_{1}+X_{2}\right)\right]={\frac {1}{9}}Var\left(2X_{1}+X_{2}\right)={\frac {1}{9}}\left[4Var\left(X_{1}\right)+Var\left(X_{2}\right)\right]={\frac {1}{9}}\left(4\sigma ^{2}+\sigma ^{2}\right)={\frac {5}{9}}\sigma ^{2}$

Nach dem Kriterium der Effizienz erhält die erste Schätzfunktion den Vorzug, da sie die geringste Varianz aufweist.

Die erste Schätzfunktion ist relativ effizient gegenüber der zweiten und dritten Schätzfunktion.

Da sie den Stichprobenmittelwert beinhaltet, ist sie auch absolut effizient.