Schätzung der Regressionsparameter: Unterschied zwischen den Versionen

Aus MM*Stat

Wechseln zu: Navigation, Suche
({{Vorlage:Beispiele}})
 
Zeile 152: Zeile 152:
  
 
<math>n=10</math> Produktionsdurchläufe im Unternehmen
 
<math>n=10</math> Produktionsdurchläufe im Unternehmen
 
+
{| class="wikitable"
{| border="1" cellpadding="3" style="text-align:center;margin:1em 1em 1em 0; background:#f9f9f9; border:1px #AAA solid; border-collapse:collapse; empty-cells:show;"
+
|'''<math>i</math>'''
|align="center"|'''<math>i</math>'''
+
|'''<math>x_{i}</math>'''
|align="center"|'''<math>x_{i}</math>'''
+
|'''<math>y_{i}</math>'''
|align="center"|'''<math>y_{i}</math>'''
+
|'''<math>x_{i}\cdot y_{i}</math>'''
|align="center"|'''<math>x_{i}\cdot y_{i}</math>'''
+
|'''<math>x_{i}^{2}</math>'''
|align="center"|'''<math>x_{i}^{2}</math>'''
+
|'''<math>y_{i}^{2}</math>'''
|align="center"|'''<math>y_{i}^{2}</math>'''
+
|'''<math>\hat{y_{i}}</math>'''
|align="center"|'''<math>\hat{y_{i}}</math>'''
+
|'''<math>\hat{u_{i}}</math>
|align="center"|'''<math>\hat{u_{i}}</math>
+
|- align="right"
|-
+
|1
|align="center"|1
+
|30
|align="center"|30
+
|73
|align="center"|73
+
|2,190
|align="center"|2,190
+
|900
|align="center"|900
+
|5,329
|align="center"|5,329
+
|70
|align="center"|70
+
|3
|align="center"|3
+
|- align="right"
|-
+
|2
|align="center"|2
+
|20
|align="center"|20
+
|50
|align="center"|50
+
|1,000
|align="center"|1,000
+
|400
|align="center"|400
+
|2,500
|align="center"|2,500
+
|50
|align="center"|50
+
|0
|align="center"|0
+
|- align="right"
|-
+
|3
|align="center"|3
+
|60
|align="center"|60
+
|128
|align="center"|128
+
|7,680
|align="center"|7,680
+
|3,600
|align="center"|3,600
+
|16,384
|align="center"|16,384
+
|130
|align="center"|130
+
| -2
|align="center"|-2
+
|- align="right"
|-
+
|4
|align="center"|4
+
|80
|align="center"|80
+
|170
|align="center"|170
+
|1,360
|align="center"|1,360
+
|6,400
|align="center"|6,400
+
|28,900
|align="center"|28,900
+
|170
|align="center"|170
+
|0
|align="center"|0
+
|- align="right"
|-
+
|5
|align="center"|5
+
|40
|align="center"|40
+
|87
|align="center"|87
+
|3,480
|align="center"|3,480
+
|1,600
|align="center"|1,600
+
|7,569
|align="center"|7,569
+
|90
|align="center"|90
+
| -3
|align="center"|-3
+
|- align="right"
|-
+
|6
|align="center"|6
+
|50
|align="center"|50
+
|108
|align="center"|108
+
|5,400
|align="center"|5,400
+
|2,500
|align="center"|2,500
+
|11,664
|align="center"|11,664
+
|110
|align="center"|110
+
| -2
|align="center"|-2
+
|- align="right"
|-
+
|7
|align="center"|7
+
|60
|align="center"|60
+
|135
|align="center"|135
+
|8,100
|align="center"|8,100
+
|3,600
|align="center"|3,600
+
|18,225
|align="center"|18,225
+
|130
|align="center"|130
+
|5
|align="center"|5
+
|- align="right"
|-
+
|8
|align="center"|8
+
|30
|align="center"|30
+
|69
|align="center"|69
+
|2,070
|align="center"|2,070
+
|900
|align="center"|900
+
|4,761
|align="center"|4,761
+
|70
|align="center"|70
+
| -1
|align="center"|-1
+
|- align="right"
|-
+
|9
|align="center"|9
+
|70
|align="center"|70
+
|148
|align="center"|148
+
|10,360
|align="center"|10,360
+
|4,900
|align="center"|4,900
+
|21,904
|align="center"|21,904
+
|150
|align="center"|150
+
| -2
|align="center"|-2
+
|- align="right"
|-
+
|10
|align="center"|10
+
|60
|align="center"|60
+
|132
|align="center"|132
+
|72,920
|align="center"|72,920
+
|3,600
|align="center"|3,600
+
|17,424
|align="center"|17,424
+
|130
|align="center"|130
+
|2
|align="center"|2
+
|- align="right"
|-
+
|'''<math>\sum</math>'''
|align="center"|'''<math>\sum</math>'''
+
|500
|align="center"|500
+
|1,100
|align="center"|1,100
+
|61,800
|align="center"|61,800
+
|28,400
|align="center"|28,400
+
|134,660
|align="center"|134,660
+
|1,100
|align="center"|1,100
+
|0
|align="center"|0
 
 
|}
 
|}
  
Zeile 305: Zeile 304:
 
Von 10 Zwei-Personen-Haushalten wurden jeweils das monatliche Haushaltsnettoeinkommen sowie die Konsumausgaben ermittelt:
 
Von 10 Zwei-Personen-Haushalten wurden jeweils das monatliche Haushaltsnettoeinkommen sowie die Konsumausgaben ermittelt:
  
{| border="1" cellpadding="3" style="text-align:center;margin:1em 1em 1em 0; background:#f9f9f9; border:1px #AAA solid; border-collapse:collapse; empty-cells:show;"
+
{| class="wikitable"
|align="center"|Haushalt
+
|- align="right
|align="center"|1
+
|align="left"|Haushalt
|align="center"|2
+
|1
|align="center"|3
+
|2
|align="center"|4
+
|3
|align="center"|5
+
|4
|align="center"|6
+
|5
|align="center"|7
+
|6
|align="center"|8
+
|7
|align="center"|9
+
|8
|align="center"|10
+
|9
|-
+
|10
|align="center"|HH-Nettoeinkommen in Euro (<math>x_i</math>)
+
|- align="right
|align="center"|3500
+
|align="left"|HH-Nettoeinkommen in Euro (<math>x_i</math>)
|align="center"|5000
+
|3500
|align="center"|4300
+
|5000
|align="center"|6100
+
|4300
|align="center"|1000
+
|6100
|align="center"|4800
+
|1000
|align="center"|2900
+
|4800
|align="center"|2400
+
|2900
|align="center"|5600
+
|2400
|align="center"|4100
+
|5600
|-
+
|4100
|align="center"|Konsumausgaben in Euro (<math>y_i</math>)
+
|- align="right
|align="center"|2000
+
|align="left"|Konsumausgaben in Euro (<math>y_i</math>)
|align="center"|3500
+
|2000
|align="center"|3100
+
|3500
|align="center"|3900
+
|3100
|align="center"|900
+
|3900
|align="center"|3000
+
|900
|align="center"|2100
+
|3000
|align="center"|1900
+
|2100
|align="center"|2900
+
|1900
|align="center"|2100
+
|2900
 +
|2100
 
|}
 
|}
 +
  
 
Anhand der Punktwolke im folgenden [[Scatterplot]] ist bereits zu erkennen, dass das Haushaltsnettoeinkommen einen positiven Einfluss auf die Konsumausgaben bei den 10 Zwei-Personen-Haushalten ausübt, der offensichtlich mittels einer linearen [[Regressionsfunktion]] geschätzt werden kann.
 
Anhand der Punktwolke im folgenden [[Scatterplot]] ist bereits zu erkennen, dass das Haushaltsnettoeinkommen einen positiven Einfluss auf die Konsumausgaben bei den 10 Zwei-Personen-Haushalten ausübt, der offensichtlich mittels einer linearen [[Regressionsfunktion]] geschätzt werden kann.
Zeile 351: Zeile 352:
 
Für die [[Schätzung]] der [[Regressionsparameter]] sind einige Zwischenberechnungen notwendig
 
Für die [[Schätzung]] der [[Regressionsparameter]] sind einige Zwischenberechnungen notwendig
  
{| border="1" cellpadding="3" style="text-align:center;margin:1em 1em 1em 0; background:#f9f9f9; border:1px #AAA solid; border-collapse:collapse; empty-cells:show;"
+
{| class="wikitable"
|align="center"|HH
+
|HH
|align="center"|<math>x_i</math>
+
|<math>x_i</math>
|align="center"|<math>y_i</math>
+
|<math>y_i</math>
|align="center"|<math>x_i \cdot y_i</math>
+
|<math>x_i \cdot y_i</math>
|align="center"|<math>{x_i}^2</math>
+
|<math>{x_i}^2</math>
|align="center"|<math>{y_i}^2</math>
+
|<math>{y_i}^2</math>
|-
+
|- align="right"
|align="center"|1
+
|1
|align="center"|3500
+
|3500
|align="center"|2000
+
|2000
|align="center"|7000000
+
|7000000
|align="center"|12250000
+
|12250000
|align="center"|4000000
+
|4000000
|-
+
|- align="right"
|align="center"|2
+
|2
|align="center"|5000
+
|5000
|align="center"|3500
+
|3500
|align="center"|17500000
+
|17500000
|align="center"|25000000
+
|25000000
|align="center"|12250000
+
|12250000
|-
+
|- align="right"
|align="center"|3
+
|3
|align="center"|4300
+
|4300
|align="center"|3100
+
|3100
|align="center"|13330000
+
|13330000
|align="center"|18490000
+
|18490000
|align="center"|9610000
+
|9610000
|-
+
|- align="right"
|align="center"|4
+
|4
|align="center"|6100
+
|6100
|align="center"|3900
+
|3900
|align="center"|23790000
+
|23790000
|align="center"|37210000
+
|37210000
|align="center"|15210000
+
|15210000
|-
+
|- align="right"
|align="center"|5
+
|5
|align="center"|1000
+
|1000
|align="center"|900
+
|900
|align="center"|900000
+
|900000
|align="center"|1000000
+
|1000000
|align="center"|810000
+
|810000
|-
+
|- align="right"
|align="center"|6
+
|6
|align="center"|4800
+
|4800
|align="center"|3000
+
|3000
|align="center"|14400000
+
|14400000
|align="center"|23040000
+
|23040000
|align="center"|9000000
+
|9000000
|-
+
|- align="right"
|align="center"|7
+
|7
|align="center"|2900
+
|2900
|align="center"|2100
+
|2100
|align="center"|6090000
+
|6090000
|align="center"|8410000
+
|8410000
|align="center"|4410000
+
|4410000
|-
+
|- align="right"
|align="center"|8
+
|8
|align="center"|2400
+
|2400
|align="center"|1900
+
|1900
|align="center"|4560000
+
|4560000
|align="center"|5760000
+
|5760000
|align="center"|3610000
+
|3610000
|-
+
|- align="right"
|align="center"|9
+
|9
|align="center"|5600
+
|5600
|align="center"|2900
+
|2900
|align="center"|16240000
+
|16240000
|align="center"|31360000
+
|31360000
|align="center"|8410000
+
|8410000
|-
+
|- align="right"
|align="center"|10
+
|10
|align="center"|4100
+
|4100
|align="center"|2100
+
|2100
|align="center"|8610000
+
|8610000
|align="center"|16810000
+
|16810000
|align="center"|4410000  
+
|4410000  
|-
+
|- align="right"
|align="center"|'''Summe'''
+
|'''Summe'''
|align="center"|39700
+
|39700
|align="center"|25400
+
|25400
|align="center"|112420000
+
|112420000
|align="center"|179330000
+
|179330000
|align="center"|71720000
+
|71720000
 
|}
 
|}
 +
  
 
Gemäß der angegebenen Formeln lassen sich die [[Regressionsparameter]] <math>b_{0}</math> und <math>b_{1}</math> wie folgt errechnen:
 
Gemäß der angegebenen Formeln lassen sich die [[Regressionsparameter]] <math>b_{0}</math> und <math>b_{1}</math> wie folgt errechnen:

Aktuelle Version vom 4. April 2019, 13:03 Uhr

Regression

Regressionsanalyse • Lineares Regressionsmodell • Schätzung der Regressionsparameter • Güte der Regression • Multiple Choice • Video • Aufgaben • Lösungen
Abhängige Variable • Bestimmtheit der Regression • Bestimmtheitsmaß • Einfache lineare Regressionsfunktion • Endogene Variable • Erklärende Variable • Erklärte Variable • Exogene Variable • Linearer Regressionskoeffizient • Methode der kleinsten Quadrate (Regression) • Multiple lineare Regression • Regressand • Regressionsfunktion • Regressionsgerade • Regressionskonstante • Regressionsparameter • Regressor • Regresswert • Residuum • Restgröße • Unabhängige Variable

Grundbegriffe

Schätzung der Regressionsparameter

Für die Schätzung der Regressionsparameter müssen zwei Bedingungen erfüllt sein.

1. Bedingung

Die Abweichungen der Regresswerte von den Beobachtungswerten sollen im Mittel gleich Null sein, d.h.

Diese Bedingung wird aber von einer unendlichen Menge von Regressionsgeraden, die alle durch den Schwerpunkt der Punktwolke verlaufen, erfüllt.

Diese Bedingung für sich allein genommen führt also zu keiner eindeutigen Regressionsgeraden.

2. Bedingung

Es wird eine Regressionsgerade gesucht, für die die Streuung (Varianz) der Residuen

ein Minimum im Vergleich zu allen anderen Regressionsgeraden ist.

Aus der Erfüllung der 1. Bedingung folgt:

Die folgende Grafik veranschaulicht die 2. Bedingung:

Die in der Grafik dargestellten Quadrate (sie entsprechen den quadrierten Residuen) sollen minimiert werden.

Daraus ergibt sich der Name der dafür angewandten Methode - die Methode der kleinsten Quadrate (KQ).

Methode der kleinsten Quadrate

Die Methode der kleinsten Quadrate (KQ) hat die Minimierung der Summe der quadratischen Abweichungen (Residual Sum of Squares - RSS) der Regresswerte von den Beobachtungswerten zum Ziel.

Die zu minimierende Funktion ist eine Gleichung mit zwei Unbekannten und . Für das Erreichen eines Minimums müssen die ersten partiellen Ableitungen verschwinden, d.h. sie werden Null gesetzt.

Mit Hilfe der Hesse-Matrix lässt sich überprüfen, ob es sich um ein Minimum handelt

Diese ist positiv-definit und somit handelt es sich bei den Extremwerten um Minima.

Die erste Ableitung führt zu den beiden Normalgleichungen, mit deren Hilfe sich die geschätzten Regressionsparameter und durch die Auflösung der Gleichungen nach bzw. berechnen lassen:

Die Auflösung der Normalgleichungen mit Hilfe der Cramer'schen Regel liefert:

Werden die ursprünglichen Normalgleichungen durch dividiert, erhält man im Ergebnis vereinfachte Formeln zur Berechnung der Regressionsparameter:

Für die Konstante ergibt sich:

Für den linearen Regressionskoeffizienten ergibt sich:

Zusatzinformationen

  • Die Varianz von muss größer sein als Null:
  • Wie schon aus den vereinfachten Normalgleichungen zu ersehen, gilt
Für wird , d.h. der Punkt liegt auf der Regressionsgeraden
Eine lineare Regression von auf entspricht nicht der linearen Regression von auf !

Beispiele

Losgröße und Arbeitszeit

- Losgröße

- Arbeitszeit

Produktionsdurchläufe im Unternehmen

1 30 73 2,190 900 5,329 70 3
2 20 50 1,000 400 2,500 50 0
3 60 128 7,680 3,600 16,384 130 -2
4 80 170 1,360 6,400 28,900 170 0
5 40 87 3,480 1,600 7,569 90 -3
6 50 108 5,400 2,500 11,664 110 -2
7 60 135 8,100 3,600 18,225 130 5
8 30 69 2,070 900 4,761 70 -1
9 70 148 10,360 4,900 21,904 150 -2
10 60 132 72,920 3,600 17,424 130 2
500 1,100 61,800 28,400 134,660 1,100 0

Berechnung der Hilfsgrößen (Mittelwerte, Varianzen und Standardabweichungen):

Für die Kovarianz und den Korrelationskoeffizienten ergibt sich:

Damit lassen sich die Regressionsparameter und berechnen:

Es ergibt sich folgende Regressionsgleichung:

Haushaltsnettoeinkommen und Konsumausgaben

Von 10 Zwei-Personen-Haushalten wurden jeweils das monatliche Haushaltsnettoeinkommen sowie die Konsumausgaben ermittelt:

Haushalt 1 2 3 4 5 6 7 8 9 10
HH-Nettoeinkommen in Euro () 3500 5000 4300 6100 1000 4800 2900 2400 5600 4100
Konsumausgaben in Euro () 2000 3500 3100 3900 900 3000 2100 1900 2900 2100


Anhand der Punktwolke im folgenden Scatterplot ist bereits zu erkennen, dass das Haushaltsnettoeinkommen einen positiven Einfluss auf die Konsumausgaben bei den 10 Zwei-Personen-Haushalten ausübt, der offensichtlich mittels einer linearen Regressionsfunktion geschätzt werden kann.

Gesucht ist die lineare Regressionsfunktion der Konsumausgaben in Abhängigkeit vom HH-Nettoeinkommen.

Für die Schätzung der Regressionsparameter sind einige Zwischenberechnungen notwendig

HH
1 3500 2000 7000000 12250000 4000000
2 5000 3500 17500000 25000000 12250000
3 4300 3100 13330000 18490000 9610000
4 6100 3900 23790000 37210000 15210000
5 1000 900 900000 1000000 810000
6 4800 3000 14400000 23040000 9000000
7 2900 2100 6090000 8410000 4410000
8 2400 1900 4560000 5760000 3610000
9 5600 2900 16240000 31360000 8410000
10 4100 2100 8610000 16810000 4410000
Summe 39700 25400 112420000 179330000 71720000


Gemäß der angegebenen Formeln lassen sich die Regressionsparameter und wie folgt errechnen:

Damit ergibt sich die folgende lineare Regressionsfunktion:

(Konsumausgaben = 423,13 + 0,5332 Haushaltsnettoeinkommen)

Die Regressionsgerade lässt sich im Scatterplot darstellen:

Der Anstieg der Geraden entspricht der Konsumquote:

Mit jeder Mark mehr Einkommen erhöhen sich im Mittel der beobachteten 10 Zwei-Personen-Haushalte die Konsumausgaben um 0,53 Euro.

Nach Berechnung der Standardabweichung von bzw. sowie der Kovarianz zwischen und lässt sich der Korrelationskoeffizient wie folgt ermitteln:

Er weist auf einen starken Zusammenhang zwischen Konsumausgaben und HH-Nettoeinkommen hin.

Die Güte der Anpassung der Regressionsfunktion an die Daten lässt sich mit Hilfe des Bestimmtheitsmaßes ermitteln. Es ist der Anteil der durch die Regressionsfunktion erklärten Varianz an der Gesamtvarianz der Konsumausgaben (Y):

Das Bestimmtheitsmaß zeigt, dass 86% der Varianz der Konsumausgaben durch die lineare Abhängigkeit vom Haushaltsnettoeinkommen bei den 10 Zwei-Personen-Haushalten erklärt werden kann.