الفرق بين المراجعتين لصفحة: «تحليل الانحدار الأحادي البعد»

من MM*Stat Arabisch

اذهب إلى: تصفح, ابحث
 
لا ملخص تعديل
سطر ١: سطر ١:
[[تحليل الانحدار الأحادي البعد]],[[مثال للانحدار الخطي]],[[مثال أخر للانحدار الخطي]],[[مثال  للانحدار  الخطي ذو البعد الواحد  ]], [[المثال التفاعلي للانحدار الخطي]]
<math> y_{i}=\widehat{y_{i}}+
\widehat{u_{i}}</math> لكل مشاهدة i


حللنا  القيم المشاهدة <math> y_{i}</math> لجزئين: 


تابع الانحدار المقدر <math> \widehat{y_{i}}=\widehat{E(y_{i}\vert x_{i})}</math> بمعنى: تقدير المتوسط الشرطي.


[[صورة:H100.gif]]      '''11.2 تحليل الانحدار الأحادي البعد'''
والبواقي المقدرة <math> \widehat{u_{i}}</math>.






<math> \sum_{i=1}^{n}{(y_{i}-\widehat{y_{i}})}({\widehat{y_{i}}}-\bar{y})=0</math>


'''تابع الانحدار الخطي الأحادي البعد'''
يحفز القارئ لبرهان هذا الاستعمال المربعات الأقل أولا أو الشرط  فوق مع التعريف <math> {\widehat{y_{i}}.}</math>
 
 
[[تابع الانحدار]] الخطي البسيط له الصيغة التالية :
 
 
<math>\widehat{y_{i}}=b_{0}+b_{1}x_{i}\quad i=1,\ldots ,n</math>
 
 
في هذه المعادلة : <math>x_{i}</math> تمثل القيم المشاهدة للمتغير العشوائي <math>X</math> (الثابت)
 
و <math>b_{0}</math> و <math>b_{1}</math> عناصر الانحدار المجهولة.
 
 
نحصل على القيم المشاهدة الفعلية <math>y_{i}\,(i=1,\ldots ,n)</math> بواسطة جمع البواقي <math>\widehat{u_{i}}</math> و <math>\widehat{y_{i}}</math> (نستطيع رؤية ذلك  في الشكل البياني).
 
 
 
<math>y_{i}=\widehat{y_{i}}+\widehat{u_{i}}=b_{0}+b_{1}x_{i}+\widehat{u_{i}}\qquad i=1,\ldots
,n</math>
 
 
 
[[صورة:folimg297.gif]]
 
 
'''عناصر الانحدار'''
 
 
عناصر تابع الانحدار الخطي البسيط له المعاني التالية :
 
 
*<math>b_{0}</math> المعامل الثابت
 
يصف تقاطع  خط الانحدار المطابق ومحور <math>Y</math>. وله نفس القيمة  كالمتغير <math>Y</math>. عند  هذه النقطة.
 
*معامل ميل الانحدار <math>b_{1}</math> ويصف  ميل خط الانحدار المطابق  وهو يخبرنا  كم عدد الوحدات  للمتغير العشوائي <math>Y</math>
ستتغير اذا ازدادت  قيمة المتغير <math>X</math> بواسطة وحدة واحدة.
 
 
 
'''تقدير عناصر الانحدار'''
 
 
لتقدير عناصر الانحدار  يجب تحقق شرطين هاميين :
 
 
'''الشرط الأول'''
 
 
انحرافات قيم الانحدار المقدرة <math>\widehat{y_{i}}</math> عن  القيم المشاهدة <math>y_{i}</math> ستكون بالمتوسط مساوية للصفر  ذلك يعني:
 
 
<math>\sum_{i=1}^{n}(y_{i}-\widehat{y_{i}})=\sum_{i=1}^{n}\widehat{u_{i}}=0</math>
 
<math>\bar{\hat{u}}=\frac{1}{n}\sum_{i=1}^{n}\widehat{u_{i}}=0</math>
 
 
 
 
هذا الشرط كافي  لخطوط انحدار غير متناهية وهي تلك التي تمر من خلال نقطة متوسطات  العينة <math>\bar{x}\;,\bar{y}</math> نلاحظ العبارات فوق تتضمن [[صورة:Mmengjavaimg3828.gif]] لكل مشاهدة i
 
حللنا  القيم المشاهدة [[صورة:Mmengjavaimg3622.gif]] لجزئين: 
 
تابع الانحدار المقدر [[صورة:Mmengjavaimg3829.gif]] بمعنى: تقدير المتوسط الشرطي.
 
والبواقي المقدرة [[صورة:Mmengjavaimg3830.gif]].
 
 
 
[[صورة:folimg302.gif]]
 
 
'''الشرط الثاني'''
 
 
نبحث لأجل تابع الانحدار أن تباين  البواقي  المقدرة المطابقة:
 
 
<math>{s^{2}}_{\hat{u}}=\frac{1}{n-2}\sum_{i=1}^{n}{(\widehat{u_{i}}-\bar{\hat{u}})}^{2}</math>
 
 
صغير بالمقارنة  مع كل خطوط الانحدار الممكنة  الأخرى.
 
الشرط الأول:
 
 
<math>\bar{\hat{u}}=0</math>
 
 
يتضمن:
 
 
 
<math>{s^{2}}_{\hat{u}}=\frac{1}{n-2}\sum_{i=1}^{n}{(\widehat{u_{i}}-0)}^{2}=\frac{1}{n-2}\sum_{i=1}^{n}{\widehat{u_{i}}}^{2}=\frac{1}{n-2}\sum_{i=1}^{n}{(y_{i}-\widehat{y_{i}})}^{2}</math>
 
 
يصور الشرط  الثاني في الشكل البياني التالي:
 
 
[[صورة:folimg305.gif]]
 
 
المربعات المحسوبة  في الشكل المطابقة  للبواقي المربعة  ويجب تصغير المساحة الاجمالية  للمربعات  حينئذ  تدعى الطريقة المستخدمة  لهذا التصغير [[ بطريقة المربعات الصغرى]].
 
 
تصغر '''طريقة المربعات الصغرى'''  مجموع الانحرافات المربعة  لقيم الانحدار عن القيم المشاهدة  ( بواقي  مجموع  المربعات)
 
 
 
 
<math>\sum_{i=1}^{n}{(y_{i}-\widehat{y_{i}})}^{2}\rightarrow min.\quad\mid \widehat{y_{i}}=b_{0}+b_{1}x_{i}</math>
 
 
التابع المصغر  له المتغيرين  المجهولين <math>b_{0}</math> و <math>b_{1}</math>
 
 
<math>S(b_{0},b_{1})=\sum_{i=1}^{n}{(y_{i}-b_{0}-b_{1}x_{i})}^{2}\rightarrow min</math>
 
لايجاد التصغير  الاشتقاقات  الجزئية  الأولى  ونضعها  مساوية للصفر:
 
 
<math>\frac{\partial S(b_0,b_1)}{\partial b_0}=-2\sum_{i=1}^{n}(y_i-b_0-b_1x_i)\dot= 0</math>
 
<math>\frac{\partial S(b_0,b_1)}{\partial b_1}=-2\sum_{i=1}^{n}(y_i-b_0-b_1x_i)x_i\dot= 0</math>
 
 
للتأكد اذا الحل له قيمة صغرى  نطبق الاشتقاقات  الجزئية  الثانية:
 
 
 
<math>\frac{{\partial}^2S(b_0,b_1)}{\partial {b_0}^2}=2n > 0</math>
 
<math>\frac{{\partial}^2S(b_0,b_1)}{\partial {b_1}^2}=2\sum_{i=1}^{n} {x_i}^2 > 0</math>
 
 
 
 
لأن كلا  الاشتقاقات  الثانية  موجبة  تقود الاشتقاقات  الأولى  المساوية  للصفر  لما يدعى  المعادلات  الطبيعية  ومنها  يمكن حساب  عناصر الانحدار المقدرة <math>b_{0}</math> و <math>b_{1}</math>
 
بحل هذه المعادلات:
 
 
 
<math>n{\widehat{b_{0}}}+{\widehat{b_{1}}}\sum_{i=1}^{n}x_{i}=\sum_{i=1}{n}y_{i}</math>
 
<math>{\widehat{b_{0}}}\sum_{i=1}^{n}x_{i}+{\widehat{b_{1}}}\sum_{i=1}^{n}{x_{i}}^{2}=\sum_{i=1}^{n}x_{i}y_{i}</math>
 
 
 
 
يمكن حل المعادلات  الطبيعية  بواسطة المتوسطات  الخطية  قاعدة  كرامر:
 
 
 
<math>{\widehat{b_{0}}}=\frac{\begin{vmatrix} \sum y_{i} & \sum x_{i} \\
\sum x_{i}y_{i} & \sum {x_{i}}^{2}\end{vmatrix}
}{\begin{vmatrix}n & \sum x_{i} \\
\sum x_{i} & \sum {x_{i}}^{2}\end{vmatrix}}=\frac{\sum y_{i}\sum {x_{i}}^{2}-\sum x_{i}\sum x_{i}y_{i}}{n\sum {x_{i}}^{2}-\sum x_{i}\sum x_{i}}</math>
 
<math>{\widehat{b_{1}}}=\frac{\begin{vmatrix}
n & \sum y_{i} \\
\sum x_{i} & \sum x_{i}y_{i}
\end{vmatrix}}
{\begin{vmatrix}
n & \sum x_{i} \\
\sum x_{i} & \sum {x_{i}}^{2}\end{vmatrix}
}=\frac{n\sum x_{i}y_{i}-\sum x_{i}\sum y_{i}}{n\sum {x_{i}}^{2}-\sum x_{i}\sum x_{i}}</math>
 
بتقسيم  المعادلات  الأصلية  بواسطة n نحصل على الصيغة  البسيطة  المناسبة  لحساب عناصر الانحدار:
 
 
{|
|<math>=\bar{y}</math>
|align="right"|<math>{\widehat{b_{0}}}+{\widehat{b_{1}}}\bar{x}</math>
 
|-
|<math>=\overline{xy}</math>
|align="right"|<math>{\widehat{b_{0}}}\bar{x}+{\widehat{b_{1}}}\bar{x^{2}}</math>
 
|}
 
 
 
لأجل المعاملات الثابتة  المقدرة <math>b_{0}</math> نحصل:
 
 
 
<math>b_{0}=\bar{y}-{\widehat{b_{1}}}\bar{x}</math>
 
 
لأجل  معامل  الميل  الخطي  المقدر  نحصل:
 
 
 
<math>b_{1}</math>
 
 
{|
|<math>=\overline{xy}</math>
|<math>(\bar{y}-{\widehat{b_{1}}}\bar{x})\bar{x}+{\widehat{b_{1}}}\bar{x^{2}}</math>
 
|-
|<math>=\bar{xy}-\overline{x}\bar{y}</math>
|<math>{\widehat{b_{1}}}(\bar{x^{2}}-{\bar{x}}^{2})</math>
 
|-
|<math>=S_{XY}</math>
|<math>{\widehat{b_{1}}S_{X}}^{2}</math>
 
|-
|<math>=\frac{S_{XY}}{{S_{X}}^{2}}</math>
|<math>{\widehat{b_{1}}}</math>
 
|}
 
 
 
 
'''الخواص:'''
 
 
* تباين العينة <math>X</math> أكبر من الصفر: <math>{S_{X}}^{2}>0</math>
 
* من المعادلات الطبيعية البسيطة  نرى أن
 
<math>(\bar{x},\bar{y})\rightarrow</math> für <math>x_{i}=\bar{x}</math> wird
<math>{\widehat{y_{i}}}=\bar{y}</math>
 
<math>{\widehat{y_{i}}}={\widehat{b_{0}}}+{\widehat{b_{1}}}x_{i}=\bar{y}+{\widehat{b_{1}}}(x_{i}-\bar{x})=\bar{y}</math>
 
 
* بتركيب  النتائج  من الارتباط  وتحليل الانحدار  من الممكن الحصول  على معامل ميل الانحدار المقدر <math>b_{1}</math> كالتالي:
 
 
<math>{\widehat{b_{1}}}=\frac{S_{xy}}{{S_{x}}^{2}},\quad r_{xy}=\frac{S_{xy}}{S_{x}S_{y}}</math>
 
<math>\Rightarrow {\widehat{b_{1}}}=r_{xy}\frac{S_{y}}{S_{x}}</math>
 
 
 
الانحدار <math>(y|x)</math>  الى <math>x</math>  على <math>y</math> لا يطابق  الانحدار <math>(x|y)</math> الى <math>y</math>  على  <math>x</math>!
 
 
{|
|<math>{\widehat{b_{0}}}=\bar{y}-{\widehat{b_{1}}}\bar{x}</math>
|<math>{\widehat{b_{0}}}^{*}=\bar{x}-{\widehat{b_{1}}}^{*}\bar{y}</math>
|-
|<math>{\widehat{b_{1}}}=\frac{S_{XY}}{{S_{X}}^{2}}</math>
|<math>{\widehat{b_{1}}}^{*}=\frac{S_{XY}}{{S_{Y}}^{2}}</math>
|}
 
 
 
 
'''مثال:'''
 
 
'''X''' مخرجات الانتاج
 
'''Y'''  وقت العمل 
 
'''n''' دورات الانتاج في الشركة
 
 
 
{|border="1"
|align="center"|'''<math>i</math>'''
|align="center"|'''<math>x_{i}</math>'''
|align="center"|'''<math>y_{i}</math>'''
|align="center"|'''<math>x_{i}y_{i}</math>'''
|align="center"|'''<math>x_{i}^{2}</math>'''
|align="center"|'''<math>y_{i}^{2}</math>'''
|align="center"|'''<math>\widehat{y_{i}}</math>'''
|align="center"|'''<math>\hat{u_{i}}</math>
|-
|align="center"|1
|align="center"|30
|align="center"|73
|align="center"|2,190
|align="center"|900
|align="center"|5,329
|align="center"|70
|align="center"|3
|-
|align="center"|2
|align="center"|20
|align="center"|50
|align="center"|1,000
|align="center"|400
|align="center"|2,500
|align="center"|50
|align="center"|0
|-
|align="center"|3
|align="center"|60
|align="center"|128
|align="center"|7,680
|align="center"|3,600
|align="center"|16,384
|align="center"|130
|align="center"|-2
|-
|align="center"|4
|align="center"|80
|align="center"|170
|align="center"|1,360
|align="center"|6,400
|align="center"|28,900
|align="center"|170
|align="center"|0
|-
|align="center"|5
|align="center"|40
|align="center"|87
|align="center"|3,480
|align="center"|1,600
|align="center"|7,569
|align="center"|90
|align="center"|-3
|-
|align="center"|6
|align="center"|50
|align="center"|108
|align="center"|5,400
|align="center"|2,500
|align="center"|11,664
|align="center"|110
|align="center"|-2
|-
|align="center"|7
|align="center"|60
|align="center"|135
|align="center"|8,100
|align="center"|3,600
|align="center"|18,225
|align="center"|130
|align="center"|5
|-
|align="center"|8
|align="center"|30
|align="center"|69
|align="center"|2,070
|align="center"|900
|align="center"|4,761
|align="center"|70
|align="center"|-1
|-
|align="center"|9
|align="center"|70
|align="center"|148
|align="center"|10,360
|align="center"|4,900
|align="center"|21,904
|align="center"|150
|align="center"|-2
|-
|align="center"|10
|align="center"|60
|align="center"|132
|align="center"|72,920
|align="center"|3,600
|align="center"|17,424
|align="center"|130
|align="center"|2
|-
|align="center"|'''<math>\sum</math>'''
|align="center"|500
|align="center"|1,100
|align="center"|61,800
|align="center"|28,400
|align="center"|134,660
|align="center"|1,100
|align="center"|0
|}
 
 
 
 
حساب المتغيرات:  [[متوسط العينة]],  [[تباين العينة]],  و[[الانحراف المعياري للعينة]]:
 
 
{|
|<math>\bar{x}</math>
|<math>= 50</math>
|
|<math>s_{x}^{2}</math>
|<math>=3400/10=340</math>
|
|<math>s_{x}</math>
|<math>=18,44</math>
|-
|<math>\bar{y}</math>
|<math>= 110</math>
|
|<math>s_{x}^{2}</math>
|<math>=13660/10=13366</math>
|
|<math>s_{y}</math>
|<math>=36,96</math>
|}
 
 
 
[[التباين المشترك البسيط]]  و[[معامل الارتباط البسيط]] يساوي:
 
 
<math>s_{xy}=6800/10=680\quad \mbox{bzw.} \quad r_{xy}=680/(18,44\cdot36,96)=0,9977</math>
 
 
من هذه القيم  نحسب  معاملات الانحدار المقدرة <math>b_{0}</math> و <math>b_{1}</math>:
 
 
<math>{\widehat{b_{1}}}=680/340=2</math>
 
<math>{\widehat{b_{0}}}=110-2\cdot (50)=10</math>
 
 
كنتيجة  نحصل  على  خط الانحدار المقدر التالي:
 
 
<math>{\widehat{y_{i}}}=10+2x_{i}</math>
 
 
 
[[صورة:folnode4_i_03.gif]]
 
 
[[صورة:folnode4_i_04.gif]]
 
 
 
 
'''خاصة خط الانحدار:'''
 
 
عندما يتم تقدير خط الانحدار  من المفيد معرفة  كيف خط الانحدار  يقرب البيانات المشاهدة  ذلك يعني: ما هي جودة  تقديم  البيانات  بواسطة خط الانحدار كيف نحسن تمثيل البيانات  بواسطة خط الانحدار.
 
يدعى القياس الذي يصف  نوعية التقديم  [[بمعامل التحديد]]  ويحسب بناء  على تحليل التباين  للمتغير المرتبط  <math>Y</math>.
 
الأصغر  هو مجموع  البواقي  المقدرة  المربعة  الأفضل  هو نوعية  خط الانحدار
حيث المربعات الأقل تصغر تباين البواقي المقدرة  كما تعظم R مربع بواسطة:
 
 
<math>\sum{(y_{i}-\widehat{y_{i}})}^{2}=\sum \hat{{u_{i}}^{2}}\rightarrow min.</math>
 
 
 
تباين العينة <math>Y</math> هو:
 
 
<math>{s_y}^2 = \frac{\sum_{i=1}^{n}{(y_i-\bar y)}^2}{n}</math>
 
 
انحراف القيم المشاهدة <math>y_{i}</math>  عن الوسط الحسابي <math>\bar{y}</math>  سيحلل لجزئين :
 
انحراف القيم المشاهدة <math>y_{i}</math> عن قيم  الانحدار المقدرة  وانحراف قيم الانحدار المقدرة  عن متوسط العينة:
 
 
<math>y_{i}-\bar{y}=[(y_{i}-{\widehat{y_{i}})}+({\widehat{y_{i}}}-\bar{y})],\quad i=1,\cdots ,n
</math>
 
 
يصور هذا التحليل  بالشكل البياني التالي:
 
 
[[صورة:folimg340.gif]]
 
بشكل متناظر  سيحلل  مجموع  الانحرافات  المربعة  الى:
 
 
 
<math>\sum_{i=1}^{n}{(y_{i}-\bar{y})}^{2}=\sum_{i=1}^{n}[{(y_{i}-\widehat{y_{i}})}+({\widehat{y_{i}}}-\bar{y})]^{2}</math>
 
<math>\sum_{i=1}^{n}{(y_{i}-\bar{y})}^{2}=\sum_{i=1}^{n}{(y_{i}-\widehat{y_{i}})}^{2}+\sum_{i=1}^{n}{(\widehat{y_{i}}-\bar{y})}^{2}</math>
 
 
 
نكون قادرين  لاشتقاق  المعادلة الثانية  فوق [[صورة:Mmengjavaimg3896.gif]]
 
يحفز القارئ  لبرهان هذا الاستعمال  المربعات  الأقل  أولا  أو الشرط  فوق مع التعريف [[صورة:Mmengjavaimg3897.gif]]


نقسم  طرفي المعادلة  الثانية  على n ينتج لدينا :
نقسم  طرفي المعادلة  الثانية  على n ينتج لدينا :
سطر ٥٠٩: سطر ٢٩:




*الجزء الأكبر من تباين العينة [[صورة:Mmengjavaimg154.gif]]
*الجزء الأكبر من تباين العينة <math> y</math>
يفسر بواسطة النموذج  [[صورة:Mmengjavaimg3901.gif]]
يفسر بواسطة النموذج  <math> {S_{\hat{y}}}^{2})</math>
أفضل مطابقة لخط  الانحدار.
أفضل مطابقة لخط  الانحدار.


*من جهة أخرى  كبر تباين البواقي  [[صورة:Mmengjavaimg3902.gif]]
*من جهة أخرى  كبر تباين البواقي  <math> \hat{{S_{u}}^{2}}</math>
كنسبة مئوية  لتباين العينة  [[صورة:Mmengjavaimg154.gif]]
كنسبة مئوية  لتباين العينة  <math> y</math>
بشكل بديل  كبر التأثيرات الخارجية غير المفسرة  بواسطة تابع الانحدار يطابق أسؤا  تابع انحدار.
بشكل بديل  كبر التأثيرات الخارجية غير المفسرة  بواسطة تابع الانحدار يطابق أسؤا  تابع انحدار.



مراجعة ١٦:٤٠، ٣١ يوليو ٢٠٢٠

لكل مشاهدة i

حللنا القيم المشاهدة لجزئين:

تابع الانحدار المقدر بمعنى: تقدير المتوسط الشرطي.

والبواقي المقدرة .


يحفز القارئ لبرهان هذا الاستعمال المربعات الأقل أولا أو الشرط فوق مع التعريف

نقسم طرفي المعادلة الثانية على n ينتج لدينا :



تباين العينة الاجمالي يساوي الى مجموع تباين العينة للبواقي المقدرة ( الجزء غير المفسر لتباين )وجزء تباين الذي يفسر بواسطة تابع الانحدار. ( تابع العينة لتابع الانحدار).


  • الجزء الأكبر من تباين العينة

يفسر بواسطة النموذج أفضل مطابقة لخط الانحدار.

  • من جهة أخرى كبر تباين البواقي

كنسبة مئوية لتباين العينة بشكل بديل كبر التأثيرات الخارجية غير المفسرة بواسطة تابع الانحدار يطابق أسؤا تابع انحدار.


معامل التحديد:


يعرف معامل التحديد كنسبة تباين المفسر بواسطة تابع الانحدار والتباين الاجمالي ذلك يعني تعرض نسبة تباين العينة المفسرة بواسطة تابع الانحدار المقدر.



كطريقة بديلة لحساب معامل التحديد:





الخواص:


  • يقع معامل التحديد دائما في المجال التالي:

ارتفاع قيمة معامل التحديد ذلك يعني أفضل تابع انحدار يشرح القيم المشاهدة.

اذا كل القيم المشاهدة تتوضع على خط الانحدار معامل التحديد يساوي للواحد سيشرح التباين الاجمالي بواسطة المتغير .

ترتبط بشكل تام وخطي مع

اذا معامل التحديد مساوي للصفر التباين الاجمالي متطابق مع التباين غير المفسر (تباين البواقي) المتغير العشوائي لا تأثير له على

بشكل متناظر : مطابقة انحدار على متماثلة مع مطابقة انحدار على .

  • لأجل تابع الانحدار الخطي يطابق معامل التحديد لمربع معامل الارتباط

.


مثال:


لأجل الاستقلال الموصوف سابقا بين وقت العمل ومخرجات الانتاج. معامل الارتباط البسيط ومعامل التحديد هو:



تابع الانحدار غير الخطي ذو البعد الواحد :


مثال:


المدن المقارنة

عدد وسائط النقل العامة الموزعة لمواطني المدينة عند بداية تحليل الفترة الزمنية.

الزيادة في أعداد المواطنين المستعملين لوسائط النقل العامة خلال تحليل الفترة الزمنية.


المدينة الزيادة

(in 1000)

وسائط النقل العامة

(in 1000)

1 0,60 80
2 6,70 220
3 5,30 140
4 4,00 120
5 6,55 180
6 2,15 100
7 6,60 200
8 5,75 160


الانحدار الخطي :



Folnode4 i 20.gif


نرى من الأشكال البيانية أن البواقي المقدرة لا تتوزع بشكل عشوائي حول الصفر لكن حصلنا على نماذج غير خطية نوعا ما حينئذ من المفيد استعمال نموذج الانحدار غير الخطي بدلا من النموذج الخطي.

الانحدار التربيعي



Folnode4 i 21.gif