بناء المقدرات

$N(\mu ;\sigma ^{2})$ والذي يعتمد على العناصر المجهولة $\mu$ و $\sigma ^{2}$ .

العينة العشوائية من الحجم $n$ المسحوبة من التوزيع $f(x|\vartheta )$ لهذا المتغيرات العشوائية $(X_{i},\ldots ,X_{n})$ موزعة بشكل مستقل ومتماثل مع الاحتمال $f(x_{i}|\vartheta )$ لأجل $i=1,\ldots ,n$. حيث المشاهدات مستقلة.

التوزيع المشترك لكل المتغيرات العشوائية يساوي لجداء توزيعاتهم الفردية.

$P(\{X_{1}=x_{1}\}\cap \ldots \cap \{X_{n}=x_{n}\}|\theta )=f(x_{1},\ldots ,x_{n}|\vartheta )=f(x_{1}|\vartheta )\cdot \ldots \cdot f(x_{n}|\vartheta )$

بمعنى ينبغي السؤال الأن ما هو الاحتمال (أو الكثافة الاحتمالية) لسحب هذه العينة لأجل قيم مختلفة للعنصر المجهول $\vartheta$

رياضيا نعرف تابع الامكانية العظمى $L(\theta )$ ليكون تابع $\vartheta$ الشرطي على البيانات $(x_{1},\dots ,x_{n}).$ ذلك يعني :

$L(\vartheta |x_{1},\dots ,x_{n})=f(x_{1}|\vartheta )\cdot \ldots \cdot f(x_{n}|\vartheta )=\prod \limits _{i=1}^{n}f(x_{i}|\vartheta )$

يعطى $L(\theta )$ الاحتمال (أو الكثافة الاحتمالية) للعينة الحقيقية $(x_{1},\dots ,x_{n}).$ عند كل قيمة من $\vartheta$

يحدد مبدأ الامكانية العظمى بأن المرء سيختار القيمة ${\widehat {\vartheta }}$ التي تعظم تابع الامكانية.

$L({\hat {\vartheta }})=\max _{\vartheta }L(\vartheta )$

تحت الشروط العامة $L(c)$ له قيمة عظمى , الشرط الضروري هو المشتق الأول يساوي الصفر.

${\frac {\partial L({\widehat {\vartheta }})}{\partial \vartheta }}=0$

بشكل أبسط انه هام لنأخذ اللوغارتم $ln\;L({\widehat {\vartheta }})$ ينتج تابع لوغارتم الامكانية العظمى حيث يؤسس اللوغارتم للتحويل, تعظيم $ln\;L({\widehat {\vartheta }})$

يحدث عند نفس النقطة من ${\widehat {\vartheta }}$ كتابع امكانية يصبح الشرط الأول:

${\frac {\partial \log L({\widehat {\vartheta }})}{\partial \vartheta }}=0$

مقدر الامكانية العظمى الناتج ${\widehat {\vartheta }}$ درس بشكل واسع ومعروف للعديد من الخواص الهامة تحت الشروط العامة. بينها انه ثابت وطبيعي متناظر وفعال في العينات الكبيرة.

تقدير المربعات الصغرى: نفترض $g_{i}$

$E(X_{i})=g_{i}(\vartheta )\qquad i=1,\ldots ,n$

في الحالة الأبسط $g_{i}(\vartheta )=\vartheta \forall i$.

البيانات المعطى $x_{1},\ldots ,x_{n}$ عندئذ نختار المقدر ${\widehat {\vartheta }}$ بواسطة تصغير مجموع الانحرافات المربعة للبيانات عن $g_{i}({\widehat {\vartheta }})$ بمعنى :

$Q({\widehat {\vartheta }})=\sum \limits _{i=1}^{n}(x_{i}-g_{i}(\vartheta ))^{2}$

له القيمة الأدنى سيوجد الحل بواسطة التفاضل الى $\vartheta$ ووضع المشتق الأول مساوي للصفر. التصغير الناتج ${\widehat {\vartheta }}$ يدعى بمقدر المربعات الأقل.

مقدرات المربعات الأقل لها الخواص المعينة, هذه المقدرات ثابتة طبيعية وفعالة في العينات الكبيرة.