المعلومات الاضافية لتطبيقات طريقة الامكانية العظمى

المعلومات الاضافية لتطبيقات طريقة الامكانية العظمى

تقدير الامكانية العظمى الى $\mu$ و $\sigma ^{2}$ لأجل توزيع غواسيان

نفرض المتغير العشوائي $X$ الموزع بتوزيع غواسيان مع العناصر المجهولة $\mu$ و $\sigma ^{2}$

نفرض أن $X_{1},\ldots ,X_{n}$ هي عينة عشوائية مسحوبة من هذا التوزيع عندئذ لكل $X_{i}\;(i=1,\ldots ,n)$ لدينا

$f(x_{i}|\mu ,\sigma )={\frac {1}{{\sqrt {2\pi }}\,\sigma }}\,e^{-{\frac {(x_{i}-\mu )^{2}}{2\sigma ^{2}}}}$

يعطى تابع الامكانية العظمى بواسطة

$=\left({\frac {1}{\sqrt {2\pi \sigma ^{2}}}}\right)^{n}e^{-{\frac {1}{2\sigma ^{2}}}\sum \limits _{i=1}^{n}(x_{i}-\mu )^{2}}$	$L(\mu ,\;\sigma ^{2}|x_{1},\ldots ,x_{n})=\prod _{i=1}^{n}f(x_{i}|\mu ,\;\sigma )$
	$=(2\pi \sigma ^{2})^{-{\frac {n}{2}}}\cdot exp\left(-{\frac {1}{2\sigma ^{2}}}\sum \limits _{i=1}^{n}(x_{i}-\mu )^{2}\right)$

بأخذ اللوغارتم ينتج لدينا:

$\log L(\mu ,\sigma ^{2}|x_{1},\dots ,x_{n})=-{\frac {n}{2}}\cdot \log(2\pi )-{\frac {n}{2}}\cdot \log \sigma ^{2}-{\frac {1}{2\sigma ^{2}}}\cdot \sum \limits _{i=1}^{n}(x_{i}-\mu )^{2}$

تقدير الامكانية العظمى الى $\mu$ و $\sigma ^{2}$

لتعظيم $L(\mu ;\;\sigma ^{2})$ لأجل $(x_{1},\ldots ,x_{n})$

${\widehat {\mu }}$ و ${\widehat {\sigma }}^{2}$ مختارة لتعظم التابع اللوغارتمي للامكانية العظمى نأخذ الاشتقاقات الجزئية بالتفاضل الى $\mu$ و $\sigma ^{2}$

نضع المعادلات الناتجة مساوية للصفر ينتج :

${\frac {\partial \log L}{\partial \mu }}=-{\frac {2\cdot \sum \limits _{i=1}^{n}(x_{i}-{\widehat {\mu }})\cdot (-1)}{2\sigma ^{2}}}=0$

${\frac {\partial \log L}{\partial \sigma ^{2}}}=-{\frac {n}{2}}\cdot {\frac {1}{\widehat {\sigma }}}+{\frac {1}{2}}\cdot {\frac {1}{\widehat {\sigma ^{4}}}}\cdot \sum \limits _{i=1}^{n}(x_{i}-\mu )^{2}=0$

ستحل المعادلة الأولى لتنتج تقدير الامكانية العظمى ${\widehat {\mu }}$ الى $\mu$

$\sum \limits _{i=1}^{n}(x_{i}-{\widehat {\mu }})=0$

${\widehat {\mu }}={\frac {\sum \limits _{i=1}^{n}x_{i}}{n}}={\bar {x}}$

سنستبدل النتيجة في المعادلة الثانية وعندئذ ستحل لأجل ${\widehat {\sigma }}^{2}$

${\frac {n}{2{\widehat {\sigma }}^{2}}}={\frac {1}{2{\widehat {\sigma }}^{4}}}\sum \limits _{i=1}^{n}(x_{i}-\mu )^{2}$

${\widehat {\sigma }}^{2}={\frac {1}{n}}\sum \limits _{i=1}^{n}(x_{i}-\mu )^{2}$

لهذا فان مقدر الامكانية العظمى الى $\mu$ هو متوسط العينة حيث نعرفه بأنه غير متحيز ومتقارب وفعال. مقدر الامكانية العظمى الى $\sigma ^{2}$ هو حيث هو متحيز في العينات المنتهية متقارب وفعال.

الشرط الثاني للتعظيم يمكن التحقق منه بسهولة .

تقدير الامكانية العظمى الى $\pi$ لأجل التوزيع الثنائي :

نفرض المرء يسحب عينة عشوائية من الحجم $n$ مع الاعادة من المجتمع الثنائي التصنيف مع العنصر المجهول $\pi$.

ندع $X$ لتكون عدد النجاحات عندئذ $X$ موزعة بشكل ثنائي $B(n,\pi )$. يعطى تابع الامكانية العظمى بواسطة

$L(\pi |x)={n \choose x}\cdot \pi ^{x}\cdot (1-\pi )^{n-x}$

ويعطى لوغارتم الامكانية العظمى بواسطة

$\log L(\pi |x)=\log {n \choose x}+x\log \pi +(n-x)\log(1-\pi )$

نعمل التفاضل الى $\pi$ ونضعه مساوي للصفر فنحصل على

${\frac {\partial \log L(\pi |x)}{\partial \pi }}={\frac {x}{\widehat {\pi }}}-{\frac {n-x}{1-{\widehat {\pi }}}}=0$

$x(1-{\widehat {\pi }})-(n-x){\widehat {\pi }}=0$

${\widehat {\pi }}={\frac {x}{n}}$

للتأكد من التعظيم نفحص فيما اذا الاشتقاق الثاني سالب

${\frac {\partial ^{2}\log L(\pi |x)}{\partial \pi ^{2}}}=-{\frac {x}{\pi ^{2}}}-{\frac {n-x}{(1-\pi )^{2}}}$

مقدر الامكانية العظمى ${\widehat {\pi }}$ هو نسبة العينة وهي غير متحيزة فعالة ومتقاربة.

تقدير الامكانية العظمى الى $\lambda$ لأجل توزيع بواسون:

ندع $X_{1},\ldots ,X_{n}$ لتكون عينة عشوائية من الحجم $n$ مع الاعادة من توزيع بواسون مع العنصر المجهول $\lambda >0$. عندئذ لأجل $X_{i}\,(i=1,\ldots ,n)$ لدينا:

$f_{PO}(x_{i};\lambda )={\frac {\lambda ^{x_{i}}}{x_{i}\,!}}e^{-\lambda }$

يعطى تابع الامكانية العظمى للعينة الحقيقية بواسطة

$L(\lambda |x_{1},\dots ,x_{n})=\prod \limits _{i=1}^{n}{\frac {\lambda ^{x_{i}}}{x_{i}\,!}}e^{-\lambda }={\frac {\lambda ^{x_{1}+\dots +x_{n}}}{x_{1}!\cdot \dots \cdot x_{n}\,!}}e^{-n\lambda }$

ومع لوغارتم الامكانية العظمى يصبح

$\log L(\lambda |x_{1},\dots ,x_{n})=\sum \limits _{i=1}^{n}\log \left({\frac {\lambda ^{x_{i}}}{x_{i}!}}e^{-\lambda }\right)=\sum \limits _{i=1}^{n}(x_{i}\log \lambda -\log(x_{i}!)-\lambda )$

نعمل التفاضل بالنسبة الى $\lambda$ ونضع العبارة مساوية للصفر ينتج لدينا:

${\frac {\partial \log L}{\partial \lambda }}=\sum \limits _{i=1}^{n}\left({\frac {x_{i}}{\widehat {\lambda }}}-1\right)=0$

وحينئذ

${\frac {1}{\widehat {\lambda }}}\sum \limits _{i=1}^{n}x_{i}-n=0,$

${\widehat {\lambda }}={\frac {1}{n}}\sum \limits _{i=1}^{n}x_{i}={\bar {x}}$

مقدر الامكانية العظمى الى $\lambda$ هو الوسط الحسابي لقيم العينة. الشرط الكافي للتعظيم محقق اذا

${\frac {\partial ^{2}\log L}{\partial \lambda ^{2}}}=-{\frac {1}{\lambda ^{2}}}\sum \limits _{i=1}^{n}x_{i}<0$

حيث $\lambda >0$ والعينة العشوائية الموزعة بتوزيع بواسون لا تملك قيم سالبة الشرط كافي.

تقدير الامكانية العظمى الى $\lambda$ لأجل التوزيع الأسي:

ندع $X$ لتكون عينة عشوائية من الحجم $n$ مع الاعادة من التوزيع الأسي مع العنصر المجهول $\lambda >0$. عندئذ لكل $x_{1},\dots ,x_{n}$ لدينا

يعطى تابع الامكانية العظمى للعينة الحقيقية بواسطة

$L(\lambda |x_{1},\dots ,x_{n})=\prod _{i=1}^{n}\lambda e^{\lambda x_{i}}=\lambda ^{n}\prod _{i=1}^{n}e^{-\lambda x_{i}}=\lambda ^{n}e^{-\lambda \sum \limits _{i=1}^{n}x_{i}}$

وتابع لوغارتم الامكانية العظمى المطابق هو

$\log L(\lambda |x_{1},\dots ,x_{n})=n\log \lambda -\lambda \sum \limits _{i=1}^{n}x_{i}$

بوضع الاشتقاق الأول $\lambda$ مساوي للصفر ينتج :

${\frac {\partial \log L(\lambda )}{\partial \lambda }}={\frac {n}{\widehat {\lambda }}}-\sum \limits _{i=1}^{n}x_{i}=0$

بحل مقدر الامكانية العظمى الى ${\widehat {\lambda }}$ يحصل المرء

${\frac {n}{\widehat {\lambda }}}=\sum \limits _{i=1}^{n}x_{i}$

${\widehat {\lambda }}={\frac {n}{\sum \limits _{i=1}^{n}x_{i}}}={\frac {1}{\bar {x}}}$

بأخذ الاشتقاق الثاني فيما يتعلق الى $\lambda$ يحصل المرء

${\frac {\partial ^{2}\log L(\lambda )}{\partial \lambda ^{2}}}=-{\frac {n}{\lambda ^{2}}}$

حيث الشرط الكافي للتعظيم كافي لما $n>0$ و $\lambda >0$.

تطبيق المربعات الأقل :

العينة العشوائية من الحجم $n$ المسحوبة من المجتمع مع التوقع المجهول $E(X)=\mu$.

$X_{i}\;(i=1,\ldots ,n)$ موزعة بشكل مستقل ومتماثل مع $E(X_{i})=\mu$, ولذلك $g_{i}(\mu )=\mu$ لكل $i$.

يقدر العنصر المجهول $\mu$ باستعمال المربعات الأقل حيث يتم تصغير مجموع الانحرافات المربعة للمشاهدات عن المقدر ${\widehat {\mu }}$ ذلك يعني:

$Q({\widehat {\mu }})=\sum \limits _{i=1}^{n}(x_{i}-\mu )^{2}$

يتم تصغيره. التفاضل ووضعها مساوي للصفر ينتج:

${\frac {\partial Q({\widehat {\mu }})}{\partial \mu }}=-2\,\sum \limits _{i=1}^{n}(x_{i}-\mu )=0$

ثم ينتج مقدر المربعات الصغرى

${\widehat {\mu }}={\frac {1}{n}}\sum \limits _{i=1}^{n}x_{i}={\bar {x}}$

للتحقق من التصغير نفحص فيما اذا المشتق الثاني موجب $\mu ={\widehat {\mu }}$

${\frac {\partial ^{2}Q({\widehat {\mu }})}{\partial \mu ^{2}}}=2n>0$

اذا البيانات المسحوبة من توزيع $N(\mu ;\sigma ^{2})$ عندئذ مقدر الامكانية العظمى الى $\mu$ هو متوسط العينة أيضا.

على أية حال نلاحظ بأنه تحت الامكانية العظمى افترضت الحالة الطبيعية بينما لا تتطلب مقدرات المربعات الصغرى هذه الفروض .