Метод несмещённых оценок

Метод несмещенных оценок (МНО)  — это статистический метод оценивания неизвестных параметров распределения случайных величин по выборке.

Преимущества метода несмещенных оценок

Задача оценивания неизвестных параметров распределения случайных величин (СВ) по выборке решается на основе классических статистических методов: метода наименьших квадратов (МНК), метода моментов, метода максимального правдоподобия (ММП) и их различных модификаций. В соответствии с этими методами сначала определяется зависимость оценок неизвестных параметров от элементов выборки на основе выбранных критериев, а затем исследуются распределения этих оценок и их свойства несмещенности и эффективности. При этом обычно удается определить лишь асимптотически несмещенные и асимптотически эффективные оценки параметров (при бесконечном объеме выборки).

В отличие от классических методов, статистический метод несмещенных оценок (МНО), обоснование которого дано в книге Сухорученкова Б. И. Анализ малой выборки. Прикладные статистические методы, базируется на первоначальном построении по выборке плотности вероятности (ПВ) возможных оценок неизвестных параметров, которая является исчерпывающей характеристикой оценок параметров как случайных величин и векторов. На основе ПВ как на единой методической основе определяются несмещенные и эффективные точечные и интервальные оценки неизвестных параметров, а также функций от параметров распределения, например, толерантных пределов для СВ, в том числе по малой выборке. Для использования МНО, как и для ММП, необходимо априори знать вид распределения элементов выборки в зависимости от неизвестных параметров распределения.

Автор метода несмещенных оценок

Автором метода несмещенных оценок является профессор Военной академии РВСН имени Петра Великого, доктор технических наук, профессор, член-корреспондент Российской инженерной академии Сухорученков Борис Иванович. Метод несмещенных оценок разработан в 2009 г. и опубликован в 2010 г. в. На основе этого метода были успешно решены многие задачи точечного и интервального оценивания неизвестных параметров различных видов распределения случайных величин, задачи контроля показателей безотказности технических систем, оценивания толерантных пределов случайных величин и параметрической надежности технических систем, проверки статистических гипотез по одной и двум выборкам. Результаты решения задач опубликованы в ряде научных статей, ссылки на которые приведены.

Суть метода

В соответствии с МНО ПВ оценок неизвестных параметров строится следующим образом. Рассматривается выборка СВ $x_{i}$, $i=1,...,n$. Предполагается, что вид распределения СВ известен и зависит от неизвестных параметров $\Theta _{j}$, $j=1,...,J$. Распределение непрерывной СВ описывается ПВ $f(x/\left\{{\Theta _{j}}\right\})$. Распределение дискретной СВ с возможными значениями СВ $x_{v}$, $v=1,...,N$ описывается вероятностями $p(x_{v}/\left\{{\Theta _{j}}\right\})$ . Априорное распределение совокупности независимых элементов выборки определяется плотностью вероятности для непрерывной СВ и вероятностью для дискретной СВ по зависимостям

$f(\left\{{x_{i}}\right\}/\left\{{\Theta _{j}}\right\})=\prod _{i=1}^{n}f(x_{i}/\left\{{\Theta _{j}}\right\})$; (1)

$P(\left\{{x_{i}v}\right\}/\left\{{\Theta _{j}}\right\})=\prod _{i=1}^{n}p(x_{i}v/\left\{{\Theta _{j}}\right\})$. (2)

Если параметры распределения $\left\{{\Theta _{j}}\right\}$ неизвестны, но получена выборка $\left\{{x_{i}}\right\}$, то как показано в, ПВ возможных оценок параметров, которые обозначим в виде $\left\{{\theta _{j}}\right\}$, пропорциональна ПВ (1) или вероятности (2), в которую подставляются полученные элементы выборки, а неизвестные параметры заменяются на их оценки. В результате ПВ $f(\left\{{\theta _{j}}\right\})$ оценок вектора параметров строится последовательно по зависимостям:

для непрерывной СВ

$g(\left\{{\theta _{j}}\right\})=\prod _{i=1}^{n}f(x_{i}/\left\{{\theta _{j}}\right\})$; (3)

для дискретной СВ

$g(\left\{{\theta _{j}}\right\})=\prod _{i=1}^{n}P(x_{i}v/\left\{{\theta _{j}}\right\})$; (4)

$k=\iiint \limits _{\Omega g}(\left\{{\theta _{j}}\right\})\,d\theta _{1}\,d\theta _{2}...\,d\theta _{j}$; (5)

$f(\left\{{\theta _{j}}\right\})=k^{-1}g(\left\{{\theta _{j}}\right\})$; (6)

где $k$ — нормирующий сомножитель; $\Omega _{g}$ — множество возможных значений оценок параметров $\left\{{\theta _{j}}\right\}$.

На основе ПВ (6) оценок вектора параметров можно построить автономные ПВ оценок каждого параметра как компонентов случайного вектора:

$f(\theta _{j})=\iiint \limits _{\Omega j}f(\left\{{\theta _{j}}\right\})\,d\theta _{1}\,d\theta _{2}...\,d\theta _{j-1},j=1,...,J$ , (7)

где интегрирование проводится по множеству параметров, за исключением рассматриваемого j-го параметра.

Заметим, что функции (1) и (2) совпадают с функцией правдоподобия (ФП), которая является основой ММП. Это означает, что ПВ оценок неизвестных параметров пропорциональна ФП, то есть ПВ оценок можно построить по ФП.

На основе построенных ПВ оценок (7) вычисляются несмещенные точечные оценки параметров и их дисперсии по зависимостям

${\bar {\Theta _{j}}}=\int \limits _{\Omega j}\theta _{j}f(\theta _{j})\,d\theta _{j},j=1,...,J$, (8)

$\sigma _{\bar {\Theta _{j}}}^{2}=\int \limits _{\Omega j}(\theta _{j}-{\bar {\Theta _{j}}})^{2}f(\theta _{j})\,d\theta _{j},j=1,...,J$. (9)

Интервальные оценки параметров при заданной доверительной вероятности γ определяются численным способом на основе ПВ (7) по зависимостям

$\gamma _{\mathrm {H} }=\int \limits _{\Theta _{j\mathrm {H} }}^{\infty }f(\theta _{j})\,d\theta _{j}$ , $\gamma _{\mathrm {B} }=\int \limits _{-\infty }^{\Theta _{j\mathrm {B} }}f(\theta _{j})\,d\theta _{j},j=1,...,J$ . (10)

где $\gamma _{\mathrm {H} }$, $\gamma _{\mathrm {B} }$ — вероятности, выбираемые из условия минимизации доверительного интервала $[\Theta _{j\mathrm {B} };\Theta _{j\mathrm {B} }]$ с учетом равенства $\gamma _{\mathrm {H} }+\gamma _{\mathrm {B} }=(1+\gamma )$ . На основе МНО получаются новые более точные результаты при оценивании неизвестных параметров, особенно по малой выборке, по сравнению с классическими статистическими методами без использования многочисленных таблиц по теории вероятностей и математической статистики.

Пояснения с примерами

В отличие от ММП метод несмещенных оценок позволяет по выборке СВ сначала построить ПВ возможных оценок неизвестных параметров распределения СВ, которая является исчерпывающей характеристикой оценок как случайных величин и векторов. Доказано, что такая ПВ пропорциональна ФП, то есть ПВ оценок можно построить на основе ФП, если ее умножить на нормирующий сомножитель. Следовательно, по ММП получаются точечные оценки, соответствующие максимуму ПВ, то есть модульные оценки, которые могут не совпадать с несмещенными оценками. В отличие от этого по МНО на основе построенной ПВ оценок неизвестных параметров определяются несмещенные и эффективные как точечные, так и интервальные оценки параметров распределения СВ, в том числе по малым выборкам.

См. также

• Метод наименьших квадратов
• Метод максимального правдоподобия
• Метод моментов
• Статистические методы

Литература

• Сухорученков Б. И. Анализ малой выборки. Прикладные статистические методы. М. «Вузовская книга», 2010. ISBN 978-5-9502-0426-5]
• Лукин В. Л., Сухорученков Б. И. Способ оценки точности летательных аппаратов по данным наблюдений, искаженным погрешностями измерений. СИП РИА, Двойные технологии, № 1 (54), стр. 2-7. 2011.
• Лукин В. Л., Сухорученков Б. И., Швед Е. В. Способы контроля показателей безотказности сложных технических систем по экспериментальным данным. СИП РИА, Двойные технологии, № 3 (56), стр. 2-11. 2011.
• Лукин В. Л., Сухорученков Б. И. Способ статистического контроля динамики безотказности технических систем в процессе жизненного цикла. СИП РИА. Двойные технологии, № 1 (58), стр. 26-34. 2012.
• Лукин В. Л., Сухорученков Б. И. Исследования распределения вероятности безотказной работы образцов сложных технических систем. СИП РИА. Двойные технологии № 2 (59), стр. 62-68. 2012.
• Сухорученков Б. И. Способ статистического контроля вероятности безотказной работы технических систем в течение периода целевого использования. СИП РИА. Двойные технологии № 3 (60), стр. 65-69. 2012.
• Сухорученков Б. И. Способ статистического контроля среднего времени безотказной работы технических систем. СИП РИА. Двойные технологии, № 4 (61), стр. 17-22. 2012.
• Сухорученков Б. И. Способ повышения точности оценивания нормального распределения характеристик технических систем по ограниченной выборке. СИП РИА. Двойные технологии № 1 (62), стр. 37-42. 2013.
• Сухорученков Б. И., Окороков М. В. Способ планирования объемов испытаний на безотказность военно-технических систем одноразового применения. СИП РИА. Двойные технологии, № 2 (63), стр. 2-10. 2013.