Математическая энциклопедия - информант

градиент логарифмической функции правдоподобия. Понятие И. возникает в так наз. параметрич. задачах математич. статистики. Имеется априорная информация, что наблюдаемое случайное явление описывается распределением вероятностей P^q(dw). из семейства где tчисловой или векторный параметр, однако истинное значение 8 неизвестно. Проведенное наблюдение (серия независимых наблюдений) явления привело к исходу w(серии w⁽¹⁾, . . ., w^(N))). По исходам наблюдения требуется оценить Э. Пусть семейство {P^t} задается семейством плотностей р(w; t)относительно меры m(dw) на пространстве W всех исходов явления. Когда Q дискретно, за p(w, t)можно принять сами вероятности Р ^t(w) исходов. При фиксированном со величина р(со; t)как функция параметра t=(t1, ..., tm )наз. функцией правдоподобия, а ее натуральный логарифм логарифмической функцией правдоподобия.

Для гладких семейств удобно вводить И. как вектор

к-рый, в отличие от логарифмической функции правдоподобия, не зависит от выбора меры m. И. содержит всю существенную для задачи оценки 6 информацию, как получаемую из наблюдений, так и известную заранее. Кроме того, он аддитивен: при независимых наблюдениях, т. е. когда

И. суммируется:

В теории статистич. оценивания существенны свойства И. как случайной вектор-функции. В предположении, что логарифмич. функция правдоподобия регулярна, в частности дважды дифференцируема, ее производные интегрируемы и что дифференцирование по параметру перестановочно с интегрированием по исходам, справедливы тождества:

Ковариационная матрица наз. информа ционной матрицей. Через эту матрицу выписывается неравенство информации, дающее границу точности статистич. оценок параметра 0.

При оценке 0 методом максимума правдоподобия наблюденному исходу w (или серии w⁽¹⁾, ..., w^(N)) сопоставляется наиболее правдоподобное, т. е. максимизирующее функцию правдоподобия и логарифмич. функцию правдоподобия, значение t=q*(w). В точке экстремума И. должен обращаться в нуль. Однако возникающее уравнение правдоподобия

может иметь лишние корни сверх t=q*, к-рые отвечают локальным максимумам (или минимумам) логарифмич. функции правдоподобия и к-рые следует отбрасывать. Если в нек-рой окрестности значения t-0

то из приведенных свойств И. следует асимптотич. оптимальность оценки максимума правдоподобия при возрастании числа Nиспользуемых независимых наблюдений.

Лит.:[1] Уилкс С, Математическая статистика, пер. с англ., М., 1967.

Н. Н. Чепцов.

Математическая энциклопедия. — М.: Советская энциклопедия

И. М. Виноградов

1977—1985