Математическая энциклопедия - информационная матрица

информация по Фишер у,матрица ковариаций информанта. Для доминированного семейства распределений вероятностей P^t(dw)с плотностями р(w; t), достаточно гладко зависящими от векторного (в частности, числового) параметра элементы И. м. при t= q определяются как

где j, k=1, . .., т. При скалярном параметре tИ. м. описывается единственным числом дисперсией информанта.

И. м. I(q)определяет неотрицательную дифференциальную квадратичную форму

снабжающую семейство {Р ^t} римановой метрикой. Когда пространство Wисходов со конечно,

Дифференциальная квадратичная форма Фишера (2) является единственной (с точностью до постоянного множителя) дифференциальной квадратичной формой, инвариантной относительно категории статистических решающих правил. Ввиду этого она возникает в формулировке многих статистич. закономерностей.

Любое измеримое отображение f пространства Wисходов порождает новое гладкое семейство распределений Q^t=P^tf^-1 с И. м. I^Q(q). При этом И; м. монотонно не возрастает:

каковы бы ни были zl, ..., zm. И. м. обладает также свойством аддитивности. Если I⁽ⁱ⁾(q) (9) И. м. для семейства с плотностью Р i((wⁱ; t), то для семейства

будет В частности, IN(q)=NI(q). при Nнезависимых одинаково распределенных испытаниях. И. м. позволяет охарактеризовать статистич. точность решающих правил в задаче оценки параметра закона распределения. Для дисперсии любой несмещенной оценки t(w)=т(w⁽¹⁾, ..., w^(N)) скалярного параметра tсправедливо

Аналогичное матричное неравенство информации выполняется для оценок векторного параметра. Его скалярное следствие

показывает, что несмещенное оценивание нигде не может быть слишком точным. Для произвольных оценок последнее неверно. Однако остаются ограничения, напр., на среднюю точность

где усреднение левой части (3) проведено по инвариантному объему Vлюбой компактной подобласти

остаточный член зависит от размеров Q'. Неравенства (4) асимптотически точны, и асимптотически оптимальной в этом смысле оказывается оценка максимума правдоподобия.

В точках вырождения, det I(q)=0, совместная оценка параметров затруднена; если det I(q) = 0 в нек-рой области, то совместная оценка вообще невозможна. Таким образом, следуя Р. Фишеру [1], с известной осторожностью можно сказать, что И. м. описывает среднее количество информации о параметрах закона раейределения, содержащееся в случайной выборке.

Лит.:[1] Fisher R. А., "Ргос. Cambr. Phil. Soc", 1925, v. 22, p. 700-25; [2] Барра Ж.-Р., Основные понятия математической статистики, пер. с франц., М., 1974; [3] Ченцов Н. Н., Статистические решающие правила и оптимальные выводы, М., 1972.

Н. Н. Чепцов.

Математическая энциклопедия. — М.: Советская энциклопедия

И. М. Виноградов

1977—1985