Telegram: @ninachely


LM/LR/W (Теория)

График функции $\ell(\theta)$ при одном параметре

График функции $\ell(\theta)$ при одном параметре

В многомерном случае можем поделить вектор параметров $\theta$ на два блока: это дает нам возможность проверять гипотезу не на всех параметрах сразу

$\theta = \begin{pmatrix} \theta_A \\ \theta_B \end{pmatrix}$

$H_0 : \theta^{*}{A} = \theta^{0}{A}$

$H_1 : \theta^{*}{A} \neq \theta^{0}{A}$

$\theta^{*}_{A}$ — настоящее значение параметра

$\theta^{0}_{A}$ — предполагаемое значение параметра

$p_A$ — число параметров в блоке $A$

$p_B$ — число параметров в блоке $B$

Статистика Вальда (W)

$\underset{\theta}{\max} \,\ell(\theta) \Rightarrow$ получаем $\hat{\theta} = \begin{pmatrix} \hat{\theta}_A \\ \hat{\theta}_B \end{pmatrix}$

$$ W = \left[\hat{\theta}A - \theta^{0}{A}\right]^{T} \cdot \left[\hat{\text{Var}}(\hat{\theta}_A)\right]^{-1} \cdot \left[\hat{\theta}A - \theta{A}^{0}\right] $$

Что такое $\hat{\text{Var}}(\hat{\theta}_A)$?

$$ I_F^{obs}(\hat{\theta}) = - \frac{\partial^2 \ell}{\partial \theta \partial \theta^{T}}\bigg|_{\hat{\theta}}\\ \left(I_F^{obs}(\hat{\theta})\right)^{-1} = \hat{\text{Var}}(\hat{\theta}) $$

Вот эта “здоровенная матрица” — это наблюдаемая информация Фишера $I_F^{obs}$

Вот эта “здоровенная матрица” — это наблюдаемая информация Фишера $I_F^{obs}$

Нам нужен только первый блок матрицы $\hat{\text{Var}}(\hat{\theta})$ — в тесте Вальда он обращается

Нам нужен только первый блок матрицы $\hat{\text{Var}}(\hat{\theta})$ — в тесте Вальда он обращается

Что мы посчитали?

  1. $I_F^{obs}(\hat{\theta})$
  2. $\left(I_F^{obs}(\hat{\theta})\right)^{-1}$
  3. вырезали верхний блок
  4. обратили верхний блок

$\Rightarrow$ двойное обращение🤯

Если у нас всего один параметр или мы проверяем гипотезу обо всех параметрах сразу (то есть, $\theta_B$ нет), то вырезаемый блок совпадает со всей матрицей $\Rightarrow$ можем избежать двойного обращения. Тогда формула будет выглядеть вот так: