Text version Решение трёх вариантов по дисциплине «Статистический анализ данных»
Решены варианты 1, 2 и 4 , все четыре задания в каждом варианте. Приведены формулы, вычисления, доказательства и окончательные ответы.
Принятые обозначения:
Выборочная дисперсия: D = 1 n ∑ i = 1 n ( x i − x ˉ ) 2 \displaystyle D=\frac1n\sum_{i=1}^{n}(x_i-\bar x)^2 D = n 1 i = 1 ∑ n ( x i − x ˉ ) 2 .
Исправленная выборочная дисперсия: S 2 = n n − 1 D \displaystyle S^2=\frac{n}{n-1}D S 2 = n − 1 n D .
Квартили Q 1 , Q 3 Q_1,Q_3 Q 1 , Q 3 вычисляются как медианы нижней и верхней половин упорядоченной выборки.
Φ ( x ) \Phi(x) Φ ( x ) — функция распределения стандартного нормального закона.
Вариант 1
Задание 1. Выборочные характеристики и «ящик с усами»
Дано:
Значение x i x_i x i 3 4 5 6 9 11 Частота n i n_i n i 4 3 2 1 1 1
Объём выборки:
n = 4 + 3 + 2 + 1 + 1 + 1 = 12. n=4+3+2+1+1+1=12. n = 4 + 3 + 2 + 1 + 1 + 1 = 12.
1. Выборочное среднее
Используем формулу:
x ˉ = 1 n ∑ i x i n i . \bar x=\frac{1}{n}\sum_i x_i n_i. x ˉ = n 1 i ∑ x i n i .
Подставляем:
x ˉ = 3 ⋅ 4 + 4 ⋅ 3 + 5 ⋅ 2 + 6 + 9 + 11 12 \bar x=\frac{3\cdot4+4\cdot3+5\cdot2+6+9+11}{12} x ˉ = 12 3 ⋅ 4 + 4 ⋅ 3 + 5 ⋅ 2 + 6 + 9 + 11
= 12 + 12 + 10 + 6 + 9 + 11 12 = 60 12 . =\frac{12+12+10+6+9+11}{12}=\frac{60}{12}. = 12 12 + 12 + 10 + 6 + 9 + 11 = 12 60 .
x ˉ = 5 \boxed{\bar x=5} x ˉ = 5
2. Выборочная дисперсия
Используем формулу:
D = 1 n ∑ i x i 2 n i − x ˉ 2 . D=\frac{1}{n}\sum_i x_i^2n_i-\bar x^2. D = n 1 i ∑ x i 2 n i − x ˉ 2 .
Вычислим сумму квадратов:
∑ i x i 2 n i = 3 2 ⋅ 4 + 4 2 ⋅ 3 + 5 2 ⋅ 2 + 6 2 + 9 2 + 1 1 2 = 36 + 48 + 50 + 36 + 81 + 121 = 372. \begin{aligned}
\sum_i x_i^2n_i
&=3^2\cdot4+4^2\cdot3+5^2\cdot2\\
&\quad+6^2+9^2+11^2\\
&=36+48+50+36+81+121\\
&=372.
\end{aligned} i ∑ x i 2 n i = 3 2 ⋅ 4 + 4 2 ⋅ 3 + 5 2 ⋅ 2 + 6 2 + 9 2 + 1 1 2 = 36 + 48 + 50 + 36 + 81 + 121 = 372.
Тогда:
D = 372 12 − 5 2 = 31 − 25. D=\frac{372}{12}-5^2=31-25. D = 12 372 − 5 2 = 31 − 25.
D = 6 \boxed{D=6} D = 6
Если требуется исправленная дисперсия:
S 2 = 12 11 ⋅ 6 = 72 11 ≈ 6 , 545 . S^2=\frac{12}{11}\cdot6
=\boxed{\frac{72}{11}\approx6{,}545}. S 2 = 11 12 ⋅ 6 = 11 72 ≈ 6 , 545 .
3. Медиана
Упорядоченная выборка:
3 , 3 , 3 , 3 , 4 , 4 , 4 , 5 , 5 , 6 , 9 , 11. 3,3,3,3,4,4,4,5,5,6,9,11. 3 , 3 , 3 , 3 , 4 , 4 , 4 , 5 , 5 , 6 , 9 , 11.
Так как n = 12 n=12 n = 12 — чётное число, медиана равна среднему шестого и седьмого элементов:
m = x ( 6 ) + x ( 7 ) 2 = 4 + 4 2 . m=\frac{x_{(6)}+x_{(7)}}2
=\frac{4+4}{2}. m = 2 x ( 6 ) + x ( 7 ) = 2 4 + 4 .
m = 4 \boxed{m=4} m = 4
4. Мода
Наиболее часто встречается значение 3 — четыре раза.
M o = 3 \boxed{Mo=3} M o = 3
5. Построение «ящика с усами»
Первый квартиль — медиана первых шести наблюдений:
Q 1 = 3 + 3 2 = 3. Q_1=\frac{3+3}{2}=3. Q 1 = 2 3 + 3 = 3.
Третий квартиль — медиана последних шести наблюдений:
Q 3 = 5 + 6 2 = 5 , 5. Q_3=\frac{5+6}{2}=5{,}5. Q 3 = 2 5 + 6 = 5 , 5.
Межквартильный размах:
I Q R = Q 3 − Q 1 = 5 , 5 − 3 = 2 , 5. IQR=Q_3-Q_1=5{,}5-3=2{,}5. I QR = Q 3 − Q 1 = 5 , 5 − 3 = 2 , 5.
По условию:
D гр = 1 , 5 ( Q 3 − Q 1 ) = 1 , 5 ⋅ 2 , 5 = 3 , 75. D_{\text{гр}}=1{,}5(Q_3-Q_1)
=1{,}5\cdot2{,}5=3{,}75. D гр = 1 , 5 ( Q 3 − Q 1 ) = 1 , 5 ⋅ 2 , 5 = 3 , 75.
Границы допустимых значений:
L = Q 1 − D гр = 3 − 3 , 75 = − 0 , 75 , L=Q_1-D_{\text{гр}}=3-3{,}75=-0{,}75, L = Q 1 − D гр = 3 − 3 , 75 = − 0 , 75 ,
U = Q 3 + D гр = 5 , 5 + 3 , 75 = 9 , 25. U=Q_3+D_{\text{гр}}=5{,}5+3{,}75=9{,}25. U = Q 3 + D гр = 5 , 5 + 3 , 75 = 9 , 25.
Значение 11 превышает верхнюю границу, поэтому является выбросом. Значение 9 — не выброс.
Диаграмма «ящик с усами»
Итог задания 1:
x ˉ = 5 , D = 6 , m = 4 , M o = 3 \boxed{\bar x=5,\quad D=6,\quad m=4,\quad Mo=3} x ˉ = 5 , D = 6 , m = 4 , M o = 3
Q 1 = 3 , Q 3 = 5 , 5 , выброс = 11 \boxed{Q_1=3,\quad Q_3=5{,}5,\quad \text{выброс}=11} Q 1 = 3 , Q 3 = 5 , 5 , выброс = 11
Задание 2. Вероятность для двумерного нормального распределения
Дано:
X = ( x 1 , x 2 ) , μ = ( 1 2 ) , Σ = ( 7 2 2 7 ) . X=(x_1,x_2),\qquad
\mu=\begin{pmatrix}1\\2\end{pmatrix},
\quad
\Sigma=\begin{pmatrix}7&2\\2&7\end{pmatrix}. X = ( x 1 , x 2 ) , μ = ( 1 2 ) , Σ = ( 7 2 2 7 ) .
Найти:
P ( x 1 − x 2 > − 1 ) . P(x_1-x_2>-1). P ( x 1 − x 2 > − 1 ) .
Решение
Введём новую случайную величину:
Y = x 1 − x 2 . Y=x_1-x_2. Y = x 1 − x 2 .
Линейная комбинация нормально распределённых случайных величин, имеющих совместное нормальное распределение, также имеет нормальное распределение.
Математическое ожидание:
E ( Y ) = E ( x 1 ) − E ( x 2 ) = 1 − 2 = − 1. E(Y)=E(x_1)-E(x_2)=1-2=-1. E ( Y ) = E ( x 1 ) − E ( x 2 ) = 1 − 2 = − 1.
Дисперсия:
D ( Y ) = D ( x 1 ) + D ( x 2 ) − 2 Cov ( x 1 , x 2 ) . D(Y)=D(x_1)+D(x_2)-2\operatorname{Cov}(x_1,x_2). D ( Y ) = D ( x 1 ) + D ( x 2 ) − 2 Cov ( x 1 , x 2 ) .
Из ковариационной матрицы:
D ( Y ) = 7 + 7 − 2 ⋅ 2 = 10. D(Y)=7+7-2\cdot2=10. D ( Y ) = 7 + 7 − 2 ⋅ 2 = 10.
Следовательно,
Y ∼ N ( − 1 , 10 ) . Y\sim N(-1,10). Y ∼ N ( − 1 , 10 ) .
Стандартизируем:
Z = Y + 1 10 ∼ N ( 0 , 1 ) . Z=\frac{Y+1}{\sqrt{10}}\sim N(0,1). Z = 10 Y + 1 ∼ N ( 0 , 1 ) .
Искомая вероятность:
P ( Y > − 1 ) = P ( Y + 1 10 > 0 ) = P ( Z > 0 ) = 1 − Φ ( 0 ) . \begin{aligned}
P(Y>-1)
&=P\left(\frac{Y+1}{\sqrt{10}}>0\right)\\
&=P(Z>0)\\
&=1-\Phi(0).
\end{aligned} P ( Y > − 1 ) = P ( 10 Y + 1 > 0 ) = P ( Z > 0 ) = 1 − Φ ( 0 ) .
Поскольку Φ ( 0 ) = 0 , 5 \Phi(0)=0{,}5 Φ ( 0 ) = 0 , 5 , получаем:
P ( x 1 − x 2 > − 1 ) = 0 , 5 \boxed{P(x_1-x_2>-1)=0{,}5} P ( x 1 − x 2 > − 1 ) = 0 , 5
Задание 3. Оценка максимального правдоподобия для биномиального распределения
Дано:
X = ( x 1 , … , x T ) , x i ∼ B i ( 3 , p ) , X=(x_1,\ldots,x_T),\qquad x_i\sim Bi(3,p), X = ( x 1 , … , x T ) , x i ∼ B i ( 3 , p ) ,
где n = 3 n=3 n = 3 известно, p p p неизвестно. Наблюдения независимы.
Найти ОМП параметра p p p .
1. Запишем функцию вероятности
Для биномиального распределения:
P ( X i = x i ) = C 3 x i p x i ( 1 − p ) 3 − x i . P(X_i=x_i)=C_3^{x_i}p^{x_i}(1-p)^{3-x_i}. P ( X i = x i ) = C 3 x i p x i ( 1 − p ) 3 − x i .
2. Составим функцию правдоподобия
L ( p ) = ∏ i = 1 T C 3 x i p x i ( 1 − p ) 3 − x i . L(p)=\prod_{i=1}^{T}C_3^{x_i}p^{x_i}(1-p)^{3-x_i}. L ( p ) = i = 1 ∏ T C 3 x i p x i ( 1 − p ) 3 − x i .
Объединим степени:
L ( p ) = ( ∏ i = 1 T C 3 x i ) p ∑ x i ( 1 − p ) 3 T − ∑ x i . L(p)=\left(\prod_{i=1}^{T}C_3^{x_i}\right)
p^{\sum x_i}(1-p)^{3T-\sum x_i}. L ( p ) = ( i = 1 ∏ T C 3 x i ) p ∑ x i ( 1 − p ) 3 T − ∑ x i .
3. Прологарифмируем
ℓ ( p ) = ln L ( p ) = ∑ i = 1 T ln C 3 x i + ( ∑ i = 1 T x i ) ln p + ( 3 T − ∑ i = 1 T x i ) ln ( 1 − p ) . \begin{aligned}
\ell(p)&=\ln L(p)\\
&=\sum_{i=1}^{T}\ln C_3^{x_i}
+\left(\sum_{i=1}^{T}x_i\right)\ln p\\
&\quad+\left(3T-\sum_{i=1}^{T}x_i\right)\ln(1-p).
\end{aligned} ℓ ( p ) = ln L ( p ) = i = 1 ∑ T ln C 3 x i + ( i = 1 ∑ T x i ) ln p + ( 3 T − i = 1 ∑ T x i ) ln ( 1 − p ) .
4. Найдём производную и приравняем к нулю
ℓ ′ ( p ) = ∑ x i p − 3 T − ∑ x i 1 − p = 0. \ell'(p)=
\frac{\sum x_i}{p}
-\frac{3T-\sum x_i}{1-p}=0. ℓ ′ ( p ) = p ∑ x i − 1 − p 3 T − ∑ x i = 0.
Умножим на p ( 1 − p ) p(1-p) p ( 1 − p ) :
( 1 − p ) ∑ x i − p ( 3 T − ∑ x i ) = 0. (1-p)\sum x_i-p(3T-\sum x_i)=0. ( 1 − p ) ∑ x i − p ( 3 T − ∑ x i ) = 0.
Раскрываем скобки:
∑ x i − p ∑ x i − 3 T p + p ∑ x i = 0. \sum x_i-p\sum x_i-3Tp+p\sum x_i=0. ∑ x i − p ∑ x i − 3 Tp + p ∑ x i = 0.
∑ x i − 3 T p = 0. \sum x_i-3Tp=0. ∑ x i − 3 Tp = 0.
Получаем:
p = ∑ i = 1 T x i 3 T . p=\frac{\sum_{i=1}^{T}x_i}{3T}. p = 3 T ∑ i = 1 T x i .
Вторая производная логарифма правдоподобия отрицательна во внутренней области 0 < p < 1 0\lt p\lt1 0 < p < 1 , поэтому стационарная точка является максимумом. На граничных выборках максимум достигается при p = 0 p=0 p = 0 или p = 1 p=1 p = 1 , что также соответствует формуле.
Ответ:
p ^ ОМП = 1 3 T ∑ i = 1 T x i = x ˉ 3 \boxed{\widehat p_{\text{ОМП}}=\frac{1}{3T}\sum_{i=1}^{T}x_i=\frac{\bar x}{3}} p ОМП = 3 T 1 i = 1 ∑ T x i = 3 x ˉ
Задание 4. Доказательство независимости компонент двумерного нормального вектора
Дано: вектор X = ( x 1 , x 2 ) X=(x_1,x_2) X = ( x 1 , x 2 ) имеет двумерное нормальное распределение, причём x 1 , x 2 x_1,x_2 x 1 , x 2 некоррелированы.
Доказать: x 1 x_1 x 1 и x 2 x_2 x 2 независимы.
Доказательство
Из некоррелированности следует:
Cov ( x 1 , x 2 ) = 0. \operatorname{Cov}(x_1,x_2)=0. Cov ( x 1 , x 2 ) = 0.
Следовательно, ковариационная матрица имеет диагональный вид:
Σ = ( σ 1 2 0 0 σ 2 2 ) . \Sigma=
\begin{pmatrix}
\sigma_1^2&0\\
0&\sigma_2^2
\end{pmatrix}. Σ = ( σ 1 2 0 0 σ 2 2 ) .
Характеристическая функция двумерного нормального вектора:
φ X ( t 1 , t 2 ) = exp ( i ( t 1 μ 1 + t 2 μ 2 ) − 1 2 ( t 1 t 2 ) Σ ( t 1 t 2 ) ) . \varphi_X(t_1,t_2)
=\exp\left(
i(t_1\mu_1+t_2\mu_2)
-\frac12\begin{pmatrix}t_1&t_2\end{pmatrix}
\Sigma
\begin{pmatrix}t_1\\t_2\end{pmatrix}
\right). φ X ( t 1 , t 2 ) = exp ( i ( t 1 μ 1 + t 2 μ 2 ) − 2 1 ( t 1 t 2 ) Σ ( t 1 t 2 ) ) .
С учётом диагональности матрицы:
φ X ( t 1 , t 2 ) = exp ( i μ 1 t 1 + i μ 2 t 2 − σ 1 2 t 1 2 2 − σ 2 2 t 2 2 2 ) . \varphi_X(t_1,t_2)
=\exp\left(
i\mu_1t_1+i\mu_2t_2
-\frac{\sigma_1^2t_1^2}{2}
-\frac{\sigma_2^2t_2^2}{2}
\right). φ X ( t 1 , t 2 ) = exp ( i μ 1 t 1 + i μ 2 t 2 − 2 σ 1 2 t 1 2 − 2 σ 2 2 t 2 2 ) .
Разделим экспоненту на произведение:
φ X ( t 1 , t 2 ) = exp ( i μ 1 t 1 − σ 1 2 t 1 2 2 ) ⋅ exp ( i μ 2 t 2 − σ 2 2 t 2 2 2 ) . \begin{aligned}
\varphi_X(t_1,t_2)
&=\exp\left(i\mu_1t_1-\frac{\sigma_1^2t_1^2}{2}\right)\\
&\quad\cdot
\exp\left(i\mu_2t_2-\frac{\sigma_2^2t_2^2}{2}\right).
\end{aligned} φ X ( t 1 , t 2 ) = exp ( i μ 1 t 1 − 2 σ 1 2 t 1 2 ) ⋅ exp ( i μ 2 t 2 − 2 σ 2 2 t 2 2 ) .
То есть:
φ X ( t 1 , t 2 ) = φ x 1 ( t 1 ) φ x 2 ( t 2 ) . \varphi_X(t_1,t_2)=\varphi_{x_1}(t_1)\varphi_{x_2}(t_2). φ X ( t 1 , t 2 ) = φ x 1 ( t 1 ) φ x 2 ( t 2 ) .
По критерию независимости через характеристические функции, компоненты независимы.
x 1 и x 2 независимы \boxed{x_1\ \text{и}\ x_2\ \text{независимы}} x 1 и x 2 независимы
Что и требовалось доказать.
Вариант 2
Задание 1. Выборочные характеристики и «ящик с усами»
Дано:
Значение x i x_i x i 1 4 7 10 13 Частота n i n_i n i 1 2 6 2 1
Объём выборки:
n = 1 + 2 + 6 + 2 + 1 = 12. n=1+2+6+2+1=12. n = 1 + 2 + 6 + 2 + 1 = 12.
1. Выборочное среднее
x ˉ = 1 ⋅ 1 + 4 ⋅ 2 + 7 ⋅ 6 + 10 ⋅ 2 + 13 ⋅ 1 12 . \bar x=\frac{1\cdot1+4\cdot2+7\cdot6+10\cdot2+13\cdot1}{12}. x ˉ = 12 1 ⋅ 1 + 4 ⋅ 2 + 7 ⋅ 6 + 10 ⋅ 2 + 13 ⋅ 1 .
x ˉ = 1 + 8 + 42 + 20 + 13 12 = 84 12 . \bar x=\frac{1+8+42+20+13}{12}=\frac{84}{12}. x ˉ = 12 1 + 8 + 42 + 20 + 13 = 12 84 .
x ˉ = 7 \boxed{\bar x=7} x ˉ = 7
2. Выборочная дисперсия
Используем формулу:
D = 1 n ∑ i x i 2 n i − x ˉ 2 . D=\frac1n\sum_i x_i^2n_i-\bar x^2. D = n 1 i ∑ x i 2 n i − x ˉ 2 .
Сумма квадратов:
∑ i x i 2 n i = 1 2 ⋅ 1 + 4 2 ⋅ 2 + 7 2 ⋅ 6 + 1 0 2 ⋅ 2 + 1 3 2 ⋅ 1 = 1 + 32 + 294 + 200 + 169 = 696. \begin{aligned}
\sum_i x_i^2n_i
&=1^2\cdot1+4^2\cdot2+7^2\cdot6\\
&\quad+10^2\cdot2+13^2\cdot1\\
&=1+32+294+200+169\\
&=696.
\end{aligned} i ∑ x i 2 n i = 1 2 ⋅ 1 + 4 2 ⋅ 2 + 7 2 ⋅ 6 + 1 0 2 ⋅ 2 + 1 3 2 ⋅ 1 = 1 + 32 + 294 + 200 + 169 = 696.
Тогда:
D = 696 12 − 7 2 = 58 − 49. D=\frac{696}{12}-7^2=58-49. D = 12 696 − 7 2 = 58 − 49.
D = 9 \boxed{D=9} D = 9
Исправленная дисперсия:
S 2 = 12 11 ⋅ 9 = 108 11 ≈ 9 , 818 . S^2=\frac{12}{11}\cdot9
=\boxed{\frac{108}{11}\approx9{,}818}. S 2 = 11 12 ⋅ 9 = 11 108 ≈ 9 , 818 .
3. Медиана
Упорядоченная выборка:
1 , 4 , 4 , 7 , 7 , 7 , 7 , 7 , 7 , 10 , 10 , 13. 1,4,4,7,7,7,7,7,7,10,10,13. 1 , 4 , 4 , 7 , 7 , 7 , 7 , 7 , 7 , 10 , 10 , 13.
Шестое и седьмое значения равны 7:
m = x ( 6 ) + x ( 7 ) 2 = 7 + 7 2 . m=\frac{x_{(6)}+x_{(7)}}2
=\frac{7+7}{2}. m = 2 x ( 6 ) + x ( 7 ) = 2 7 + 7 .
m = 7 \boxed{m=7} m = 7
4. Мода
Значение 7 встречается чаще всех — шесть раз.
M o = 7 \boxed{Mo=7} M o = 7
5. Построение «ящика с усами»
Находим квартили:
Q 1 = 4 + 7 2 = 5 , 5 , Q_1=\frac{4+7}{2}=5{,}5, Q 1 = 2 4 + 7 = 5 , 5 ,
Q 3 = 7 + 10 2 = 8 , 5. Q_3=\frac{7+10}{2}=8{,}5. Q 3 = 2 7 + 10 = 8 , 5.
Межквартильный размах:
I Q R = Q 3 − Q 1 = 8 , 5 − 5 , 5 = 3. IQR=Q_3-Q_1=8{,}5-5{,}5=3. I QR = Q 3 − Q 1 = 8 , 5 − 5 , 5 = 3.
Величина из условия:
D гр = 1 , 5 ⋅ 3 = 4 , 5. D_{\text{гр}}=1{,}5\cdot3=4{,}5. D гр = 1 , 5 ⋅ 3 = 4 , 5.
Нижняя граница:
L = Q 1 − D гр = 5 , 5 − 4 , 5 = 1. L=Q_1-D_{\text{гр}}=5{,}5-4{,}5=1. L = Q 1 − D гр = 5 , 5 − 4 , 5 = 1.
Верхняя граница:
U = Q 3 + D гр = 8 , 5 + 4 , 5 = 13. U=Q_3+D_{\text{гр}}=8{,}5+4{,}5=13. U = Q 3 + D гр = 8 , 5 + 4 , 5 = 13.
Получили интервал:
[ 1 ; 13 ] . [1;13]. [ 1 ; 13 ] .
Все наблюдения принадлежат этому интервалу. Следовательно, выбросов нет .
Диаграмма «ящик с усами»
Итог задания 1:
x ˉ = 7 , D = 9 , m = 7 , M o = 7 \boxed{\bar x=7,\quad D=9,\quad m=7,\quad Mo=7} x ˉ = 7 , D = 9 , m = 7 , M o = 7
Q 1 = 5 , 5 , Q 3 = 8 , 5 , выбросов нет \boxed{Q_1=5{,}5,\quad Q_3=8{,}5,\quad \text{выбросов нет}} Q 1 = 5 , 5 , Q 3 = 8 , 5 , выбросов нет
Задание 2. Вероятность для двумерного нормального распределения
Дано:
X = ( x 1 , x 2 ) , μ = ( 1 1 ) , Σ = ( 7 2 2 7 ) . X=(x_1,x_2),\qquad
\mu=\begin{pmatrix}1\\1\end{pmatrix},
\quad
\Sigma=\begin{pmatrix}7&2\\2&7\end{pmatrix}. X = ( x 1 , x 2 ) , μ = ( 1 1 ) , Σ = ( 7 2 2 7 ) .
Найти:
P ( x 1 + x 2 > 2 + 3 2 ) . P(x_1+x_2>2+3\sqrt2). P ( x 1 + x 2 > 2 + 3 2 ) .
Ответ выразить через функцию Φ \Phi Φ .
Решение
Введём случайную величину:
Y = x 1 + x 2 . Y=x_1+x_2. Y = x 1 + x 2 .
Поскольку X X X — нормальный вектор, Y Y Y имеет нормальное распределение.
Математическое ожидание:
E ( Y ) = E ( x 1 ) + E ( x 2 ) = 1 + 1 = 2. E(Y)=E(x_1)+E(x_2)=1+1=2. E ( Y ) = E ( x 1 ) + E ( x 2 ) = 1 + 1 = 2.
Дисперсия:
D ( Y ) = D ( x 1 ) + D ( x 2 ) + 2 Cov ( x 1 , x 2 ) . D(Y)=D(x_1)+D(x_2)+2\operatorname{Cov}(x_1,x_2). D ( Y ) = D ( x 1 ) + D ( x 2 ) + 2 Cov ( x 1 , x 2 ) .
Подставим значения:
D ( Y ) = 7 + 7 + 2 ⋅ 2 = 18. D(Y)=7+7+2\cdot2=18. D ( Y ) = 7 + 7 + 2 ⋅ 2 = 18.
Следовательно:
Y ∼ N ( 2 , 18 ) . Y\sim N(2,18). Y ∼ N ( 2 , 18 ) .
Среднеквадратическое отклонение:
σ Y = 18 = 3 2 . \sigma_Y=\sqrt{18}=3\sqrt2. σ Y = 18 = 3 2 .
Стандартизируем:
Z = Y − 2 3 2 ∼ N ( 0 , 1 ) . Z=\frac{Y-2}{3\sqrt2}\sim N(0,1). Z = 3 2 Y − 2 ∼ N ( 0 , 1 ) .
Переходим к искомой вероятности:
P ( Y > 2 + 3 2 ) = P ( Y − 2 3 2 > 2 + 3 2 − 2 3 2 ) = P ( Z > 1 ) . \begin{aligned}
&P(Y>2+3\sqrt2)\\
&=P\left(\frac{Y-2}{3\sqrt2}>
\frac{2+3\sqrt2-2}{3\sqrt2}\right)\\
&=P(Z>1).
\end{aligned} P ( Y > 2 + 3 2 ) = P ( 3 2 Y − 2 > 3 2 2 + 3 2 − 2 ) = P ( Z > 1 ) .
По определению функции стандартного нормального распределения:
P ( Z > 1 ) = 1 − Φ ( 1 ) . P(Z>1)=1-\Phi(1). P ( Z > 1 ) = 1 − Φ ( 1 ) .
Так как Φ ( 1 ) ≈ 0 , 8413 \Phi(1)\approx0{,}8413 Φ ( 1 ) ≈ 0 , 8413 :
P ( Z > 1 ) ≈ 1 − 0 , 8413 = 0 , 1587. P(Z>1)\approx1-0{,}8413=0{,}1587. P ( Z > 1 ) ≈ 1 − 0 , 8413 = 0 , 1587.
Ответ:
P ( x 1 + x 2 > 2 + 3 2 ) = 1 − Φ ( 1 ) ≈ 0 , 1587 \boxed{P(x_1+x_2>2+3\sqrt2)=1-\Phi(1)\approx0{,}1587} P ( x 1 + x 2 > 2 + 3 2 ) = 1 − Φ ( 1 ) ≈ 0 , 1587
Задание 3. Оценка максимального правдоподобия для математического ожидания нормального распределения
Дано:
X = ( x 1 , … , x T ) , x i ∼ N ( μ , σ 2 ) . X=(x_1,\ldots,x_T),\qquad x_i\sim N(\mu,\sigma^2). X = ( x 1 , … , x T ) , x i ∼ N ( μ , σ 2 ) .
Дисперсия σ 2 \sigma^2 σ 2 известна, математическое ожидание μ \mu μ неизвестно. Наблюдения независимы.
Найти ОМП для μ \mu μ .
1. Плотность нормального распределения
f ( x i ; μ ) = 1 2 π σ 2 exp ( − ( x i − μ ) 2 2 σ 2 ) . f(x_i;\mu)=
\frac1{\sqrt{2\pi\sigma^2}}
\exp\left(-\frac{(x_i-\mu)^2}{2\sigma^2}\right). f ( x i ; μ ) = 2 π σ 2 1 exp ( − 2 σ 2 ( x i − μ ) 2 ) .
2. Функция правдоподобия
Для независимой выборки:
L ( μ ) = ∏ i = 1 T f ( x i ; μ ) . L(\mu)=\prod_{i=1}^{T}f(x_i;\mu). L ( μ ) = i = 1 ∏ T f ( x i ; μ ) .
Подставляем:
L ( μ ) = 1 ( 2 π σ 2 ) T / 2 exp ( − 1 2 σ 2 ∑ i = 1 T ( x i − μ ) 2 ) . L(\mu)=
\frac1{(2\pi\sigma^2)^{T/2}}
\exp\left(-\frac1{2\sigma^2}
\sum_{i=1}^{T}(x_i-\mu)^2\right). L ( μ ) = ( 2 π σ 2 ) T /2 1 exp ( − 2 σ 2 1 i = 1 ∑ T ( x i − μ ) 2 ) .
3. Логарифм функции правдоподобия
ℓ ( μ ) = − T 2 ln ( 2 π σ 2 ) − 1 2 σ 2 ∑ i = 1 T ( x i − μ ) 2 . \ell(\mu)=
-\frac T2\ln(2\pi\sigma^2)
-\frac1{2\sigma^2}\sum_{i=1}^{T}(x_i-\mu)^2. ℓ ( μ ) = − 2 T ln ( 2 π σ 2 ) − 2 σ 2 1 i = 1 ∑ T ( x i − μ ) 2 .
4. Найдём производную
ℓ ′ ( μ ) = − 1 2 σ 2 ∑ i = 1 T 2 ( x i − μ ) ( − 1 ) . \ell'(\mu)=
-\frac1{2\sigma^2}\sum_{i=1}^{T}2(x_i-\mu)(-1). ℓ ′ ( μ ) = − 2 σ 2 1 i = 1 ∑ T 2 ( x i − μ ) ( − 1 ) .
После упрощения:
ℓ ′ ( μ ) = 1 σ 2 ∑ i = 1 T ( x i − μ ) . \ell'(\mu)=\frac1{\sigma^2}
\sum_{i=1}^{T}(x_i-\mu). ℓ ′ ( μ ) = σ 2 1 i = 1 ∑ T ( x i − μ ) .
Приравняем к нулю:
1 σ 2 ∑ i = 1 T ( x i − μ ) = 0. \frac1{\sigma^2}\sum_{i=1}^{T}(x_i-\mu)=0. σ 2 1 i = 1 ∑ T ( x i − μ ) = 0.
∑ i = 1 T x i − T μ = 0. \sum_{i=1}^{T}x_i-T\mu=0. i = 1 ∑ T x i − T μ = 0.
Отсюда:
μ = 1 T ∑ i = 1 T x i . \mu=\frac1T\sum_{i=1}^{T}x_i. μ = T 1 i = 1 ∑ T x i .
5. Проверим максимум
Вторая производная:
ℓ ′ ′ ( μ ) = − T σ 2 < 0. \ell''(\mu)=-\frac{T}{\sigma^2}<0. ℓ ′′ ( μ ) = − σ 2 T < 0.
Следовательно, найденная точка действительно обеспечивает максимум правдоподобия.
Ответ:
μ ^ ОМП = x ˉ = 1 T ∑ i = 1 T x i \boxed{\widehat\mu_{\text{ОМП}}=\bar x=\frac1T\sum_{i=1}^{T}x_i} μ ОМП = x ˉ = T 1 i = 1 ∑ T x i
Задание 4. Доказательство несмещённости и состоятельности выборочного среднего
Дано:
X = ( x 1 , … , x T ) . X=(x_1,\ldots,x_T). X = ( x 1 , … , x T ) .
Пусть x 1 , … , x T x_1,\ldots,x_T x 1 , … , x T — независимые одинаково распределённые случайные величины, имеющие конечное математическое ожидание:
E ( x i ) = μ . E(x_i)=\mu. E ( x i ) = μ .
Нужно доказать, что
x ˉ = 1 T ∑ i = 1 T x i \bar x=\frac1T\sum_{i=1}^{T}x_i x ˉ = T 1 i = 1 ∑ T x i
является несмещённой и состоятельной оценкой μ \mu μ .
1. Докажем несмещённость
По определению, оценка μ ^ \widehat\mu μ называется несмещённой, если:
E ( μ ^ ) = μ . E(\widehat\mu)=\mu. E ( μ ) = μ .
Рассмотрим математическое ожидание выборочного среднего:
E ( x ˉ ) = E ( 1 T ∑ i = 1 T x i ) . E(\bar x)=E\left(\frac1T\sum_{i=1}^{T}x_i\right). E ( x ˉ ) = E ( T 1 i = 1 ∑ T x i ) .
Используем линейность математического ожидания:
E ( x ˉ ) = 1 T ∑ i = 1 T E ( x i ) . E(\bar x)=\frac1T\sum_{i=1}^{T}E(x_i). E ( x ˉ ) = T 1 i = 1 ∑ T E ( x i ) .
Поскольку E ( x i ) = μ E(x_i)=\mu E ( x i ) = μ , получаем:
E ( x ˉ ) = 1 T ⋅ T μ = μ . E(\bar x)=\frac1T\cdot T\mu=\mu. E ( x ˉ ) = T 1 ⋅ T μ = μ .
Следовательно:
E ( x ˉ ) = μ \boxed{E(\bar x)=\mu} E ( x ˉ ) = μ
Выборочное среднее — несмещённая оценка математического ожидания.
2. Докажем состоятельность
Оценка x ˉ \bar x x ˉ называется состоятельной, если при T → ∞ T\to\infty T → ∞ она сходится по вероятности к μ \mu μ :
x ˉ → P μ . \bar x\xrightarrow{P}\mu. x ˉ P μ .
Если дисперсия распределения конечна, то:
D ( x i ) = σ 2 . D(x_i)=\sigma^2. D ( x i ) = σ 2 .
В силу независимости наблюдений:
D ( x ˉ ) = D ( 1 T ∑ i = 1 T x i ) . D(\bar x)=D\left(\frac1T\sum_{i=1}^{T}x_i\right). D ( x ˉ ) = D ( T 1 i = 1 ∑ T x i ) .
D ( x ˉ ) = 1 T 2 ∑ i = 1 T D ( x i ) = T σ 2 T 2 . D(\bar x)=\frac1{T^2}\sum_{i=1}^{T}D(x_i)
=\frac{T\sigma^2}{T^2}. D ( x ˉ ) = T 2 1 i = 1 ∑ T D ( x i ) = T 2 T σ 2 .
Получаем:
D ( x ˉ ) = σ 2 T . \boxed{D(\bar x)=\frac{\sigma^2}{T}}. D ( x ˉ ) = T σ 2 .
При T → ∞ T\to\infty T → ∞ :
D ( x ˉ ) → 0. D(\bar x)\to0. D ( x ˉ ) → 0.
По неравенству Чебышёва для любого ε > 0 \varepsilon>0 ε > 0 :
P ( ∣ x ˉ − μ ∣ ≥ ε ) ≤ D ( x ˉ ) ε 2 . P(|\bar x-\mu|\geq\varepsilon)
\leq\frac{D(\bar x)}{\varepsilon^2}. P ( ∣ x ˉ − μ ∣ ≥ ε ) ≤ ε 2 D ( x ˉ ) .
Подставляем:
P ( ∣ x ˉ − μ ∣ ≥ ε ) ≤ σ 2 T ε 2 . P(|\bar x-\mu|\geq\varepsilon)
\leq\frac{\sigma^2}{T\varepsilon^2}. P ( ∣ x ˉ − μ ∣ ≥ ε ) ≤ T ε 2 σ 2 .
При T → ∞ T\to\infty T → ∞ правая часть стремится к нулю:
lim T → ∞ P ( ∣ x ˉ − μ ∣ ≥ ε ) = 0. \lim_{T\to\infty}P(|\bar x-\mu|\geq\varepsilon)=0. T → ∞ lim P ( ∣ x ˉ − μ ∣ ≥ ε ) = 0.
Следовательно:
x ˉ → P μ \boxed{\bar x\xrightarrow{P}\mu} x ˉ P μ
Выборочное среднее является состоятельной оценкой.
Замечание: конечность дисперсии нужна для приведённого доказательства через неравенство Чебышёва. В общем случае при независимых одинаково распределённых наблюдениях достаточно конечного E ∣ x i ∣ E|x_i| E ∣ x i ∣ : состоятельность следует из закона больших чисел.
Итог:
E ( x ˉ ) = μ — несмещённость , x ˉ → P μ — состоятельность . \boxed{
\begin{gathered}
E(\bar x)=\mu\quad\text{— несмещённость},\\
\bar x\xrightarrow{P}\mu\quad\text{— состоятельность}.
\end{gathered}
} E ( x ˉ ) = μ — несмещённость , x ˉ P μ — состоятельность .
Что и требовалось доказать.
Вариант 4
Задание 1. Выборочные характеристики и гистограмма
Дано: выборка состоит из первых одиннадцати простых чисел.
Запишем её:
X = ( 2 , 3 , 5 , 7 , 11 , 13 , 17 , 19 , 23 , 29 , 31 ) . X=(2,3,5,7,11,13,17,19,23,29,31). X = ( 2 , 3 , 5 , 7 , 11 , 13 , 17 , 19 , 23 , 29 , 31 ) .
Объём выборки:
n = 11. n=11. n = 11.
Найти выборочное среднее, выборочную дисперсию, медиану и построить гистограмму из трёх равных по ширине интервалов.
1. Выборочное среднее
Используем формулу:
x ˉ = 1 n ∑ i = 1 n x i . \bar x=\frac1n\sum_{i=1}^{n}x_i. x ˉ = n 1 i = 1 ∑ n x i .
Сумма элементов:
∑ i = 1 11 x i = 2 + 3 + 5 + 7 + 11 + 13 + 17 + 19 + 23 + 29 + 31 = 160. \begin{aligned}
\sum_{i=1}^{11}x_i
&=2+3+5+7+11+13\\
&\quad+17+19+23+29+31\\
&=160.
\end{aligned} i = 1 ∑ 11 x i = 2 + 3 + 5 + 7 + 11 + 13 + 17 + 19 + 23 + 29 + 31 = 160.
Тогда:
x ˉ = 160 11 . \bar x=\frac{160}{11}. x ˉ = 11 160 .
x ˉ = 160 11 ≈ 14 , 545 \boxed{\bar x=\frac{160}{11}\approx14{,}545} x ˉ = 11 160 ≈ 14 , 545
2. Выборочная дисперсия
Используем формулу:
D = 1 n ∑ i = 1 n x i 2 − x ˉ 2 . D=\frac1n\sum_{i=1}^{n}x_i^2-\bar x^2. D = n 1 i = 1 ∑ n x i 2 − x ˉ 2 .
Вычислим сумму квадратов наблюдений:
∑ i = 1 11 x i 2 = 2 2 + 3 2 + 5 2 + 7 2 + 1 1 2 + 1 3 2 + 1 7 2 + 1 9 2 + 2 3 2 + 2 9 2 + 3 1 2 = 4 + 9 + 25 + 49 + 121 + 169 + 289 + 361 + 529 + 841 + 961 = 3358. \begin{aligned}
\sum_{i=1}^{11}x_i^2
&=2^2+3^2+5^2+7^2+11^2\\
&\quad+13^2+17^2+19^2+23^2\\
&\quad+29^2+31^2\\
&=4+9+25+49+121+169\\
&\quad+289+361+529+841+961\\
&=3358.
\end{aligned} i = 1 ∑ 11 x i 2 = 2 2 + 3 2 + 5 2 + 7 2 + 1 1 2 + 1 3 2 + 1 7 2 + 1 9 2 + 2 3 2 + 2 9 2 + 3 1 2 = 4 + 9 + 25 + 49 + 121 + 169 + 289 + 361 + 529 + 841 + 961 = 3358.
Подставляем:
D = 3358 11 − ( 160 11 ) 2 . D=\frac{3358}{11}-\left(\frac{160}{11}\right)^2. D = 11 3358 − ( 11 160 ) 2 .
Приводим к общему знаменателю:
D = 3358 ⋅ 11 − 16 0 2 121 . D=\frac{3358\cdot11-160^2}{121}. D = 121 3358 ⋅ 11 − 16 0 2 .
D = 36938 − 25600 121 = 11338 121 . D=\frac{36938-25600}{121}
=\frac{11338}{121}. D = 121 36938 − 25600 = 121 11338 .
D = 11338 121 ≈ 93 , 702 \boxed{D=\frac{11338}{121}\approx93{,}702} D = 121 11338 ≈ 93 , 702
Если требуется исправленная выборочная дисперсия:
S 2 = n n − 1 D = 11 10 ⋅ 11338 121 . S^2=\frac{n}{n-1}D
=\frac{11}{10}\cdot\frac{11338}{121}. S 2 = n − 1 n D = 10 11 ⋅ 121 11338 .
S 2 = 5669 55 ≈ 103 , 073 \boxed{S^2=\frac{5669}{55}\approx103{,}073} S 2 = 55 5669 ≈ 103 , 073
3. Медиана
Выборка уже упорядочена по возрастанию.
Поскольку объём n = 11 n=11 n = 11 нечётный, медиана — элемент с номером:
k = n + 1 2 = 12 2 = 6. k=\frac{n+1}{2}=\frac{12}{2}=6. k = 2 n + 1 = 2 12 = 6.
Шестой элемент выборки равен 13.
m = 13 \boxed{m=13} m = 13
4. Построение гистограммы с тремя равными интервалами
Минимальное и максимальное значения:
x min = 2 , x max = 31. x_{\min}=2,\qquad x_{\max}=31. x m i n = 2 , x m a x = 31.
Размах выборки:
R = x max − x min = 31 − 2 = 29. R=x_{\max}-x_{\min}=31-2=29. R = x m a x − x m i n = 31 − 2 = 29.
Количество интервалов:
k = 3. k=3. k = 3.
Ширина каждого интервала:
h = R k = 29 3 ≈ 9 , 667. h=\frac{R}{k}=\frac{29}{3}\approx9{,}667. h = k R = 3 29 ≈ 9 , 667.
Получаем интервалы:
I 1 = [ 2 ; 11 , 667 ) , I_1=[2;11{,}667), I 1 = [ 2 ; 11 , 667 ) ,
I 2 = [ 11 , 667 ; 21 , 333 ) , I_2=[11{,}667;21{,}333), I 2 = [ 11 , 667 ; 21 , 333 ) ,
I 3 = [ 21 , 333 ; 31 ] . I_3=[21{,}333;31]. I 3 = [ 21 , 333 ; 31 ] .
Посчитаем количество наблюдений, попавших в каждый интервал.
Интервал Наблюдения Частота I 1 I_1 I 1 2, 3, 5, 7, 11 5 I 2 I_2 I 2 13, 17, 19 3 I 3 I_3 I 3 23, 29, 31 3 Всего 11
Гистограмма частот
Поскольку интервалы имеют одинаковую ширину, высоты столбцов можно выбирать пропорционально абсолютным частотам 5 , 3 , 3 5,3,3 5 , 3 , 3 .
Если требуется именно гистограмма плотности относительных частот , высота каждого столбца вычисляется по формуле:
f i = n i n h . f_i=\frac{n_i}{nh}. f i = nh n i .
Тогда:
f 1 = 5 11 ⋅ 29 / 3 = 15 319 ≈ 0 , 0470 , f_1=\frac5{11\cdot29/3}
=\frac{15}{319}\approx0{,}0470, f 1 = 11 ⋅ 29/3 5 = 319 15 ≈ 0 , 0470 ,
f 2 = f 3 = 3 11 ⋅ 29 / 3 = 9 319 ≈ 0 , 0282. f_2=f_3=\frac3{11\cdot29/3}
=\frac9{319}\approx0{,}0282. f 2 = f 3 = 11 ⋅ 29/3 3 = 319 9 ≈ 0 , 0282.
Форма гистограммы при этом остаётся той же, меняется только вертикальный масштаб.
Итог задания 1:
x ˉ = 160 11 ≈ 14 , 545 , D = 11338 121 ≈ 93 , 702 , m = 13 , n 1 = 5 , n 2 = 3 , n 3 = 3. \boxed{
\begin{gathered}
\bar x=\frac{160}{11}\approx14{,}545,\\
D=\frac{11338}{121}\approx93{,}702,\\
m=13,\\
n_1=5,\quad n_2=3,\quad n_3=3.
\end{gathered}
} x ˉ = 11 160 ≈ 14 , 545 , D = 121 11338 ≈ 93 , 702 , m = 13 , n 1 = 5 , n 2 = 3 , n 3 = 3.
Задание 2. Распределение линейной комбинации нормального вектора
Дано:
X = ( x 1 , x 2 ) , X=(x_1,x_2), X = ( x 1 , x 2 ) ,
μ = ( 1 1 ) , Σ = ( 5 1 1 5 ) . \mu=\begin{pmatrix}1\\1\end{pmatrix},
\qquad
\Sigma=\begin{pmatrix}5&1\\1&5\end{pmatrix}. μ = ( 1 1 ) , Σ = ( 5 1 1 5 ) .
Найти распределение случайной величины:
Y = x 1 − x 2 . Y=x_1-x_2. Y = x 1 − x 2 .
Решение
Поскольку вектор X X X имеет двумерное нормальное распределение, любая его линейная комбинация также распределена нормально.
Следовательно:
Y ∼ N ( E ( Y ) , D ( Y ) ) . Y\sim N(E(Y),D(Y)). Y ∼ N ( E ( Y ) , D ( Y )) .
1. Найдём математическое ожидание
По линейности математического ожидания:
E ( Y ) = E ( x 1 − x 2 ) = E ( x 1 ) − E ( x 2 ) . E(Y)=E(x_1-x_2)=E(x_1)-E(x_2). E ( Y ) = E ( x 1 − x 2 ) = E ( x 1 ) − E ( x 2 ) .
E ( Y ) = 1 − 1 = 0. E(Y)=1-1=0. E ( Y ) = 1 − 1 = 0.
E ( Y ) = 0 \boxed{E(Y)=0} E ( Y ) = 0
2. Найдём дисперсию
Формула дисперсии разности:
D ( Y ) = D ( x 1 ) + D ( x 2 ) − 2 Cov ( x 1 , x 2 ) . D(Y)=D(x_1)+D(x_2)-2\operatorname{Cov}(x_1,x_2). D ( Y ) = D ( x 1 ) + D ( x 2 ) − 2 Cov ( x 1 , x 2 ) .
Из ковариационной матрицы:
D ( x 1 ) = 5 , D ( x 2 ) = 5 , D(x_1)=5,\quad D(x_2)=5, D ( x 1 ) = 5 , D ( x 2 ) = 5 ,
Cov ( x 1 , x 2 ) = 1. \operatorname{Cov}(x_1,x_2)=1. Cov ( x 1 , x 2 ) = 1.
Подставим:
D ( Y ) = 5 + 5 − 2 ⋅ 1 = 8. D(Y)=5+5-2\cdot1=8. D ( Y ) = 5 + 5 − 2 ⋅ 1 = 8.
D ( Y ) = 8 \boxed{D(Y)=8} D ( Y ) = 8
3. Запишем распределение
Итак, случайная величина Y Y Y имеет нормальное распределение с математическим ожиданием 0 и дисперсией 8:
Y = x 1 − x 2 ∼ N ( 0 , 8 ) \boxed{Y=x_1-x_2\sim N(0,8)} Y = x 1 − x 2 ∼ N ( 0 , 8 )
Для полноты запишем плотность распределения.
Общая формула плотности нормального распределения:
f ( y ) = 1 2 π σ 2 exp ( − ( y − μ ) 2 2 σ 2 ) . f(y)=\frac1{\sqrt{2\pi\sigma^2}}
\exp\left(-\frac{(y-\mu)^2}{2\sigma^2}\right). f ( y ) = 2 π σ 2 1 exp ( − 2 σ 2 ( y − μ ) 2 ) .
Подставим μ = 0 \mu=0 μ = 0 , σ 2 = 8 \sigma^2=8 σ 2 = 8 :
f Y ( y ) = 1 16 π exp ( − y 2 16 ) . f_Y(y)=\frac1{\sqrt{16\pi}}
\exp\left(-\frac{y^2}{16}\right). f Y ( y ) = 16 π 1 exp ( − 16 y 2 ) .
После упрощения:
f Y ( y ) = 1 4 π exp ( − y 2 16 ) , y ∈ R \boxed{
f_Y(y)=\frac1{4\sqrt\pi}\exp\left(-\frac{y^2}{16}\right),
\quad y\in\mathbb R
} f Y ( y ) = 4 π 1 exp ( − 16 y 2 ) , y ∈ R
Функция распределения:
F Y ( y ) = Φ ( y 8 ) = Φ ( y 2 2 ) \boxed{
F_Y(y)=\Phi\left(\frac{y}{\sqrt8}\right)
=\Phi\left(\frac{y}{2\sqrt2}\right)
} F Y ( y ) = Φ ( 8 y ) = Φ ( 2 2 y )
Задание 3. Оценка максимального правдоподобия для распределения Бернулли
Дано:
X = ( x 1 , … , x T ) , X=(x_1,\ldots,x_T), X = ( x 1 , … , x T ) ,
где x i x_i x i — независимые наблюдения из распределения Бернулли с неизвестным параметром:
p = P ( x i = 1 ) . p=P(x_i=1). p = P ( x i = 1 ) .
Найти ОМП параметра p p p .
1. Функция вероятности
Для распределения Бернулли:
P ( X i = x i ) = p x i ( 1 − p ) 1 − x i , P(X_i=x_i)=p^{x_i}(1-p)^{1-x_i}, P ( X i = x i ) = p x i ( 1 − p ) 1 − x i ,
где:
x i ∈ { 0 , 1 } , 0 ≤ p ≤ 1. x_i\in\{0,1\},\qquad 0\leq p\leq1. x i ∈ { 0 , 1 } , 0 ≤ p ≤ 1.
2. Составим функцию правдоподобия
Поскольку наблюдения независимы:
L ( p ) = ∏ i = 1 T p x i ( 1 − p ) 1 − x i . L(p)=\prod_{i=1}^{T}p^{x_i}(1-p)^{1-x_i}. L ( p ) = i = 1 ∏ T p x i ( 1 − p ) 1 − x i .
Соберём степени:
L ( p ) = p ∑ i = 1 T x i ( 1 − p ) T − ∑ i = 1 T x i . L(p)=p^{\sum_{i=1}^{T}x_i}
(1-p)^{T-\sum_{i=1}^{T}x_i}. L ( p ) = p ∑ i = 1 T x i ( 1 − p ) T − ∑ i = 1 T x i .
3. Логарифмируем
ℓ ( p ) = ln L ( p ) . \ell(p)=\ln L(p). ℓ ( p ) = ln L ( p ) .
Получаем:
ℓ ( p ) = ( ∑ i = 1 T x i ) ln p + ( T − ∑ i = 1 T x i ) ln ( 1 − p ) . \ell(p)=
\left(\sum_{i=1}^{T}x_i\right)\ln p+
\left(T-\sum_{i=1}^{T}x_i\right)\ln(1-p). ℓ ( p ) = ( i = 1 ∑ T x i ) ln p + ( T − i = 1 ∑ T x i ) ln ( 1 − p ) .
4. Найдём производную
ℓ ′ ( p ) = ∑ x i p − T − ∑ x i 1 − p . \ell'(p)=
\frac{\sum x_i}{p}
-\frac{T-\sum x_i}{1-p}. ℓ ′ ( p ) = p ∑ x i − 1 − p T − ∑ x i .
Приравняем к нулю:
∑ x i p − T − ∑ x i 1 − p = 0. \frac{\sum x_i}{p}
-\frac{T-\sum x_i}{1-p}=0. p ∑ x i − 1 − p T − ∑ x i = 0.
Умножим на p ( 1 − p ) p(1-p) p ( 1 − p ) :
( 1 − p ) ∑ x i − p ( T − ∑ x i ) = 0. (1-p)\sum x_i-p(T-\sum x_i)=0. ( 1 − p ) ∑ x i − p ( T − ∑ x i ) = 0.
Раскрываем скобки:
∑ x i − p ∑ x i − p T + p ∑ x i = 0. \sum x_i-p\sum x_i-pT+p\sum x_i=0. ∑ x i − p ∑ x i − pT + p ∑ x i = 0.
Остаётся:
∑ x i − p T = 0. \sum x_i-pT=0. ∑ x i − pT = 0.
Следовательно:
p = 1 T ∑ i = 1 T x i . p=\frac1T\sum_{i=1}^{T}x_i. p = T 1 i = 1 ∑ T x i .
5. Проверим максимум
Вторая производная логарифма правдоподобия:
ℓ ′ ′ ( p ) = − ∑ x i p 2 − T − ∑ x i ( 1 − p ) 2 . \ell''(p)=
-\frac{\sum x_i}{p^2}
-\frac{T-\sum x_i}{(1-p)^2}. ℓ ′′ ( p ) = − p 2 ∑ x i − ( 1 − p ) 2 T − ∑ x i .
Для внутренней области параметра эта производная отрицательна, значит найденная точка соответствует максимуму.
Если все наблюдения равны 0, ОМП равна 0; если все наблюдения равны 1, ОМП равна 1. Общая формула остаётся справедливой.
Ответ:
p ^ ОМП = 1 T ∑ i = 1 T x i = x ˉ \boxed{
\widehat p_{\text{ОМП}}=\frac1T\sum_{i=1}^{T}x_i=\bar x
} p ОМП = T 1 i = 1 ∑ T x i = x ˉ
То есть оценка максимального правдоподобия параметра Бернулли — доля единиц в выборке .
Задание 4. Характеристическая функция стандартного N-мерного нормального вектора
Дано: случайный вектор
X = ( x 1 , x 2 , … , x N ) X=(x_1,x_2,\ldots,x_N) X = ( x 1 , x 2 , … , x N )
имеет стандартное N N N -мерное нормальное распределение:
X ∼ N N ( 0 , I N ) , X\sim N_N(0,I_N), X ∼ N N ( 0 , I N ) ,
где:
E ( X ) = ( 0 0 ⋮ 0 ) E(X)=\begin{pmatrix}0\\0\\\vdots\\0\end{pmatrix} E ( X ) = 0 0 ⋮ 0
и
I N = ( 1 0 ⋯ 0 0 1 ⋯ 0 ⋮ ⋮ ⋱ ⋮ 0 0 ⋯ 1 ) . I_N=
\begin{pmatrix}
1&0&\cdots&0\\
0&1&\cdots&0\\
\vdots&\vdots&\ddots&\vdots\\
0&0&\cdots&1
\end{pmatrix}. I N = 1 0 ⋮ 0 0 1 ⋮ 0 ⋯ ⋯ ⋱ ⋯ 0 0 ⋮ 1 .
Найти характеристическую функцию φ X ( t ) \varphi_X(t) φ X ( t ) .
1. Определение характеристической функции
Для случайного вектора X ∈ R N X\in\mathbb R^N X ∈ R N характеристическая функция определяется как:
φ X ( t ) = E [ e i t T X ] , \varphi_X(t)=E\left[e^{i\,t^TX}\right], φ X ( t ) = E [ e i t T X ] ,
где:
t = ( t 1 , … , t N ) T . t=(t_1,\ldots,t_N)^T. t = ( t 1 , … , t N ) T .
Поскольку:
t T X = t 1 x 1 + … + t N x N , t^TX=t_1x_1+\ldots+t_Nx_N, t T X = t 1 x 1 + … + t N x N ,
получаем:
φ X ( t ) = E [ e i ( t 1 x 1 + … + t N x N ) ] . \varphi_X(t)
=E\left[e^{i(t_1x_1+\ldots+t_Nx_N)}\right]. φ X ( t ) = E [ e i ( t 1 x 1 + … + t N x N ) ] .
2. Используем свойства стандартного нормального вектора
Так как ковариационная матрица равна I N I_N I N , а распределение совместно нормальное, компоненты x 1 , … , x N x_1,\ldots,x_N x 1 , … , x N независимы и имеют распределение:
x j ∼ N ( 0 , 1 ) . x_j\sim N(0,1). x j ∼ N ( 0 , 1 ) .
Следовательно, математическое ожидание произведения можно представить как произведение математических ожиданий:
φ X ( t ) = ∏ j = 1 N E [ e i t j x j ] . \varphi_X(t)=
\prod_{j=1}^{N}E[e^{it_jx_j}]. φ X ( t ) = j = 1 ∏ N E [ e i t j x j ] .
3. Найдём характеристическую функцию одной компоненты
Для стандартной нормальной случайной величины Z ∼ N ( 0 , 1 ) Z\sim N(0,1) Z ∼ N ( 0 , 1 ) известно, что:
φ Z ( t ) = E [ e i t Z ] = e − t 2 / 2 . \varphi_Z(t)=E[e^{itZ}]=e^{-t^2/2}. φ Z ( t ) = E [ e i tZ ] = e − t 2 /2 .
Следовательно, для каждой компоненты:
E [ e i t j x j ] = e − t j 2 / 2 . E[e^{it_jx_j}]=e^{-t_j^2/2}. E [ e i t j x j ] = e − t j 2 /2 .
4. Получим характеристическую функцию всего вектора
Подставим найденное выражение:
φ X ( t ) = ∏ j = 1 N e − t j 2 / 2 . \varphi_X(t)=\prod_{j=1}^{N}e^{-t_j^2/2}. φ X ( t ) = j = 1 ∏ N e − t j 2 /2 .
Используя свойство произведения экспонент:
φ X ( t ) = e − t 1 2 / 2 ⋅ e − t 2 2 / 2 ⋯ e − t N 2 / 2 . \varphi_X(t)
=e^{-t_1^2/2}\cdot e^{-t_2^2/2}\cdots e^{-t_N^2/2}. φ X ( t ) = e − t 1 2 /2 ⋅ e − t 2 2 /2 ⋯ e − t N 2 /2 .
φ X ( t ) = exp ( − 1 2 ∑ j = 1 N t j 2 ) . \varphi_X(t)=
\exp\left(-\frac12\sum_{j=1}^{N}t_j^2\right). φ X ( t ) = exp ( − 2 1 j = 1 ∑ N t j 2 ) .
Поскольку:
∑ j = 1 N t j 2 = t T t , \sum_{j=1}^{N}t_j^2=t^Tt, j = 1 ∑ N t j 2 = t T t ,
получаем окончательное выражение.
Ответ:
φ X ( t ) = exp ( − 1 2 t T t ) \boxed{
\varphi_X(t)=\exp\left(-\frac12t^Tt\right)
} φ X ( t ) = exp ( − 2 1 t T t )
Или в развёрнутом виде:
φ X ( t 1 , … , t N ) = exp ( − t 1 2 + … + t N 2 2 ) \boxed{
\varphi_X(t_1,\ldots,t_N)
=\exp\left(-\frac{t_1^2+\ldots+t_N^2}{2}\right)
} φ X ( t 1 , … , t N ) = exp ( − 2 t 1 2 + … + t N 2 )
Что и требовалось получить.
Сводная таблица ответов для проверки
Задание Вариант 1 Вариант 2 Вариант 4 1. Среднее 5 5 5 7 7 7 160 / 11 160/11 160/11 1. Дисперсия 6 6 6 9 9 9 11338 / 121 11338/121 11338/121 1. Медиана 4 4 4 7 7 7 13 13 13 1. Дополнительно Мода 3; выброс 11 Мода 7; выбросов нет Частоты 5, 3, 3 2. Ответ 0 , 5 0{,}5 0 , 5 1 − Φ ( 1 ) 1-\Phi(1) 1 − Φ ( 1 ) N ( 0 , 8 ) N(0,8) N ( 0 , 8 ) 3. ОМП x ˉ / 3 \bar x/3 x ˉ /3 x ˉ \bar x x ˉ x ˉ \bar x x ˉ 4. Результат Независимость доказана Несмещённость и состоятельность доказаны exp ( − t T t / 2 ) \exp(-t^Tt/2) exp ( − t T t /2 )
Все 12 заданий решены с промежуточными вычислениями. Для заданий с дисперсией приведены как обычные, так и исправленные оценки; для диаграмм «ящик с усами» использован единый способ вычисления квартилей.