реши задачи и подробно распиши решения

Ниже решения всех задач из листка «Домашнее занятие №13» (hw_13.pdf).

Задача 1

Дана плотность на квадрате $[0,1]^2$:

$$p(x_1,x_2)=C|x_1-x_2|.$$

1. Найдём $C$

Нужно, чтобы

$$\int_0^1\int_0^1 C|x_1-x_2|\,dx_1dx_2=1.$$

Известно, что для независимых равномерных на $[0,1]$ величин $U,V$

$$\mathbb E|U-V|=\int_0^1\int_0^1 |x_1-x_2|\,dx_1dx_2=\frac13.$$

Значит,

$$C\cdot \frac13=1,$$

поэтому

$$\boxed{C=3}.$$

2. Найдём $\mathbb E(X_1\mid X_2)$

Зафиксируем $X_2=t$, где $t\in[0,1]$. Условная плотность $X_1$ при $X_2=t$ пропорциональна

$$|x-t|,\qquad x\in[0,1].$$

Сначала найдём нормировку:

$$\int_0^1 |x-t|\,dx = \int_0^t (t-x)\,dx+\int_t^1 (x-t)\,dx.$$

Получаем

$$\int_0^t (t-x)\,dx=\frac{t^2}{2},$$ $$\int_t^1 (x-t)\,dx=\frac{(1-t)^2}{2}.$$

Значит,

$$\int_0^1 |x-t|\,dx = \frac{t^2+(1-t)^2}{2}.$$

Теперь числитель для условного ожидания:

$$\int_0^1 x|x-t|\,dx = \int_0^t x(t-x)\,dx+\int_t^1 x(x-t)\,dx.$$

Первая часть:

$$\int_0^t x(t-x)\,dx = \int_0^t (tx-x^2)\,dx = \frac{t^3}{2}-\frac{t^3}{3} = \frac{t^3}{6}.$$

Вторая часть:

$$\int_t^1 x(x-t)\,dx = \int_t^1 (x^2-tx)\,dx$$ $$= \frac{1-t^3}{3}-\frac{t(1-t^2)}{2} = \frac13-\frac t2+\frac{t^3}{6}.$$

Поэтому

$$\int_0^1 x|x-t|\,dx = \frac{t^3}{6}+\frac13-\frac t2+\frac{t^3}{6} = \frac13-\frac t2+\frac{t^3}{3}.$$

Итак,

$$\mathbb E(X_1\mid X_2=t) = \frac{\int_0^1 x|x-t|\,dx}{\int_0^1 |x-t|\,dx}.$$

Следовательно,

$$\boxed{ \mathbb E(X_1\mid X_2) = \frac{\frac13-\frac{X_2}{2}+\frac{X_2^3}{3}} {X_2^2-X_2+\frac12} }.$$

Эквивалентно можно записать так:

$$\boxed{ \mathbb E(X_1\mid X_2) = \frac{2X_2^3-3X_2+2}{6X_2^2-6X_2+3} }.$$

---

Задача 2

Нужно найти

$$\mathbb E(X\mid |X|)=g(|X|)$$

при условии, что $X$ имеет плотность $p$.

Обозначим

$$Z=|X|.$$

Для $y>0$ событие $|X|=y$ соответствует двум возможностям:

$$X=y \quad \text{или} \quad X=-y.$$

Плотности в этих точках пропорциональны соответственно $p(y)$ и $p(-y)$. Поэтому условное распределение $X$ при $|X|=y$ сосредоточено в двух точках:

$$\mathbb P(X=y\mid |X|=y)=\frac{p(y)}{p(y)+p(-y)},$$ $$\mathbb P(X=-y\mid |X|=y)=\frac{p(-y)}{p(y)+p(-y)}.$$

Тогда

$$g(y) = \mathbb E(X\mid |X|=y)$$ $$= y\frac{p(y)}{p(y)+p(-y)} + (-y)\frac{p(-y)}{p(y)+p(-y)}.$$

Значит,

$$\boxed{ g(y)=y\frac{p(y)-p(-y)}{p(y)+p(-y)},\qquad y>0. }$$

Если $p(y)+p(-y)=0$, значение $g(y)$ можно задать произвольно, например $g(y)=0$, потому что такие $y$ не влияют на условное ожидание.

Также естественно положить

$$g(0)=0.$$

Итог:

$$\boxed{ \mathbb E(X\mid |X|) = |X|\frac{p(|X|)-p(-|X|)}{p(|X|)+p(-|X|)} }$$

там, где знаменатель положителен.

---

Задача 3

Пусть $X,Y\in L^2$ и

$$\mathbb E(Y\mid \mathcal M)=X.$$

Нужно доказать: если

$$\mathbb E X^2=\mathbb E Y^2,$$

то

$$X=Y \quad \text{п.н.}$$

Так как $X=\mathbb E(Y\mid \mathcal M)$, величина $X$ является $\mathcal M$-измеримой.

Рассмотрим

$$\mathbb E(Y-X)^2.$$

Раскрываем квадрат:

$$\mathbb E(Y-X)^2 = \mathbb E Y^2-2\mathbb E(XY)+\mathbb E X^2.$$

Найдём $\mathbb E(XY)$. Так как $X$ является $\mathcal M$-измеримой и $X\in L^2$, имеем

$$\mathbb E(XY) = \mathbb E\{X\mathbb E(Y\mid \mathcal M)\}.$$

Но

$$\mathbb E(Y\mid \mathcal M)=X.$$

Значит,

$$\mathbb E(XY)=\mathbb E X^2.$$

Тогда

$$\mathbb E(Y-X)^2 = \mathbb E Y^2-2\mathbb E X^2+\mathbb E X^2 = \mathbb E Y^2-\mathbb E X^2.$$

По условию

$$\mathbb E X^2=\mathbb E Y^2,$$

поэтому

$$\mathbb E(Y-X)^2=0.$$

А значит,

$$Y-X=0 \quad \text{п.н.}$$

То есть

$$\boxed{X=Y \text{ почти наверное}.}$$

---

Задача 4

Нужно доказать, что случайная величина $X$ и $\sigma$-алгебра $\mathcal M$ независимы тогда и только тогда, когда для любой борелевской $f$, такой что $\mathbb E|f(X)|<\infty$, выполнено

$$\mathbb E(f(X)\mid \mathcal M)=\mathbb E f(X).$$

Необходимость

Пусть $X$ и $\mathcal M$ независимы.

Тогда $\sigma(X)$ и $\mathcal M$ независимы. Следовательно, для любой борелевской $f$ случайная величина $f(X)$ независима от $\mathcal M$.

Нужно проверить определение условного ожидания. Для любого $A\in\mathcal M$ имеем

$$\mathbb E\bigl[1_A f(X)\bigr] = \mathbb P(A)\mathbb E f(X),$$

поскольку $1_A$ и $f(X)$ независимы.

С другой стороны,

$$\mathbb E\bigl[1_A\mathbb E f(X)\bigr] = \mathbb E f(X)\cdot \mathbb P(A).$$

Значит,

$$\mathbb E\bigl[1_A f(X)\bigr] = \mathbb E\bigl[1_A\mathbb E f(X)\bigr]$$

для любого $A\in\mathcal M$. По определению условного ожидания это означает, что

$$\boxed{ \mathbb E(f(X)\mid \mathcal M)=\mathbb E f(X). }$$

Достаточность

Теперь пусть для любой подходящей борелевской $f$

$$\mathbb E(f(X)\mid \mathcal M)=\mathbb E f(X).$$

Возьмём произвольное борелевское множество $B\subset\mathbb R$ и положим

$$f(x)=1_B(x).$$

Тогда

$$f(X)=1_{\{X\in B\}}.$$

По условию

$$\mathbb E(1_{\{X\in B\}}\mid \mathcal M) = \mathbb P(X\in B).$$

Теперь для любого $A\in\mathcal M$

$$\mathbb P(A\cap \{X\in B\}) = \mathbb E\bigl[1_A1_{\{X\in B\}}\bigr].$$

Используем условное ожидание:

$$\mathbb E\bigl[1_A1_{\{X\in B\}}\bigr] = \mathbb E\left[1_A\mathbb E(1_{\{X\in B\}}\mid \mathcal M)\right].$$

Подставляем условие:

$$= \mathbb E\left[1_A\mathbb P(X\in B)\right] = \mathbb P(X\in B)\mathbb P(A).$$

То есть

$$\mathbb P(A\cap \{X\in B\}) = \mathbb P(A)\mathbb P(X\in B)$$

для всех $A\in\mathcal M$ и всех борелевских $B$. Это ровно означает независимость $\mathcal M$ и $X$.

Следовательно,

$$\boxed{ X \text{ и } \mathcal M \text{ независимы} \iff \mathbb E(f(X)\mid\mathcal M)=\mathbb E f(X). }$$

---

Задача 5

Пусть $X,Y$ независимы и имеют экспоненциальное распределение с параметром $1$. Нужно найти

$$\mathbb E(f(X,Y)\mid X+Y)$$

для ограниченной измеримой $f:\mathbb R^2\to\mathbb R$.

Обозначим

$$S=X+Y.$$

Совместная плотность $X,Y$:

$$p_{X,Y}(x,y)=e^{-x}e^{-y}1_{\{x\ge 0,y\ge 0\}} = e^{-(x+y)}1_{\{x\ge 0,y\ge 0\}}.$$

При фиксированном значении

$$S=s$$

точки $(X,Y)$ лежат на отрезке

$$x+y=s,\qquad x\in[0,s],\quad y=s-x.$$

На этом отрезке плотность равна

$$e^{-s},$$

то есть не зависит от $x$. Поэтому условно при $X+Y=s$ величина $X$ равномерна на $[0,s]$, а $Y=s-X$.

Значит,

$$\mathbb E(f(X,Y)\mid X+Y=s) = \frac1s\int_0^s f(u,s-u)\,du.$$

Следовательно,

$$\boxed{ \mathbb E(f(X,Y)\mid X+Y) = \frac{1}{X+Y}\int_0^{X+Y} f(u,X+Y-u)\,du }$$

почти наверное. Значение при $X+Y=0$ можно задать произвольно, потому что

$$\mathbb P(X+Y=0)=0.$$

---

Задача 6

Пусть $X$ ограничена, а

$$\mathcal F_n\subset \mathcal G_n\subset \mathcal H_n.$$

Дано:

$$\mathbb E(X\mid \mathcal F_n)\xrightarrow{\mathbb P} Y,$$ $$\mathbb E(X\mid \mathcal H_n)\xrightarrow{\mathbb P} Y.$$

Нужно доказать:

$$\mathbb E(X\mid \mathcal G_n)\xrightarrow{\mathbb P} Y.$$

Обозначим

$$A_n=\mathbb E(X\mid \mathcal F_n),$$ $$B_n=\mathbb E(X\mid \mathcal G_n),$$ $$C_n=\mathbb E(X\mid \mathcal H_n).$$

Так как $X$ ограничена, то все $A_n,B_n,C_n$ также равномерно ограничены:

$$|A_n|,|B_n|,|C_n|\le \|X\|_\infty.$$

Из сходимости по вероятности и равномерной ограниченности следует сходимость в $L^2$. Поэтому

$$A_n\to Y \quad \text{в } L^2,$$ $$C_n\to Y \quad \text{в } L^2.$$

Теперь используем вложенность $\sigma$-алгебр:

$$\mathcal F_n\subset \mathcal G_n\subset \mathcal H_n.$$

По свойству башни условного ожидания:

$$\mathbb E(C_n\mid \mathcal G_n) = \mathbb E(\mathbb E(X\mid\mathcal H_n)\mid \mathcal G_n) = \mathbb E(X\mid \mathcal G_n) = B_n.$$

Также $A_n$ является $\mathcal F_n$-измеримой, а значит и $\mathcal G_n$-измеримой. Поэтому

$$\mathbb E(C_n-A_n\mid \mathcal G_n) = \mathbb E(C_n\mid \mathcal G_n)-A_n = B_n-A_n.$$

Используем сжатие условного ожидания в $L^2$:

$$\|B_n-A_n\|_2 = \|\mathbb E(C_n-A_n\mid \mathcal G_n)\|_2 \le \|C_n-A_n\|_2.$$

Теперь оценим:

$$\|B_n-Y\|_2 \le \|B_n-A_n\|_2+\|A_n-Y\|_2.$$

Следовательно,

$$\|B_n-Y\|_2 \le \|C_n-A_n\|_2+\|A_n-Y\|_2.$$

А

$$\|C_n-A_n\|_2 \le \|C_n-Y\|_2+\|A_n-Y\|_2.$$

Итого

$$\|B_n-Y\|_2 \le \|C_n-Y\|_2+2\|A_n-Y\|_2.$$

Правая часть стремится к нулю, значит

$$B_n\to Y \quad \text{в } L^2.$$

А сходимость в $L^2$ влечёт сходимость по вероятности. Поэтому

$$\boxed{ \mathbb E(X\mid \mathcal G_n)\xrightarrow{\mathbb P} Y. }$$

---

Задача 7

Пусть случайные величины

$$X$$

и

$$\mathbb E(X\mid \mathcal M)$$

независимы. Нужно доказать:

$$\mathbb E(X\mid \mathcal M)=\mathbb E X.$$

Обозначим

$$Z=\mathbb E(X\mid \mathcal M).$$

Тогда $Z$ является $\mathcal M$-измеримой, и по определению условного ожидания для любой ограниченной борелевской функции $\varphi$

$$\mathbb E[X\varphi(Z)] = \mathbb E[Z\varphi(Z)].$$

Почему? Потому что $\varphi(Z)$ является $\mathcal M$-измеримой и ограниченной, значит её можно использовать как множитель при условном ожидании:

$$\mathbb E[X\varphi(Z)] = \mathbb E[\mathbb E(X\mid\mathcal M)\varphi(Z)] = \mathbb E[Z\varphi(Z)].$$

С другой стороны, $X$ и $Z$ независимы, значит $X$ и $\varphi(Z)$ тоже независимы. Поэтому

$$\mathbb E[X\varphi(Z)] = \mathbb E X\cdot \mathbb E\varphi(Z).$$

Обозначим

$$m=\mathbb E X.$$

Тогда

$$\mathbb E[Z\varphi(Z)] = m\mathbb E\varphi(Z).$$

То есть

$$\mathbb E[(Z-m)\varphi(Z)]=0$$

для любой ограниченной борелевской $\varphi$.

Теперь возьмём

$$\varphi(z)=1_{\{z>m\}}.$$

Тогда

$$\mathbb E[(Z-m)1_{\{Z>m\}}]=0.$$

Но подынтегральная величина неотрицательна, значит

$$(Z-m)1_{\{Z>m\}}=0 \quad \text{п.н.}$$

Следовательно,

$$\mathbb P(Z>m)=0.$$

Аналогично берём

$$\varphi(z)=1_{\{z<m\}}.$$

Получаем

$$\mathbb E[(Z-m)1_{\{Z<m\}}]=0.$$

Теперь подынтегральная величина неположительна, поэтому она тоже должна быть равна нулю почти наверное. Значит,

$$\mathbb P(Z<m)=0.$$

Итак,

$$\mathbb P(Z>m)=0,\qquad \mathbb P(Z<m)=0.$$

Следовательно,

$$Z=m \quad \text{п.н.}$$

То есть

$$\boxed{ \mathbb E(X\mid \mathcal M)=\mathbb E X. }$$