Пусть {Xi}i≥1 - последовательность независимых, од...

Рассмотрим задачу: пусть $\{X_i\}_{i \geq 1}$ — независимые, одинаково распределённые случайные величины с экспоненциальным распределением с параметром $\mu = 1$. Это означает, что плотность распределения $X_i$ равна:

$$f(x) = e^{-x}, \quad x \geq 0$$

Обозначим сумму:

$$S_n = \sum_{i=1}^n X_i$$

Тогда $S_n$ имеет гамма-распределение с параметрами $(n, 1)$, то есть плотность $S_n$ такова:

$$f_{S_n}(x) = \frac{x^{n-1} e^{-x}}{(n-1)!}, \quad x \geq 0$$

---

Цель

Доказать, что для любого $n \geq 1$ и любого $a > 1$ выполнено:

$$\mathbb{P}(S_n > na) \leq \exp\left(-n \left[a - 1 - \log a \right]\right)$$

---

Метод доказательства: Неравенство Чернова

Пусть $t > 0$. По неравенству Чернова:

$$\mathbb{P}(S_n > na) = \mathbb{P}(e^{t S_n} > e^{tna}) \leq \frac{\mathbb{E}[e^{t S_n}]}{e^{tna}}$$

Так как $S_n = \sum_{i=1}^n X_i$, и $X_i$ независимы, имеем:

$$\mathbb{E}[e^{t S_n}] = \prod_{i=1}^n \mathbb{E}[e^{t X_i}]$$

Найдём моментную производящую функцию для экспоненциального распределения с $\mu = 1$:

$$\mathbb{E}[e^{t X_i}] = \int_0^\infty e^{tx} e^{-x} dx = \int_0^\infty e^{(t-1)x} dx$$

Этот интеграл сходится только при $t < 1$, и в этом случае:

$$\mathbb{E}[e^{t X_i}] = \frac{1}{1 - t}, \quad \text{при } t < 1$$

Тогда:

$$\mathbb{E}[e^{t S_n}] = \left(\frac{1}{1 - t}\right)^n$$

Подставим в неравенство Чернова:

$$\mathbb{P}(S_n > na) \leq \left( \frac{1}{1 - t} \right)^n \cdot e^{-tna}$$

Теперь минимизируем правую часть по $t \in (0, 1)$. Обозначим:

$$\varphi(t) = \log \left( \left( \frac{1}{1 - t} \right)^n \cdot e^{-tna} \right) = n \left[ -\log(1 - t) - a t \right]$$

Найдём минимум функции $\varphi(t)$, взяв производную:

$$\frac{d\varphi}{dt} = n \left[ \frac{1}{1 - t} - a \right]$$

Приравниваем к нулю:

$$\frac{1}{1 - t} - a = 0 \quad \Rightarrow \quad t = 1 - \frac{1}{a}$$

Такой $t \in (0, 1)$, так как $a > 1$. Подставим этот $t$ в верхнюю оценку:

$$\mathbb{P}(S_n > na) \leq \left( \frac{1}{1 - (1 - \frac{1}{a})} \right)^n e^{-na (1 - \frac{1}{a})} = a^n \cdot e^{-n(a - 1)}$$

Следовательно:

$$\mathbb{P}(S_n > na) \leq \exp \left( -n \left[a - 1 - \log a \right] \right)$$

---

Вывод

Мы доказали, что для любых $n \geq 1$, $a > 1$:

$$\mathbb{P}(S_n > na) \leq \exp \left( -n [a - 1 - \log a] \right)$$

что завершает требуемое доказательство.