Глава 3 Сигма-алгебра ( \(\sigma\) — алгебра)
Случайные величины принято обозначать заглавными последними буквами латинского алфавита, например \(X, Y, Z\) . События обычно обозначают заглавными первыми буквами латинского алфавита, например \(A,B,C\) . Для обозначения \(\sigma\) -алгебры обычно используются каллиграфические заглавные буквы латинского алфавита, например \(\mathcal\) .
3.1.2 Неформальное определение \(\sigma\) — алгебры:
\(\sigma\) -алгебра индивида — множество событий, про которые индивид может гарантированно сказать, произошли они или нет, вне зависимости от исхода эксперимента. Цель использования \(\sigma\) -алгебр — описать наделенность информацией индивидов.
3.1.3 Пример с игровым кубиком:
Эксперимент заключается в однократном подбрасывании игрового кубика. Пространство элементарных исходов: \[ \Omega = \\] Имеется три наблюдателя эксперимента: Антон — знает что кубик бросали, но не видел что на нем выпало. Обозначим \(\sigma\) -алгебру Антона \(\mathcal\) , Берта — внимательно наблюдала эксперимент, видела исход. Обозначим \(\sigma\) -алгебру Берты \(\mathcal\) . Ваня — так же видел исход эксперимента, но он из южно-американского племени Пираху, где при счете различают только 1, 2 и “много”. \(\sigma\) -алгебра Вани — \(\mathcal\) .
Определим, из каких элементов состоит каждая \(\sigma\) -алгебра. Антон не видел исход эксперимента, но знал, что эксперимент был, таким образом он может ответить на вопрос: “Упал ли кубик?”, или по-другому: “Выпало ли какое-нибудь число?”. То есть Антон различает только два события: “кубик упал”, которому соответствует все пространство элементарных исходов, и “кубик не упал”, которому соответствует пустое множество. Получаем, что \(\sigma\) -алгебра Антона состоит из двух элементов: \[\mathcal=\<\varnothing,\Omega \>\]
Берта видела исход эксперимента и различает все исходы, а значит, различает все возможные события, которые могут произойти в ходе эксперимента, их объединения, пересечения и прочие логические операции над ними ( мы предполагаем, что наши индивиды умеют делать логические выводы, на основе имеющейся информации). \(\sigma\) -алгебра Берты — булеан \(\Omega\) .
3.1.4 Формальное определение \(\sigma\) — алгебры:
Множество \(\mathcal\) называется \(\) для множества элементарных исходов \(\Omega\) , если:
- \(\varnothing,\Omega \in \mathcal\)
- Если \(A \in \mathcal\) , то и \(\bar \in \mathcal\)
- Если \(A_, A_,\dots \in \mathcal\) , то любое событие, которое можно получить из \(A_\) с помощью любой логической операции в счетном количестве, обязательно лежит в \(\mathcal\) .
На самом деле, некоторые пункты в данном определении можно опустить, так как другие пункты так же их учитывают. Минимальные требования, при которых определение остается корректным:
- \(\varnothing \in \mathcal\)
- Если \(A \in \mathcal\) , то и \(\bar \in \mathcal\)
- Если \(A_, A_,\dots \in \mathcal\) , то и \(\bigcup_^ <\infty>A_ \in \mathcal\)
3.2 Упражнение про Петров и Николаев:
В ходе эксперимента монетку подбрасывают бесконечное число раз. Пусть событие \(A_\) — в i-ом подбрасывании выпал орел, \(i=1,2,\dots\) .Имеются два типа наблюдателей, Петры и Николаи. \(Петр_\) видел все подбрасывания, начиная с первого, \(Петр_\) видел все подбрасывания, начиная со второго и тд. То есть \(Петр_\) видел все подбрасывания, начиная с i-ого. \(Николай_\) видел первое подбрасывание, а потом ушел, \(Николай_\) видел первое и второе подбрасывание, а потом ушел и тд. То есть \(Николай_\) видел все подбрасывания до i-ого включительно, а остальные не видел. Обозначим \(\sigma\) — алгебру i-ого Петра \(\mathcal_\) , а \(\sigma\) -алгебру i-ого Николая \(\mathcal_\) .
Задания:
- Выпишите явно \(\mathcal_\) и \(\mathcal_\) .
- Сколько событий в \(\mathcal_\) ?
- Сравните \(\mathcal_\) и \(\mathcal_\) .
- Сравните \(\mathcal_\) и \(\mathcal_\) .
- В какие \(\sigma\) -алгебры входят следующие события:
- \(A_\)
- \(A_\)
- \(A_ \cup A_\)
- \(A_ \cap A_\)
- \(\bigcap_^<\infty>A_\)
- \(\bigcup_^<\infty>A_\)
- \(A_\cap \bar_\)
- \(\bigcup_^<\infty>A_\)
- \(\bigcap_^<\infty>(\bigcup_^<\infty>A_)\)
- \(\bigcup_^<\infty>(\bigcap_^<\infty>A_)\)
- \(\mathcal_=\
\) ;
выполнено с использованием пакета tikz в LaTeX
Диаграмма условно разбита на 4 сектора, которые обозначены \(R_,R_,R_\) и \(R_\) . Элементы \(\sigma\) -алгебры \(Николая_\) — это все возможные комбинации “включения” и “исключения” областей \(R_\) . Получаем:
- \(A_ \in \mathcal_, i=40,41,\dots\) ,
- \(A_ \cup A_\in \mathcal_\) ,
\(A_ \cup A_\in \mathcal_, i=40,41,\dots\)
- \(A_ \cap A_\in \mathcal_\) ,
\(A_ \cap A_\in \mathcal_, i=40,41,\dots\)
- “в каждом подбрасывании выпал орел” \(\bigcap_^<\infty>A_\in \mathcal_\)
- “за все подбрасывания хотя бы раз выпал орел” \(\bigcup_^<\infty>A_\in \mathcal_\)
- \(A_\cap \bar_\in \mathcal_, i=56,57,\dots\) ,
- “после 39 подбрасывания хотя бы раз выпал орел” \(\bigcup_^<\infty>A_\in \mathcal_, j=1,2,\dots,40\)
Теорвер
Пространство элементарных событий $\Omega$, выделенная сигма-алгебра подмножеств $\Sigma$, вероятностная мера $p$.
В случае дискретной модели: $\Sigma = 2^<\Omega>$, в общем случае про $\Sigma$ каким-то образом договариваемся.
Событием называется элемент $\Sigma$ (в дискретном случае это любое подмножесво $\Omega$).
Событие произошло, если исход эксперимента принадложит этому событию.
$\Omega$ является достоверным событием, $\Omega \setminus A$ — противоположным событием, $\emptyset$ является невозможным событием. $A$ и $B$ называются несовместными, если $A \cap B = \emptyset$.
TODO: тут что-то про операции над множествами и их свойства, не знаю нафига.
Определение: набор подмножеств $\mathcal$ — алгебра, если
Третья аксиома равносильна замкнутости по конечному объединению. Если замкнута по счетному объединению, называется сигма-алгеброй. Пару $(X, \Sigma)$ называют измеримым пространством.
Алгебра замкнута отновительно объединений, пересечений и дополнений в конечном числе. Сигма-алгебра — аналогично в счетно- бесконечном.
Борелевская сигма алгебра — минимальная сигма-алгебра, содержащая все открытые в топологии соответствующего пространства множества.
- $\Omega$ — конечно, тогда алгебра порождена элементарными исходами, сигма-алгебра такая же.
- $\Omega$ — счетно-бесконечно, алгебра порождена конечными множествами и дополнениями к ним (нет таких событий, которые счетные и дополнения к которым счетны), сигма-алгерба содержит все подмножества.
- $\Omega = \mathbb$, алгебра порождена множествами $(-\infty, t)$. Алгебра собержит множества, являющиеся только объединением конечного числа полуинтервалов. Для сигма-алгебры — все полуинтервалы, является Борелевской сигма-алгеброй.
Пусть $\Omega$ — эксперимент, произошло событие $A$. Получаем условную (по отношению к $\Sigma$) сигма-алгебру $\Sigma_A = \< X_A \mid X \in \Sigma, X_A = X A \>$.
- 2. Дискретная вероятностная схема: вероятностное пространство, счетная аддитивность вероятностной меры в дискретном случае.
Дискретным называется случай, когда $\Omega$ — не более чем счетно. В этом случае $\Sigma = 2^<\Omega>$. Вероятностная мера $p: \Omega \to \mathbb$ в дискретном случае — выполняются свойства:
1. $p(\omega) \ge 0$ 2. $\sum\limits_ <\omega \in \Omega>p(\omega) = 1$
По определению, $p(A) = \sum\limits_ <\omega \in A>p(\omega)$
Утверждение: дискретная схема — частный случай общей:
1. $p(A) = \sum\limits_ <\omega \in A>p(\omega) \ge 0$ 2. $p(\Omega) = \sum\limits_ <\omega \in \Omega>p(\omega) = 1$ 3. если $A_1 \dots A_n \dots$ — дизъюнктный набор подмножеств $\Omega$, тогда $\sum\limits_ <\omega \in \sum\limits_i A_i>p(\omega) =$ (по абс. сходимости)$=\sum\limits_i \sum\limits_ <\omega \in A_i>p(\omega) = \sum\limits_i p(A_i)$
- 3. Примеры дискретных схем.
1. Классическая схема
$|\Omega| = n$, $\omega_1 \dots \omega_n$ — равновозможные, то есть $p(\omega_i) = \frac$, $p(A) = \frac<|A|><|\Omega|>$. $p(\Omega) = 1$, то есть построили верную схему.
Пареметр схемы — $p \in (0, 1)$. Пусть $A$ — событие, $p = p(A) \in (0, 1)$, и $A$ — результат опыта с двумя исходами. Проводятся независимые испытания до первого появления $A$. $\Omega = \< \omega_1, \omega_2 \dots \omega_n \dots \>$, где $\omega_k = \overline A \overline A \dots A$, то есть $A$ выпало на $k$-м броске. $p(\omega_k) = (1 - p)^ p = q^p$. $\sum p(w_k) = 1$, как и должно быть.
3. Схема Пуассона
Параметр схемы — $\lambda > 0$. $\Omega = \< \omega_0, \omega_1 \dots \omega_n \dots \>$. $p(\omega_n) = \frac<\lambda^n> e^<-\lambda>$. Понятно, что есть положительная определенность, $\sum\limits_^ <\infty>e^ <-\lambda>\frac<\lambda^n> = e^ <-\lambda>\sum\limits_^ <\infty>\frac<\lambda^n> = e^ <-\lambda>e^ <\lambda>= 1$
4. Биномиальная (схема Бернулли повторения опыта)
Параметры схемы — $n \ge 0$, $p \in [0, 1]$. $\Omega = \< \omega_0, \omega_1 \dots \omega_n \>$, $p(\omega) = p^q^$, где $k(\omega)$ — число успехов в серии из $n$ испытаний. $\omega_m = B_ (m) = \sum\limits_ \omega$ — ровно $m$ успехов. $|B_(m)| = \binom$ $p(\omega_m) = \binom p^m (1- p)^$. $\sum p(\omega_m) = \sum\limits_^n \binom p^m (1 - p)^ = (p + (1 - p))^n = 1$
5. Гипергеометрическая схема
Имеется $n$ различимых объектов с двумя признаками, у $n_1$ объектов один признак, у $n_2 = n - n_1$ — второй. Случайно, без возвращения извлекается $k \le n$ шаров. $B_$ — событие, что ровно $k_1$ элементов из $k$ будут с первым признаком, понятно, что таких событий будет $k + 1$ штук. $p(B_) = \frac \binom>>$. PROOF проверить нормировку.
6. Обобщенная гипергеометрическая схема
То же, что в гипергеометрической, но признаков теперь $m$, то есть $n_1 + n_2 + \dots + n_m = n$, $B_$ — вероятность того, что будет $k_1 \dots k_m$ шаров соответствующего признака. $p(B) = \frac \dots \binom>>$
7. Полиномиальная схема $\Omega_1 = A_1 \dots A_m$, $k$ независимых экспериментов $\Omega_k = \Omega_1 \times \dots \times $ TODO нихера не понятно. Обобщение биномиальной схемы, короче. Характеризуется вероятностями $p_1 \dots p_m$, вероятность того, что $k_i$ испытаний закончатся с $i$-м исходом равна $p_(k_1 \dots k_m) = \frac p_1^ \dots p_m^$.
- 4. Общая вероятностная схема: аксиомы Колмогорова (дискретная схема как частный случай общей), свойства вероятностной меры.
$(\Omega, \Sigma)$ — измеримое пространство. Введем $p : \Sigma \to \mathbb$ такую, что:
1. $\forall A \in \Sigma: p(A) \ge 0$ 2. $p(\Omega) = 1$ 3. Пусть $A$ — счетный набор попарно дизъюнктных подмножеств, тогда $p(\sum A) = \sum p(A_i)$ (счетная аддитивность)
Это — аксиомы Колмогорова, $p$ является вероятностной мерой, а тройка $(\Omega, \Sigma, p)$ — вероятностным пространством. Дискретная схема — частный случай: $p(A) = \sum\limits_ p(w)$, соблюдаются свойства 1-3 (PROOF показать)
Свойства вероятностной меры:
1. $p(\emptyset) = 0$ — очевидно 2. конечная аддитивность — очевидно 3. $p(\overline A) = 1 — p(A)$ — очевидно 4. $A \subset B \implies p(A) \le p(B)$ — представим $B = A + (B \setminus A)$, дальше понятно 5. $0 \le p(A) \le 1$ — очевидно из $\emptyset \subset A \subset \Omega$ 6. $p(A + B) = p(A) + p(B) — p(AB)$ — понятно из $A + B = A + (B \setminus A) = (A + B) \setminus A B$. Следствие — $p(A + B) \le p(A) + p(B)$ 7. $p(\sum\limits_^n A_i) = \sum\limits_^n p(A_i) — \sum\limits_ j> p(A_i A_j) \dots + (-1)^ p(\prod\limits_^n A_i)$. Следствие: $p(\sum\limits_^\infty A_i) \le \sum\limits_^\infty p(A_i)$ (PROOF не совсем очевидно)
- 5. Счетная аддитивность и аксиомы непрерывности, эквивалентность двух аксиом непрерывности. Связь счетной аддитивности и аксиом непрерывности.
1. Аксиома непрерывности для последовательно невозрастающей системы множеств: $B_1 \supset B_2 \dots B_n \dots$, $B = \lim B_n = \bigcap\limits_^\infty B_n$, тогда определяем предел как $p(\lim B_n) = \lim p(B_n)$. 2. Аксиома непрерывности для последовательно неубывающей системы множеств: $A_1 \subset A_2 \dots A_n \dots$, $A = \lim A_n = \bigcup\limits_^\infty B_n$, тогда определяем предел как $p(\lim A_n) = \lim p(A_n)$.
Утверждение: две формы аксиомы непрерывности эквивалентны. PROOF: док-во у Вали в конспекте есть
Утверждение: аксиома конечной аддитивности + 1 аксиома непрерывности равносильна аксиоме счетной аддитивности. PROOF док-во у Вали в конспекте
- 6. Независимость событий попарная и в совокупности, пример Бернштейна. Свойства независимых событий. Независимость экспериментов.
Определение: события называют независимыми, если $p(A B) = p(A) p(B)$, везде где говорят о событиях, имеют в виду только измеримые множества.
1. если $p(B) \ne 0$, тогда независимость эквивалентна тому, что $p(A \mid B) = p(A)$ (очевидно) 2. если $A$ и $B$ независимы, $A$ и $\overline B$ независимы (PROOF доказать) 3. если $A$ и $B$ независимы, $A$ и $C$ независимы, $B$ и $C$ не совместны, тогда $A$ и $B + C$ независимы (вроде очевидно). PROOF Упражнение: привести контрпример в случае совместности $B$ и $C$ 4. если события независимы и $p(A) \ne 0$, $p(B) \ne 0$, тогда они совместны. (очевидно)
Определение: события $A_1 \dots A_n$ независимы в совокупности, если для любого подмножества $B \subset A$: $p(\bigcap\limits_^k B_i) = \prod\limits_^k p(B_i)$
- из независимости в совокупности, очевидно, следует попарная
- обратное неверно, пример с тетраэдром Бернштейна (PROOF)
Независимость экспериментов: пусть $G_1$ и $G_2$ — два произвольных эксперимента. $(\Omega_1, \Sigma_1, p_1)$ и $(\Omega_2, \Sigma_2, p_2)$. Рассмотрим эксперимент $G$, в котором $\Omega = \Omega_1 \times \Omega_2, \Sigma = \Sigma_1 \times \Sigma_2$, $p$ определим как $p(C) = p(A \times B) = p(A \times \Omega_2) p(\Omega_1 \times B)$. Если $p(A \times B) = p(A) p(B)$, то $G_1$ и $G_2$ являются независимыми экспериментами. TODO неясно определение вероятности на $G$
- 7. Условная вероятность. Формула полной вероятности. Формула Байеса. Примеры.
Пусть $(\Omega, \Sigma, p)$ — вероятностное пространство, $B \in \Sigma, p(B) \ne 0$. Рассмотрим новое вероятностное пространство: $\Omega_B = B$, $\Sigma_B = \< A_B \mid A_B = A B, A \in \Sigma \>$ — условная сигма-алгебра, и условное измеримое пространство $(B, \Sigma_B)$, $p_B(A_B) = \frac
$. PROOF проверить что $p_B$ — действительно вероятностная мера.
Определение: $p_B(A) = \frac
= p(A \mid B)$ на новом $\Omega_B$ является условной вероятностью.
Утверждение: $p_B$ является вероятностной мерой на исходном пространстве $(\Omega, \Sigma)$
1. $p_B \ge 0$ 2. $p_B(\Omega) = \frac
= 1$ 3. $p_B(\sum_i A_i) = \frac
= \frac
= \sum \frac
= \sum_i p(A_i \mid B) = \sum_i p_B(A_i)$
Следствие: для условной меры справедливы свойства 1-7 вероятностной меры
Если $p(A \mid B) = p(A)$, события независимы PROOF (вроде очевидно)
Формула полной вероятности: пусть $H_1 \dots H_n \dots$ — полный набор попарно несовместных событий. Тогда для любого $A \in \Sigma$ справедливо: $p(A) = \sum\limits_ p(H_i) p(A \mid H_i)$.
Док-во: $A = A \Omega = A (\sum H_i) = \sum A H_i$, $A H_i$ и $A H_j$ все еще несовместны, тогда по счетной аддитивности $p(A) = \sum p(A H_i)$. Пусть $p(H_i) = 0$, тогда так как $p(A H_i) \le p(H_i)$, $p(A H_i) = 0$. Тогда $p(A) = \sum\limits_ p(A H_i) = \sum\limits_ = p(H_i) p(A \mid H_i)$
Замечения: полнота системы $H_i$ — излишнее требование, достаточно $A \subset \sum H_i$
Следствие (формула Байеса): $p(A) \ne 0$, $p(H_i \mid A) = \frac
= \frac <\sum\limits_
p(H_i) p(A \mid H_i)>$, является апостериорной вероятностью.
TODO: пример: задача о разорении, в конспекте YAOutline
Можно пример про сломанную машину и бензин.
- 8. Схема Бернулли (построение на базе независимых по совокупности испытаний с двумя исходами). Наивероятнейшее событие в схеме Бернулли.
Пусть $Q_1 \dots Q_n$ — последовательность испытаний с двумя исходами. $A_i$ означает успех, $\overline A_i$ — неудачу. Пусть эта последовательность удовлетворяет условиям:
1. Набор экспериментов независим в совокупности 2. $p(A_i) = p$, то есть для всех экспериментов одинакова
$\Omega = \Omega_1 \times \Omega_2 \dots \Omega_n$ — последовательность из $n$ испытаний, тогда $P(\omega) = p(\omega_1 \omega_2 \dots \omega_n) = p^
Утверждение: для серии испытаний с двумя исходами справедливо утверждение выше тогда и только тогда когда выполнены 1 и 2. TODO муть
Зафиксируем в схеме Бернулли $n$. $\< B_n(m) \>, m = 0 \dots n$.$p_ = p(B_(m))$, $m_0$ называется наивероятнейшим числом успехов, если $\forall m: p_ \ge p_$.
1. $np + p \notin \mathbb$, тогда существует единственный $m_0$, $n p — q < m_0 < np + p$ 2. $np + p \in \mathbb$, тогда естт два $m_0$: $m_ = np - q, m_ = np + p$
TODO формулировка непонятная
Доказательство TODO блаблабла
- 9. Предельные теоремы для схемы Бернулли: связь гипергеометрического и биномиального распределений
Рассмотрим последовательность гипергеометрических распределений $B_(k, k_1)$, $p_ = p(B_(k, k_1))$, где $k$ и $k_1$ фиксированные, а $n$ и $n_1$ стремятся к бесконечности. Пусть при этом $\frac \to p \in (0, 1)$, тогда $p(B_(k, k_1)) \to p(B_(k_1))$. По сути означает, что если в урне дофига шаров, выбор с возвращением не сильно отличается от выбора с возвращением.
Вывод: гипергеометрическая схема соответствует извлечению с двумя исходами без возвращения. Эти извлечения зависимы, но при $n \to \infty$ и $\frac \to p$, зависимость бесконечно мала.
- 10. Предельные теоремы для схемы Бернулли. Теорема Пуассона.
Рассмотрим последовательность биномиальных схем $B_$, пусть $n \to \infty$, $p = p(n) \to 0$, причем так, что $n p \to \lambda + o(1)$ (TODO неясно, нафига о малое от единицы в конспекте), тогда для любого $m$: $p_ = p(B_(m)) \to p(\Pi_\lambda(m)) = <\lambda^m \over m!>e^<-\lambda>$. PROOF у Вали в конспекте
То есть для схемы Бернулли в соответствующих условиях предельной является схема Пуассона.
- 11. Локальная теорема Муавра-Лапласа.
Функция Гаусса: $\varphi(x) = \frac> e^>$ — плотность распределения нормального распределения. Также обозначим $x_m = \frac>$.
Пусть $\Delta = [a, b]$ — конечный промежуток на $\mathbb$, тогда для всех $\Delta$ равномерно по $m$ таким, что $x_m \in \Delta$ при любом выполнено: $p_m = p(B_(m)) \sim \frac> \varphi(x_m)$. PROOF Валин конспект стр 25,
- 12. Интегральная теорема Муавра-Лапласа.
Для схемы Бернулли при $n \to \infty$ для любого $[a, b]$ справедливо: $p(a \le \frac> \le b) \to \int\limits_a^b \varphi(x) dx$
- 13. Понятие случайной величины. Примеры.
Пусть $(\Omega, \Sigma, p)$ — некое вероятностное пространство.
Определение: $x = x(\omega): \Omega \to \mathbb$ — измеримая относительно $(\Sigma_B, \Sigma)$ является случайной величиной.
Функция $f: (X, \Sigma_X) \to (Y, \Sigma_Y)$ называется измеримой, если $\forall B \in \Sigma_Y: f^(B) \in \Sigma_X$. В дискретном случае все такие функции измеримы (TODO проверить)
$(\mathbb, \Sigma_B)$ можно превратить в вероятностное пространство: $p_x$ — вероятностная мера, порожденная случайной величиной $x$ определяется как $p_x(A) = p(x^(A))$.
Проверяем аксиомы Колмогорова:
1. $p_x(\mathbb) = p(x^(\mathbb)) = p(\Omega) = 1$ 2. $p_x(A) = p(x^(A) \in \Sigma) \ge 0$ 3. Рассмотрим дизъюнктные $A_1 \dots A_n \dots$, тогда при $i \ne j: x^(A_i) \cap x^(A_j) = \emptyset$. $p_x(\sum A_i) = p(x^(\sum A_i)) = p(\sum x^(A_i)) = \sum p(x^(A_i)) = \sum p_x(A_i)$, ч.т.д
- 14. Функция распределения и ее свойства.
Рассмотрим $F_x(t)$ — функцию распределения вероятностей случайной величины, соответствующей мере $p_x(dx)$.
Определяем $F_x(t) = p(\) = p_x((-\infty, t))$. Замечание: в некоторых источниках неравенство заменяется на нестрогое. Характеристические свойства:
1. $F_x(t)$ не убывает. PROOF док-во у Вали в конспекте и вообще очевидно. Следствие: $p_x([a, b)) = F_x(b) — F_x(a)$ TODO интересно, почему это следствие, это не тупо свойство интеграла? 2. $\lim\limits_ F_x(t) = 1$, $\lim\limits_ F_x(t) = 0$, то есть $0 \le F_x(t) \le 1$. PROOF док-во у Вали в конспекте 3. $F_x(t)$ непрерывна слева. $\lim\limits_ = F_x(t_0)$ PROOF док-во у Вали в конспекте. Вообще непрерывность слева связана с тем, что в определении $F_x$ использовали открытые интервалы, был бы закрытый — была бы непрерывность справа.
Утверждение: эти три свойства характеристические, то есть любая функция с такими свойствами является функцией распределения и порождает вероятностную меру. (PROOF док-во позже и вообще отдельный билет вроде)
Еще свойства $F_x(t)$:
0. $p(x \in [a, b)) = F_x(b) — F_x(a)$ 1. $p(x \in [a, b]) = F_x(b) — F_x(a) + p(x = b)$, $p(x \in (a, b)) = F_x(b) — F_x(a) — p(x = a)$ 2. Если $F_x(t)$ постоянна на $[a, b)$, то $p_x([a, b)) = 0$. 3. $F_x(t)$ имеет не более чем счетное число точек разрыва и скачков. Док-во: $\Delta_n = \ \frac \>, |\Delta_n| \le n$ (то есть перенумеруем все качки большого размера, потом — поменьше, и так далее, так как функция распределения неубывает, количество скачков ограничено), тогда множество точек разрыва представимо как $\bigcup\limits_n \Delta_n$, то есть не более чем счетно. 4. $F_x(t)$ дифференциируема почти везде (TODO без доказательства, это очевидно?)
- 15. Выборочное пространство – построение вероятностного пространства и случайной величины по заданной F(x) с тремя свойствами
Пусть для $F(x)$ выполняется:
1. монотонно не убывает 2. $\lim\limits_ F(x) = 0$, $\lim\limits_ F(x) = 1$ 3. $F(x)$ непрерывна слева
Тогда сущестувет выборочное пространство $(\Omega, \Sigma, p)$ и случайная величина $X$ на нем такая, что $F_X(t) = F(t)$. (замечание: при этом в доказательстве строится такое пространство, что $\Omega = \mathbb$, $\Sigma = \Sigma_B$.
TODO: У Вали в конспекте, после примеров функций распределения; Боровков стр 47
- 16. Примеры функций распределения.
$X$ имеет вырожденное распределение ($X \sim I_c$), если $\forall \omega: X(\omega) = c \implies p_X(c) = 1$, $F_x(t) = \begin0, & t \le c \\ 1, & t > c\end$
2. Распределение Бернулли
$X$ имеет распределение Бернулли ($X \sim B_p$), если принимает $0$ и $1$ с вероятностями $1 - p$ и $p$ соответственно. $F_x(t) = \begin0, & t \le 0 \\ 1 - p, & 0 < t \le 1 \\ 1, & t >1\end$
3. Распределение Пуассона
$X$ имеет распределение Пуассона с параметром $\lambda > 0$ ($X \sim \Pi_\lambda$), если $X$ принимает значения $0, 1, 2 \dots$ с вероятностями $p(X = k) = \frac<\lambda^k> e^<-\lambda>$. TODO Функция распределения, возможно, она страшная
4. Биномиальное распределение
$X$ имеет биномиальное распределение с параметрами $n$ и $p > 0$ ($X \sim B_$), если $X$ принимает значения $0, 1, 2 \dots$ с вероятностями $p(X = k) = \binom p^k (1 - p)^k$
5. Равномерное распределение
$X \sim U(a, b)$, если $f_x(t) = \begin1, & t \in [a, b] \\ 0, & t \notin [a, b] \end$, $F_x(t) = \begin0, & t \le a \\ \frac, & a < t \le b\\ 1, & t >b\end$
5. Показательное распределение
$X \sim E_\lambda$, $\lambda > 0$ если $f_x(t) = \begin0, & t \le 0 \\ \lambda e^<-\lambda t>, & t > 0 \end$, $F_x(t) = \begin0, & t \le 0 \\ 1 - e^<-\lambda t>, & t > 0\end$
6. Нормальное распределение
$X$ имеет нормальное распределение с параметрами $a$ и $\sigma^2$ ($X \sim N_$), $a \in \mathbb, \sigma > 0$, если $f_X(t) = \frac> e^<-\frac<(x - a)^2>>$ PROOF тут проверяют, что через плотность действительно задается функция распределения, но вообще она не выражается через элементарные функции, только через интеграл Эйлера-Пуассона.
7. Гипергеометрическое распределение TODO тоже можно написать
TODO у Вали в конспекте есть
- 17. Типы распределений. Дискретные распределения. Свойства вероятностей значений дискретной случайной величины.
Дискретное распределение: множество значений случайной величины (или весовых точек) не более чем счетно.
Функция распределения имеет скачки, равные $p_i$. (с точки зрения теории меры это сингулярное распределение. TODO чоо)
TODO эээ, что-то мало всего, примеры какие-нибудь, наверное, можно впилить.
- 18. Абсолютно непрерывные распределения и непрерывные случайные величины. Плотность распределения, ее свойства, связь с функцией распределения.
Под непрерывными распределениями понимают распределения с непрерывной функцией распределения. Они делятся на абсолютно непрерывные и сингулярные.
Абсолютно непрерывные распределения — такие, что существует $f_x(t)$ такая, что:
1. $f_x(t) \ge 0$ 2. $\forall A \in \Sigma_B: p(x \in A) = p_x(A) = \int\limits_A f_x(t) dt$
$f_x(t)$ называется плотностью распределения случайной величины $x$ или меры $p(dx)$ TODO почему d перед x?
Характеристические свойства плотности:
1. $f_x(t) \ge 0$ 2. интеграл на любом множестве (TODO прямо-таки любом?) измерим по Лебегу 3. нормировка: $1 = p_x(\mathbb) = \int\limits_<\mathbb> f_x(t) dt$
Утверждение: эти свойства действительно характеристические, то есть если есть функция с такими свойствами, то она — плотность распределения вероятности:
1. $F_x(t) = \int\limits_<-\infty>^t f_x(u) du$ TODO что-то про то, что $F_x$ определена и непрерывна, непонятно 2. Функция распределения положительно определена, так как плотность положительно определена 3. $F_x(t) \xrightarrow[t \to \infty]<> = 1$ из нормировки
TODO какая-то муть у Вали в конспекте, что $f_x(t)$ не определена ни в одной точке.
Там, где существует $F’_x$, $F’_x(t) = f_x(t)$.
- 19. Сингулярные распределения, пример построения сингулярного распределения.
$p = p(dx)$ на $(\mathbb, \Sigma_B)$ называется сингулярной вероятностной мерой, если существует $B \in \Sigma_B$ такое, что:
1. $\lambda_1(B) = 0$ 2. $p(B) = 1$ 3. $p(\) = 0$, то есть вероятность попасть в точку — нулевая
Из определения следует свойство: $F_p(x)$ — функция распределения, соответствующая $p$(TODO что-то неразборчивое и странное дальше)
Пример построения сингулярной меры: кривая Кантора
1. для $t \in [\frac13, \frac23] = A_$, положим $F_x(t) = \frac
Тогда $p(\) = F(x + 0) — F(x) = 0$, то есть мера Лебега точки нулевая.
- 20. Теорема Лебега. Смеси. Пример.
Случайная величина $X$ называется смесью, если найдутся дискретная $X_1$, абсолютно непрерывная $X_2$, сингулярная $X_3$ и числа $p_1, p_2, p_3 \in [0, 1), p_1 + p_2 + p_3 = 1$, что для любого $B \in \Sigma_B$: $p(X \in B) = p_1 p(X_1 \in B) + p_2 p(X_2 \in B) + p_3 p(X_3 \in B)$.
Теорема Лебега: любое вероятностное распределение на $(\mathbb, \Sigma_B)$ может быть единственным образом представлено в виде смеси дискретного, абсолютно непрерывного и сингулярного.
TODO без доказательства, чтоли?
TODO пример надо запилить, в Валином конспекте со временем ожидания метро есть
Σ-алгебра
σ-алгебра (си́гма-а́лгебра) — это алгебра множеств, замкнутая относительно операции счётного объединения. Сигма-алгебры играют важнейшую роль в теории меры и интегралов Лебега, а также в теории вероятностей.
Определение
» width=»» height=»» /> содержит пустое множество.
Замечания
- Для любой системы множеств )» width=»» height=»» />, являющаяся её надмножеством.
- Сигма-алгебры являются естественной областью определения счётно-аддитивных мер. Если мера определена частично (на семействе множеств )» width=»» height=»» />, то есть на минимальную сигма-алгебру, это семейство содержащую, и при этом свойство сигма-аддитивности не нарушится.
- σ-алгебра, порождённаяслучайной величиной, определяется следующим образом:
— борелевская сигма-алгебра на вещественной прямой. Это — минимальная сигма-алгебра на пространстве X , относительно которой случайная величина ξ всё ещё остаётся измеримой. Эта же конструкция применяется и в том случае, если на пространстве X вообще не выделена никакая сигма-алгебра, в этом случае с помощью функции ξ её можно ввести и наделить таким образом пространство X структурой измеримого пространства так, что функция ξ будет измеримой.
Связанные определения
- Измеримое пространство — это пара , где X — множество, а — сигма-алгебра его подмножеств.
Примеры
- Борелевская сигма-алгебра
- Для любого множества X можно построить тривиа́льную σ-алгебру — пустое множество.
- Для любого множества X можно построить ещё одну тривиа́льную σ-алгебру, которая содержит все его подмножества.
Wikimedia Foundation . 2010 .
Сигма-алгебра
σ-алгебра (си́гма-а́лгебра) — алгебра множеств, замкнутая относительно операции счётного объединения. Сигма-алгебры играют важнейшую роль в теории меры и интегралов Лебега, а также в теории вероятностей.
Определение [ править ]
Семейство называется σ-алгеброй, если оно удовлетворяет следующим свойствам:
- » />, то и его дополнение» /> принадлежит » /> поскольку » /> существует минимальная сигма-алгебра » />) так, что выполнено условие сигма-аддитивности (синоним счётной аддитивности), эта частичная мера имеет единственное продолжение на , определяется следующим образом:
- Измеримое пространство — это пара , где — множество, а — некоторая сигма-алгебра его подмножеств.
- Борелевская сигма-алгебра
- Для любого множества можно построить тривиа́льную σ-алгебру — пустое множество.
- Для любого множества можно построить ещё одну тривиа́льную σ-алгебру, которая содержит все его подмножества.
- Макаров Б. М. Лекции по вещественному анализу. — БХВ-Петербург, 2011. — ISBN 978-5-9775-0631-1.
— борелевская сигма-алгебра на вещественной прямой. Это — минимальная сигма-алгебра на пространстве , относительно которой случайная величина всё ещё остаётся измеримой. Эта же конструкция применяется и в том случае, если на пространстве вообще не выделена никакая сигма-алгебра, в этом случае с помощью функции её можно ввести и наделить таким образом пространство структурой измеримого пространства, так что функция будет измеримой.
Связанные определения [ править ]
Примеры [ править ]
Примечания [ править ]
Литература [ править ]
Информация должна быть проверяема, иначе она может быть поставлена под сомнение и удалена.
Вы можете отредактировать эту статью, добавив ссылки на авторитетные источники.