概率论第一章 - 概率论的基本概念

概率论的基本概念

• • 1.随机试验
  • 2.样本空间、随机事件
  • • 样本空间及样本点定义
    • 随机事件
    • *事件间的关系与事件的运算
  • 3.概率与频率
  • • 一、频率定义
    • 二、频率性质
    • 三、概率定义
    • 四、概率满足条件
    • 五、概率重要性质
  • 4.等可能概型（古典概型）
  • • 一、古典概型特点
    • 二、古典概型计算公式
    • 三、放回与不放回抽样
  • 5.条件概率
  • • 一、条件概率定义
    • 二、条件概率符合条件
    • 三、乘法定理
    • 四、*全概率公式和贝叶斯公式
  • 6.独立性

1.随机试验

随机实验的共同特点有：

1. 可以在相同条件下重复地进行
2. 每次试验的结果不止一个，并且可以事先知道所有可能结果
3. 在进行一次试验之前不能确定结果

2.样本空间、随机事件

样本空间及样本点定义

• 随机试验： 随机试验用 E 代表

• 样本空间：随机试验 E 的所有可能结果的集合称为样本空间，用 S 代表

• 样本点：随机试验 E 的每个结果成为样本点

随机事件

• 随机事件：我们称试验 E 的样本空间 S 的子集为 E 的随机事件，简称事件。

• 事件发生： 当且仅当事件中的一个样本点出现时，称这一事件发生。

• 必然事件：每次试验总是发生的，被成为必然事件，例如样本空间 S 本身。

• 不可能事件： 空集不包含任何样本点，他也做为样本空间的自己，但他每次试验的不发生，故称为不可能事件

*事件间的关系与事件的运算

一、事件关系

设试验 E 的样本空间为 S ，并且 A,B,Ak(k=1,2,···) 是 S 的子集。

1. 包含/相等：
   $$A\subset B$$
   $$A=B$$

2. 和事件：
   $$A\cup B=x|x\in A或x\in B$$

3. 积事件：
   $$A\cap B=x|x\in A且x\in B$$

4. 差事件：
   $$A-B=x|x\in A且x\notin B$$

5. 互斥事件/互不相容：
   $$A\cap B=Ø$$

6. 对立事件：
   $$A\cup B=S$$
   $$A\cap B=Ø$$
   

二、事件运算

• 交换律：
  $$A\cup B=B\cup A;A\cap B=B\cap A$$
• 结合律：
  $$A\cup (B\cup C)=(A\cup B)\cup C；A\cap (B\cap C)=(A\cap B)\cap C$$
• 分配律：
  $$A\cup (B\cap C)=(A\cup B)\cap (A\cup C)；A\cap (B\cup C)=(A\cap B)\cup (A\cap C)$$
• 德摩根率：
  $$\overline{A\cup B}=\overline{A}\cap \overline{B};\overline{A\cap B}=\overline{A}\cup \overline{B}$$

3.概率与频率

一、频率定义

在相同条件下进行 n 次试验：

频数：事件 A 发生的次数 nA 称为事件 A 的频数

频率：频数/试验次数 (nA/n) 称为频率

二、频率性质

1. 任一事件 A
   $$0\le f_n(A)\le 1$$
2. 必然事件 S
   $$f_n(S)=1$$
3. 若A1,A2,···，Ak 为两两互不相容事件，则

$$f_n(A_1\cup A_2\cup \cdot \cdot \cdot \cup A_K)=f_n(A_1)+f_n(A_2)+\cdot \cdot \cdot +f_n(A_K)$$

三、概率定义

对于 E 的每一个事件 A 赋予一个实数，记为 P(A) 称为事件 A 的概率。

四、概率满足条件

1. 非负性
   $$对于每一个事件A，有P(A)\ge 0$$

2. 规范性
   $$对于必然事件S，有P(S)=1$$

3. 可列可加性

   若 A1,A2,··· An 是两两互斥事件则有下式
   $$P(A_1\cup A_2\cup \cdot \cdot \cdot )=P(A_1)+P(A_2)+\cdot \cdot \cdot$$

五、概率重要性质

性质1：
$$P(\varnothing )=0$$
性质2：有限可加性，即两两互不相容事件加和得到样本空间。
$$P(A_1\cup A_2\cup \cdot \cdot \cdot \cup An)=P(A_1)+P(A_2)+\cdot \cdot \cdot +P(A_n)$$
性质3： 若 A ⊂ B
$$P(B-A)=P(B)-P(A)$$

$$P(B)\ge P(A)$$

性质4： 任一事件 A
$$P(A)\le 1$$
性质5： 任一事件A
$$P(\overline{A})=1-P(A)$$
性质6：加法公式
$$P(A\cup B)=P(A)+P(B)-P(AB)$$

4.等可能概型（古典概型）

一、古典概型特点

1. 试验的样本空间只包含有限个元素
2. 试验中每个基本事件发生的可能性相同

二、古典概型计算公式

P ( A ) = ∑ j = 1 k P ( { e i j } ) = k n = A 包 含 的 基 本 事 件 数 S 中 基 本 事 件 的 总 数 P(A) = \sum_{j=1}^{k}P(\lbrace e_{i_{j}} \rbrace) =\frac{k}{n} = \frac{A包含的基本事件数}{S中基本事件的总数} P(A)=j=1∑k​P({eij​​})=nk​=S中基本事件的总数A包含的基本事件数​

三、放回与不放回抽样

放回时： 各个事件包含的基本事件数不变，即 k 不变；样本空间中基本事件总数也不变，即 n 不变

不放回： 被抽出的事件中的基本事件数减少，即对应 ki 变小；样本空间中基本事件总数减少，即 n 变小。

5.条件概率

一、条件概率定义

在事件 A 发生的前提条件下事件 B 发生的概率，称为条件概率。

二、条件概率符合条件

条件概率符合概率定义中的三个条件

1. 非负性：对于每一事件 B
   $$P(B|A)\ge 0$$

2. 规范性：对于必然事件 S
   $$P(S|A)=1$$

3. 可列可加性：B1，B2，··· 为两两互不相容事件
   $$P(\bigcup _{i=1}^{\infty }{B}_i|A)=\sum _{i=1}^{\infty }P(B_i|A)$$

三、乘法定理

若设立该条件
$$P(A)>0$$
则有
$$P(AB)=P(B|A)P(A)$$
该式可以推广为更多事件
$$P(ABC)=P(C|AB)P(B|A)P(A)$$

四、*全概率公式和贝叶斯公式

样本空间的划分定义

设 S 为试验 E 的样本空间，B1,B2,···,Bn 为 E 的一组事件

若满足以下两条件：

1. $$B_i{B}_j=\varnothing ,i\ne j,i,j=1,2,\cdot \cdot \cdot ，n$$

2. $$B_1\cup B_2\cup \cdot \cdot \cdot \cup B_n=S$$

即将该样本空间划分为 n 个两两互不相容的事件。

全概率公式：

设一事件A 为 E 的事件，并通过上述划分，且 P(Bi) > 0。
$$P(A)=P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+\cdot \cdot \cdot +P(A|B_n)P(B_n)$$
tip: 该公式是 通过加和 A 在每个划分事件中概率，得出A的总概率。

贝叶斯公式：
$$满足P(A)>0;P(B_i)>0$$

$$P(B_i|A)=\frac{P(A|B_i)P(B_i)}{{\sum }_{j=1}^{n}P(A|B_j)P(B_j)},i=1,2,\cdot \cdot \cdot ,n$$
tip：该公式通过结果求条件

即通过结果： B前提下A发生的概率 与 B的概率
$$P(A|B_i)P(B_i)$$
来求条件： A前提下B的概率
$$P(B_i|A)$$
这样我们就算不知道 A 发生的概率也可以求得 A 前提下 B发生的概率。

6.独立性

独立性，则是事件之间发生的概率互不干扰。

正好与条件概率相反

1. 条件：事件两两互不相容

2. 独立：为两两事件一定相容

$$P(B|A)=P(B)$$

$$P(AB)=P(B|A)P(A)=P(A)P(B)$$

若 A 和 B 相互独立，则
$$\overline{A}与\overline{B}，A与\overline{B}，\overline{A}与B相互独立$$