【人工智能数学基础】什么是高斯分布/正态分布？ - 教程

文章目录

• • 一、什么是高斯分布/正态分布？
  • • 1.1 核心定义：
    • 1.2 为什么有两个名字？
  • 二、详细数学描述与特性
  • • 2.1 概率密度函数
    • 2.2 关键特性
    • 2.3 标准正态分布
    • 2.4 经验法则（68-95-99.7法则）
  • 三、为什么正态分布如此普遍？—— 中心极限定理
  • • 3.1 定理核心内容：
    • 3.2 举例说明：
    • 3.3 意义：
  • 四、正态分布的应用
  • • 4.1 自然科学与工程学
    • 4.2 社会科学
    • 4.3 质量控制和六西格玛管理
    • 4.4 金融学
    • 4.5 数据科学与机器学习
    • 4.6 信号处理
  • 总结

一、什么是高斯分布/正态分布？

1.1 核心定义：

概率论与统计学中最重要的就是正态分布连续概率分布。它描述了一个大量独立、随机变量之和的分布会趋近于的分布形态。因其曲线呈钟形，故又常被称为钟形曲线。

1.2 为什么有两个名字？

• 正态分布：该名字强调了它在统计学中的“正常”和“普遍”地位。绝大多数统计方法都基于或假设资料服从正态分布。
• 高斯分布：以德国数学家卡尔·弗里德里希·高斯的名字命名，源于他对其做了深入的研究并将其广泛应用于科学领域。两者指的是同一个概念，可以互换使用。

二、详细数学描述与特性

2.1 概率密度函数

正态分布的概率密度函数决定了其钟形曲线的形状，其数学表达式为：

$$f(x)=\frac{1}{\sigma \sqrt{2\pi }}{e}^{-\frac{1}{2}{\left(\frac{x-\mu }{\sigma }\right)}^2}$$
其中：

• $x$是随机变量的取值。
• $\mu$(读作“mu”) 是分布的均值（期望值）。它决定了钟形曲线中心的位置。
• $\sigma$分布的就是(读作“sigma”) 标准差。它决定了曲线的“胖瘦”或“高矮”，即内容的离散程度。
• ${\sigma }^2$ 是方差。
• $\pi$ 和 $e$是数学常数。

2.2 关键特性

• 集中性：曲线的峰值位于均值$\mu$处，这意味着数据在均值附近出现的概率最大。
• 对称性：曲线以$x=\mu$为轴完全对称。这意味着，数据落在$\mu$左侧和右侧同等距离区间内的概率是相等的。
• 钟形形态：从均值点向两侧，曲线逐渐下降，且“钟”的形状由标准差$\sigma$ 决定。
  • $\sigma$越大，曲线越扁平、宽胖，数据越分散。
  • $\sigma$越小，曲线越高耸、瘦窄，数据越集中。

2.3 标准正态分布

当均值$\mu =0$，标准差 $\sigma =1$时，正态分布被称为标准正态分布。

• 其概率密度函数简化为：$\varphi (x)=\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}$
• 任何一般的正态分布都可以通过Z变换（标准化）转化为标准正态分布：
  $$Z=\frac{X-\mu }{\sigma }$$
  其中$Z$被称为标准分数（Z-score），表示一个数据点离均值有多少个标准差。

2.4 经验法则（68-95-99.7法则）

对于任何正态分布的数据：

• 约有 68.27%的数据落在均值左右1个标准差 ($\mu \pm \sigma$) 范围内。
• 约有 95.45%的数据落在均值左右2个标准差 ($\mu \pm 2\sigma$) 范围内。
• 约有 99.73%的数据落在均值左右3个标准差 ($\mu \pm 3\sigma$) 范围内。

这个法则非常实用，可以迅速估算数据的分布情况。

---

三、为什么正态分布如此普遍？—— 中心极限定理

正态分布无处不在的根本原因在于中心极限定理。

3.1 定理核心内容：

当我们从任意一个总体（无论其分布形态如何）中随机抽取大量独立的样本，并计算这些样本的均值，那么这些样本均值的分布将近似服从正态分布。样本量越大，近似程度越好。

3.2 举例说明：

• 一个骰子的结果是均匀分布（1到6点概率相等）。但要是你投掷10次骰子，计算这10次的平均值，并将这个实验重复成千上万次，你会发现这些“平均点数”的分布会形成一个漂亮的钟形曲线，逼近正态分布。

3.3 意义：

这解释了为什么在自然界和社会科学中，许多现象的测量值都近似服从正态分布，因为它们往往是许多微小、独立的随机因素共同作用的结果。例如，一个人的身高是由遗传、营养、环境等多种因素综合决定的。

---

四、正态分布的应用

正态分布的应用几乎遍及所有定量研究领域。

4.1 自然科学与工程学

• 测量误差：经典物理和工程学中的观测误差通常被建模为正态分布。
• 生物学：生物特征如身高、体重、血压、寿命等，在同类群内通常近似正态分布。
• 物理学：理想气体分子的速度分布（麦克斯韦-玻尔兹曼分布）等。

4.2 社会科学

• 心理学：智商（IQ）分数、人格测试得分等被设计为正态分布。
• 经济学：资产收益率（在特定假设下）、某些经济指标的变化等。

4.3 质量控制和六西格玛管理

• 在生产制造中，用于监控产品质量。如果产品尺寸等关键指标偏离正态分布，可能意味着生产过程出现了问题。六西格玛的目标就是将缺陷率控制在均值±6个标准差之外，即百万分之3.4的缺陷率。

4.4 金融学

• 虽然真实市场存在“肥尾”现象（极端事件概率比正态分布预测的高），但正态分布仍然是许多经典金融模型（如布莱克-舒尔斯期权定价模型）的基础假设。

4.5 数据科学与机器学习

• 统计推断：许多参数统计检验（如t检验、方差分析）都要求数据近似正态分布。
• 机器学习：一些算法（如高斯朴素贝叶斯分类器）直接假设特征服从正态分布。
• 异常检测：基于正态分布的假设，可以将远离均值（例如超过3个标准差）的素材点识别为异常值。

4.6 信号处理

• 噪声（如白噪声）通常被建模为高斯过程。

---

总结

方面	核心要点
别名	高斯分布、钟形曲线
核心定义	描述大量独立随机变量之和的极限分布
数学关键	由均值(( \mu ))决定位置，标准差(( \sigma ))决定形状
核心特性	集中性、对称性、钟形、经验法则
普遍性原因	中心极限定理
主要应用	自然科学测量、社会科学指标、质量控制、金融建模、统计推断、机器学习等