AI小白的第六天：必要的数学知识（一）

在学习的过程中，不管是上代码还是理论学习，其中都掺杂了一些数学知识。俗话说“磨刀不误砍柴工”，而我已经“误了砍柴功”了，现在变成了“亡羊补牢，为时不晚”。

线性代数

线性代数是数学的一个分支，主要研究向量、向量空间（线性空间）、线性变换和矩阵等概念及其相互关系。

标量 scalar

标量就是一个数字，只有大小，没有方向。标量通常用小写字母来表示。
例如，莱恩大招释放时，只对地方单位造成固定伤害。

向量vector

当一组标量排成一行或者一列时就变成了向量，这些标量值被称为向量的元素。向量中的元素在一个轴上是有序排列的，这个轴可以是行也可以是列。向量通常用粗体小写字母来表示，元素通过带角标的斜体字母来表示。
比如风行者的强力击造成的伤害是用向量 s表示，第一个元素 $s_{1}$ 是穿过第一个敌方单位时的伤害量，第二个元素 $s_{2}$ 是穿过第二个敌方单位时的伤害量，以此类推。如果强力击对 $n$ 个单位造成了伤害，就可以写成 $s=[s_{1},s_{2},...,s_{n}]$ ，或者写成列的形式，markdown实在没找到标准写法就不写了。

向量有两个主要特征：大小和方向。你知道，强力后击中的单位所受到的伤害，总是比前一个单位所受到的伤害少。这就是强力击的特点。而美杜莎的秘术异蛇恰恰相反。所以通过标量和向量，你可以简单的表示dota中英雄的技能伤害特点。

向量与空间： 我们通常会将向量看作空间中的点或者从空间原点指向该点的箭头，而一组向量可以生成一个向量空间。向量空间中的每一个点都可以表示为这组向量的线性组合。这种方式就可以将抽象的概念以具体的几何图形来展示。

向量维度

如果你有两个向量，它组成一个面，而这两个向量的夹角有恰巧是90°，那么这就是平面直角坐标系；如果是3个向量，每一个向量与另外两个向量形成的面相互垂直，那就形成了“笛卡尔直角坐标系”，如果不垂直，就形成了笛卡尔斜角坐标系。在坐标系中的点，都可以用不同向量的大小组合来表示。因此向量大于3个的时候，你没法用图像来想象，但是你可以用不同向量的大小组合来定义。
反过来想，你把坐标系中的一个点（向量a），映射到其他n个向量组成的坐标系中，那这个n就是向量a在这个坐标系中的维度。

向量模长 magnitude

模长表示向量在空间中的长度或者大小，主要用于物理和几何领域。n维向量的模长公式为 $|a|=\sqrt[]{a_{1}^2+a^2_{2}+...+a^2_{n}}$

范数 norm

与模长类似的一个术语，概念相同，但咱们机器学习主要用的就是范数。它与模长的公式不同
$|x|_{p}=(\sum_{i}|x_{i}|^p)^\frac{1}{p}$

p=1 时，称之为L1范数，又叫曼哈顿范数。求的就是在网格化城市中，从1个点到另一个点的最短距离。
p=2时，称之为L2范数，又称之为欧几里得范数，它与模长的计算公式相同。
L2范数将欧几里得距离的概念推广到高维空间，适用于任意维度的向量空间。

欧几里得几何是以古希腊数学家欧几里得命名的几何学体系，主要研究平面和空间中的点、线、角、面等几何对象及其相互关系。

单位向量

当向量的模长等于1时，这样的向量就称为单位向量。因为单位向量的大小总是1，所以可以认为它表示的是向量在空间中的方向。对于二维向量 $a=(a_{1},a_{2})$ ，其模长为 $=\sqrt[]{a_{1}^2+a^2_{2}}$ 。其单位向量应该是向量除以模长，单位向量则为 $\frac{(a_{1},a_{2})}{\sqrt[]{a_{1}^2+a^2_{2}}}$

向量内积

又叫向量点积、向量点乘。
代数定义
是两个向量对应位置的元素相乘再相加。例如，有一张购物小票，有一列是购买商品的单价向量 $a=(a_{1},a_{2},...,a_{n})$ ，有一列是购买商品的数量向量 $b=(b_{1},b_{2},...,b_{n})$ ，那么你这张小票的购物总金额就是a和b的内积。总价 $c=\sum_{i=1}^n a_{i} \cdot b_{i}$ 。这是代数定义。
几何定义
向量a和向量b的点积，就是向量a在向量b方向的“有效贡献”（投影长度）乘以b向量的模长。
它的公式为 $\cdot b =|a| \cos(\theta) |b|$ ,写好看一点就是
$\cdot b =|a|\cdot |b| \cos(\theta)$

内积还可以表示两个向量的线性相关度。将两个向量归一化得到单位向量，也就是|a|=|b|=1，内积就表示他们夹角的余弦值，即 $\cos(\theta)=a \cdot b$

这里着重研究了一下为什么它的几何意义是向量a在向量b方向的“有效贡献”（投影长度）乘以b向量的模长？

向量外积

又叫向量叉积、叉乘。
$\times b$
其结果不像内积的运算结果是一个标量，向量外积的训练结果是也给向量。
向量外积大小=大小等于两个向量所构成的平行四边形面积值。
$|b|\sin(\theta)$
向量方向满足右手螺旋定则，从第一个向量向第二个向量，按照劣弧方向环握右手，拇指方向就是向量的方向。