腾讯云如何创建网站,网站建设便宜不可信,api网站网址大全,网络营销的方式有哪些?举例说明来源#xff1a;图灵教育猜一猜#xff0c;下图中是什么动物#xff1f;图1 看图猜动物尽管图中的动物胖得出奇#xff0c;你也应该能够猜到它是一只长颈鹿。人类的大脑拥有强大的辨识能力#xff0c;它是一个由差不多 800 亿个神经元组成的复杂网络。即使某物并非我们熟知… 来源图灵教育猜一猜下图中是什么动物图1 看图猜动物尽管图中的动物胖得出奇你也应该能够猜到它是一只长颈鹿。人类的大脑拥有强大的辨识能力它是一个由差不多 800 亿个神经元组成的复杂网络。即使某物并非我们熟知的模样我们也能够轻松地识别。大脑神经元彼此协同工作它们把输入信号比如长颈鹿的图片转换成相应的输出标签比如“长颈鹿”。神经网络技术的诞生正是受到人脑神经元的启发。1. 神经网络神经网络是自动图像识别的基础由神经网络衍生出的一些技术在执行速度和准确度上都超过了人类。近年来神经网络技术大热这其中主要有 3 个原因。数据存储和共享技术取得进步。这为训练神经网络提供了海量数据有助于改善神经网络的性能。计算能力越来越强大。GPUgraphics processing unit图形处理器的运行速度最快能达到CPUcentral processing unit中央处理器的 150 倍。之前GPU 主要用来在游戏中显示高品质图像。后来人们发现它能为在大数据集上训练神经网络提供强大的支持。算法获得改进。虽然目前神经网络在性能上还很难与人脑媲美但是已有一些能大幅改善其性能的技术。本文会介绍其中一些技术。自动图像识别是神经网络技术的有力例证它被应用于许多领域包括视觉监控和汽车自主导航甚至还出现在智能手机中用来识别手写体。下面来看看如何训练能识别手写体的神经网络。2. 示例识别手写数字下面示例中使用的手写数字来自于 MNIST 数据库如下图所示。图2 MNIST 数据库中的手写数字为了让计算机读取图像必须先把图像转换成像素。黑色像素用 0 表示白色像素用 1 表示如图 3 所示。如果图像是彩色的则可以使用三原色的色相值来表示。图3 把一幅图像转换为像素一旦图像完成像素化就可以把得到的值交给神经网络。在本例中神经网络总共得到 10 000 个手写数字以及它们实际所表示的数字。在神经网络学过手写数字及其对应标签的联系之后我们拿 1000 个新的手写数字不带标签来测试它看看它是否能够全部识别出来。测试发现神经网络从 1000 个新的手写数字中正确识别出了 922 个即正确率达到了 92.2%。下图是一张列联表可以用它来检查神经网络的识别情况。 图4 列联表图4 列联表总结了神经网络的表现第一行指出共有 85 个“0”神经网络正确识别出 84 个最后一个“0”被错误地识别为“6”。最后一列是识别准确率。从图4 可以看到“0”和“1”的手写图像几乎全部被正确识别出来了而“5”的手写图像最难识别。接下来详细看看那些被识别错的数字。“2”被错误识别成“7”或“8”的情况大约占8%。虽然人能够轻松识别出图5 中的这些数字神经网络却可能被某些特征给难住比如“2”的小尾巴。有趣的是神经网络对“3”和“5”也比较困惑如图6 所示识别错误的情况约占10%。 图5 错误识别“2”图6 错误识别“3”和“5”　尽管出现了这些错误但是神经网络的识别速度远快于人类并且从总体上看神经网络的识别准确率很高。3. 神经网络的构成为了识别手写数字神经网络使用多层神经元来处理输入图像以便进行预测。图7 为双层神经网络示意图。图7 双层神经网络示意图。输入不同但是输出相同其中红色表示被激活的神经元。在图7 双层神经网络中虽然输入是“6”的两幅不同形态的图像但输出是一样的并且该神经网络使用不同的神经元激活路径。尽管每一个神经元组合产生的预测是唯一的但是每一个预测结果都可以由多个神经元组合实现。神经网络通常由如下几部分组成。输入层该层处理输入图像的每个像素。如此说来神经元的数量应该和输入图像的像素数一样多。为简单起见图7 把大量神经元“凝聚”成一个节点。为了提高预测准确度可以使用卷积层。卷积层并不处理单个像素而是识别像素组合的特征比如发现“6”有一个圈和一条朝上的尾巴。这种分析只关注特征是否出现而不关注出现的位置所以即使某些关键特征偏离了中心神经网络仍然能够正确识别。这种特性叫作平移不变性。隐藏层在像素进入神经网络之后它们经过层层转换不断提高和那些标签已知的图像的整体相似度。标签已知是指神经网络以前见过这些图像。虽然转换得越多预测准确度就会越高但是处理时间会明显增加。一般来说几个隐藏层就足够了。每层的神经元数量要和图像的像素数成比例。前面的示例使用了一个隐藏层它包含 500 个神经元。输出层该层产生最终预测结果。在这一层中神经元可以只有一个也可以和结果一样多。损失层虽然图7 并未显示损失层但是在神经网络的训练过程中损失层是存在的。该层通常位于最后并提供有关输入是否识别正确的反馈如果不正确则给出误差量。在训练神经网络的过程中损失层至关重要。若预测正确来自于损失层的反馈会强化产生该预测结果的激活路径若预测错误则错误会沿着路径逆向返回这条路径上的神经元的激活条件就会被重新调整以减少错误。这个过程称为反向传播。通过不断重复这个训练过程神经网络会学习输入信号和正确输出标签之间的联系并且把这些联系作为激活规则编入每个神经元。因此为了提高神经网络的预测准确度需要调整管理激活规则的部件。4. 激活规则为了产生预测结果需要沿着一条路径依次激活神经元。每个神经元的激活过程都由其激活规则所控制激活规则指定了输入信号的来源和强度。在神经网络的训练过程中激活规则会不断调整。图8 展示了神经元 G 的一条激活规则它模拟的是图7 中的第一个场景。经过训练神经网络认识到神经元 G 和上一层的神经元 A、C、D 有联系。这 3 个神经元中的任何一个被激活都会作为输入信号传递给神经元 G。图8 神经元激活规则示例这些联系的强度各不相同联系强度也被称为权重记作w。在图8 中与神经元 C 相比w 1神经元 A 激活后发送的信号更强w 3。联系也是有方向的例如神经元 Dw –1实际上会减弱传送给神经元G 的输入信号。在计算神经元 G 的输入信号总强度时把上一层与之有关联的所有激活神经元的权重加起来。如果信号强度大于指定的阈值神经元 G 就会被激活。在图8 中最终的信号强度为2即3 – 1由于神经元 G 的阈值为3因此它仍然处于未激活状态。良好的激活规则有助于产生准确的预测结果其关键在于确定合适的权重和阈值。另外神经网络的其他参数也需要调整比如隐藏层的数量、每层的神经元数量等。可以使用梯度下降法优化这些参数。5. 局限性尽管神经网络能在一定程度上模拟人脑但其本身仍然存在一些缺点。为了克服这些缺点人们提出了各种各样的方法。▶ 需要大样本神经网络的复杂性使之能够识别带有复杂特征的输入但前提是我们能为它提供大量训练数据。如果训练集太小就会出现过拟合问题算法过度敏感它把数据中的随机波动错误地当成持久模式。如果很难获得更多训练数据则可以使用如下几种技术来最大限度地降低过拟合风险。二次取样为了降低神经元对噪声的敏感度需要对神经网络的输入进行“平滑化”处理即针对信号样本取平均值这个过程叫作二次取样。以图像处理为例可以通过二次取样缩小图像尺寸或者降低红绿蓝3 个颜色通道的对比度。畸变当缺少训练数据时可以通过向每幅图像引入畸变来产生更多数据。每幅畸变图像都可以作为新的输入以此扩大训练数据的规模。畸变应该能够反映原数据集的特征。以手写数字为例可以旋转图像以模拟人们写字的角度或者在特定的点进行拉伸和挤压这叫作弹性变形从而把手部肌肉不受控制而抖动的特点表现出来。丢弃如果可供学习的训练样本很少神经元就无法彼此建立联系这会导致出现过拟合问题因为小的神经元集群之间彼此会产生过度依赖。为了解决这个问题可以在训练期间随机丢弃一半的神经元。这些遭丢弃的神经元将处于未激活状态剩下的神经元则正常工作。下一次训练丢弃一组不同的神经元。这迫使不同的神经元协同工作从而揭示训练样本所包含的更多特征。▶ 计算成本高训练一个由几千个神经元组成的神经网络可能需要很长时间。一个简单的解决方法是升级硬件但这会花不少钱。另一个解决方法是调整算法用稍低一些的预测准确度换取更快的处理速度常用的一些方法如下。随机梯度下降法为了更新某一个参数经典的梯度下降法在一次迭代中使用所有训练样本。当数据集很大时这样做会很耗时一种解决方法是在每次迭代中只用一个训练样本来更新参数。这个方法被称为随机梯度下降法虽然使用这个方法得到的最终参数可能不是最优的但是准确度不会太低。梯度下降法简单地说梯度下降法先初步猜测合适的权重组合再通过一个迭代过程把这些权重应用于每个数据点做预测然后调整权重以减少整体预测误差。这个过程类似于一步步走到山底下。每走一步梯度下降法都要判断从哪个方向下是最陡峭的然后朝着那个方向重新校准权重。最终我们会到达最低点这个点的预测误差最小。小批次梯度下降法虽然使用随机梯度下降法能够提升速度但最终参数可能不准确算法也可能无法收敛导致某个参数上下波动。一个折中方法是每次迭代使用训练样本的一个子集这就是小批次梯度下降法。全连接层随着加入的神经元越来越多路径的数量呈指数增长。为了避免查看所有可能的组合可以使初始层处理更小、更低级的特征的神经元部分连接。只有最后几层处理更大、更高级的特征才对相邻层的神经元进行全连接。▶ 不可解释神经网络由多层组成每层都有几百个神经元这些神经元由不同的激活规则控制。这使得我们很难准确地找到产生正确预测结果的输入信号组合。这一点和回归分析不同回归分析能够明确地识别重要的预测变量并比较它们的强弱。神经网络的“黑盒”特性使之难以证明其使用得当在涉及伦理问题时尤其如此。不过人们正在努力研究每个神经元层的训练过程以期了解单个输入信号如何影响最终的预测结果。尽管存在上述局限性但是神经网络本身拥有的强大能力使之得以应用于虚拟助手、自动驾驶等前沿领域。除了模拟人脑之外神经网络在一些领域已经战胜了人类比如谷歌公司的AlphaGo 在2015 年首次战胜了人类棋手。随着算法不断改进以及计算能力不断提升神经网络将在物联网时代发挥关键作用。6. 小结神经网络由多个神经元层组成。训练期间第 1 层的神经元首先被输入数据激活然后将激活状态传播到后续各层的神经元最终在输出层产生预测结果。一个神经元是否被激活取决于输入信号的来源和强度这由其激活规则指定。激活规则会根据预测结果的反馈不断调整这个过程被称为反向传播。在大数据集和先进的计算硬件可用的情况下神经网络的表现最好。然而预测结果在大部分时候都是无法解释的。——本文节选自《白话机器学习算法》未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。  如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”