网站盈利的10种方式,我的班级网站模板,做网站培训,网站 网页区别是什么目录 前言边云协同时代背景边缘人工智能边缘挑战英特尔边云协同的创新成果最后 前言 最近观看了英特尔On技术创新大会直播#xff0c;学到了挺多知识#xff0c;其中对英特尔高级首席 AI 工程张宇博士讲解的边云协同加速 AI 解决方案商业化落地特别感兴趣。张宇博士讲解了英… 目录 前言边云协同时代背景边缘人工智能边缘挑战英特尔边云协同的创新成果最后 前言 最近观看了英特尔On技术创新大会直播学到了挺多知识其中对英特尔高级首席 AI 工程张宇博士讲解的边云协同加速 AI 解决方案商业化落地特别感兴趣。张宇博士讲解了英特尔如何利用边云协调来加速AI解决方案的商业化落地以及对边缘人工智能发展趋势的判断以及在促进边缘人工智能落地方面在硬件、软件方面正在进行的创新。 边云协同时代背景 当今万物互联的时代数字化的转型不断加速采集的数据量不断增加数据量的增加推动着计算模式的创新。我们可以利用互联网技术随时随地共享网上的计算资源、存储资源、应用资源也有许多应用在服务我们的生活张宇博士举例说在前不久的双十一在星通数据上颁布了一些统计结果综合所有电商、直播平台整个销售额已经超过11000亿元人民币又创新高这么大的销售额的背后是需要一个云计算平台支撑的。所以云计算技术极大的改善了我们的生活。 随着行业数字化转型对于敏捷链接、实施应用、智能化以及数据的安全保护的诉求在不断增加从而推动了边缘计算发展。计算的模式将在云计算和边缘计算之间建立新的平衡。从用户体验来说云边协同也将给用户提供更高的体验。对于边缘计算来说他处理的是边缘局部的数据并不能形成对于全局的认知。 张宇博士举例现在的智能交通虽然现在的摄像头已经可以处理人、车、物等相关信息能看到且分辨出来人的性别、车牌、车款、车的颜色但是通过单一一个摄像头并不知道车是从哪里来又从哪里去。并不能从单一一个摄像头的信息来了解整个车的轨迹。必须得通过云计算的信息在平台上的汇总才能得到一个完整的轨迹信息所以云边协同将是今后的主旋律。 边缘人工智能 如今行业信息需要更加智能化、 多样化的应用这些都离不开网络。张宇博士说如果以5G的无线接入为例的话随着与无线接入网RAN相关的一些加速的功能被整合到了通用的处理器之上已经可以实现5G vRAN的商业化和虚拟化。然而英特尔在2023年初就展示了基于第4代英特尔至强可扩展处理器的5G vRAN的解决方案这种解决方案可以极大的帮助运营商降低运营成本。 人工智能的应用在不断的扩展从最初的智能交通、智慧城市如今已经进入到了零售、金融、医疗、教育等各行各业并且人工智能的技术不仅仅发生在云端同时已经越来越多走向了边缘。预计到2030年全球的边缘市场的规模将达到4450亿美元人工智能成为头号的工作负载。 我们都了解到人工智能在许多行业都已经落地并在边缘开始逐渐普及。在当下边缘人工智能的绝大使用场景需要利用数据中心极大的算力以及大量的数据去训练一个网络模型然后将训练的结果推送到边缘去执行人工智能的推理工作。也可以说当下人工智能模式处于一个边缘推理的阶段。 但是这种会产生一个弊端会限制人工智能模型的更新频率。张宇博士举例子说在自动驾驶领域不同的路况、不同的驾驶行为这些差异是很大的。这样会造成我们实际采集到的数据跟我们车辆出场时去训练一个自动驾驶的判决模型所用到的训练的数据之间实际上是有一定的差异这样就造成训练之后的模型其泛化能力受到一定的限制。如果要得到准确的数据就需要在现场采集到的数据根据真实驾驶员的驾驶行为不断的训练自动驾驶的人工智能网络模型这样效果会更佳所以边缘人工智能发展的下一个阶段一定是边缘训练阶段。 边缘训练并不是把边缘数据中心已有的一些训练方法直接搬到边缘来执行。利用边缘去从事训练需要解决一些特定的问题需要有更加自动化的工具去完成从数据采集到数据化自动化标注到数据训练以及训练完之后到推送到相应的推理机制去执行推理操作。所以自动化的工具对完成边缘训练时至关重要的。 边缘挑战 张宇博士提到无论是在开发阶段还是运营阶段都有很多的边缘挑战需要面对。部署一个大语言模型比如AIGC的应用不可能把这样的一个大的模型原封不动存储在边缘一定要对这些模型针对特定行业的应用场景进行简化来降低对存储和计算的要求只有这样才可能部署在边缘。除此之外解决运营过程中有关数据保护的问题。现在很多服务提供商已经在一个成熟的大语言模型当成自己的一个无形的资产。当模型运行在数据中心我们可以各种物理手段对它进行保护限制访问权限但是模型部署在边缘远离服务提供商的时候如何对它进行保护这些问题都需要解决。 英特尔边云协同的创新成果 张宇博士在直播中列举了 英特尔在边云协同所做出的创新。英特尔采取同步发展通用的CPU处理器和通用的GPU处理器。在CPU处理器不断增强英特尔至强可扩展处理器从第4代英特尔至强可扩展处理器开始增加高矩阵扩展技术AMX技术。当下的人工智能是以卷积神经网络为基础而卷积神经网络之间的基本运算是矩阵之间的乘法运算。以往在通用处理器上去实现矩阵的乘法运算是把它拆解成若干个向量运算然后将向量运算的结果汇总起来得到矩阵的乘法运算结果需要进行多步操作。而英特尔的AMX技术可以直接对矩阵的乘法运算进行加速从而减少处理步骤提高了效率对人工智能的推理以及训练都起到了很大支撑作用。 在安全方面英特尔提供了QAT技术可以在处理核心减少的情况下将压缩的速度提高一倍。在数据的安全领域使用提供了软件防护扩展技术SGX技术它可以将一些关键的数据和程式提供一个安全空间还能够提供一个很小的可信任边界。有了SGX技术支持可以将边缘技术应用在金融、医疗等等对安全比较敏感的领域。 张宇博士在直播的最后提到了OpenVINO它是英特尔给开发人员提供的一个方便处理边缘推理的工具套件可以让开发人员在开放的人工智能框架上所设计和训练好的网络模型利用OpenVINO把它下发到不同的硬件平台去执行推理操作。它可以帮助开发人员从模型的设计训练、模型优化以及模型部署一个完成的开发周期。 最后 看完学到了很多知识感受颇深边云协同的确是时代的趋势将是未来几年的主旋律而边缘人工智能发展的下一个阶段一定是边缘训练科技进步带动各行业技术革新期待英特尔未来更多的创新应用