陈左宁院士:人工智能模型和算法的七大发展趋势

来源:C114通信网、北京物联网智能技术应用协会

在近日举行的“第十六届CCF全过高性能计算学术年会”上,中国工程院副院长、中国科协副主席、中国工程院院士陈左宁发表了题为《人工智能进展对算力需求分析》的演讲。在演讲中,她阐述了人工智能模型和算法的七大发展趋势。

陈左宁表示,经典的HPC的算力环境可支持现有人工智能的模型算法,但性能功耗比和性价比都较低,并非最适合的,需要创新体系结构和软件架构。

据介绍,人工智能的发展经历了三个历程。从符合主义到连接主义再到行为主义。符号主义主要是用公理和逻辑体系搭建一套人工智能系统。连接主义源于仿生学,主张模仿人类的神经元,用神经网络的连接机制连接人工智能。行为主义控制论意为假设智能取决于感知和行动。

陈左宁称,三大流派日趋融合,协同发展,人工智能的核心特征之一是“关系”。

据介绍,“关系”计算的表现形式有三种。一是连接关系,神经网络中神经网元间的连接。反向传播算法中的梯度传播;进化算法中的变异。二是逻辑关系。RNN中的循环连接以及知识图谱中的关联关系。三是因果关系,贝叶斯、决策树以及强化学习中的控制连接。

在演讲中,陈左宁详细介绍了人工智能模型和算法发展的七大趋势。

趋势一、向无监督的方向发展。主要表现为:适应“小数据”,减少标注需求,减少计算开销。要向无监督方向发展要经历几个阶段。人工智能主动学习阶段,算法主动提出标注请求,将一些经过筛选的数据提交给专家标注。迁移学习阶段,增强训练好的模型,解决目标领域中仅有的少量有标签样本数据的问题。强化学习阶段,用agents构成系统来描述行为并给予评价和反馈学习。

趋势二、可解释(XAI)越来越重要。深度学习如何进一步设计算法和参数,提高泛化能力,需要模型算法可解释。对抗样本导致模型失效,训练数据不可理的被局部放大。模型愈加复杂,失去了可调式性和透明度。

“此时,对于技术的需求就是将可解释技术融入软件环境中去。有两个方法。第一为现有软件框架增加可解释技术接口。提供事后解释的基本技术,比如可视化能力,局部数据分析,特征关联等。现有的软件原生支持多种可解释算法。提供算法或指标评估模型的可解释能力。第二是“人—AI”系统结合。以人为中心,由决策理论驱动的XAI的概念框架。” 陈左宁表示。

趋势三、人工智能的自学习、自演化。这个过程有三个阶段。一是自动化机器学习,主要是利用数据驱动方式来做决策。而是限制约束条件的AutoML。三是不舍初始条件,搜索空间极大丰富的自演化AutoML。这一趋势对于技术的需求有计算框架支撑、大算力支撑以及辅助设备支撑。

趋势四、多种算法、模型的有机结合。单一的算法或模型难以解决实际问题。比如问题分解和多种模型有机组合。人工智能模型的发展希望融入多种技术来解决已有问题。比如,通过贝叶斯技术增强因果关系分析;通过数据生成技术减少标注数据需求;通过AutoML技术提高搜索和挖掘能力。与此同时,人工智能的应用流程也越来越复杂,如,不同流程设计的设备以及环境多样;需要不同的算法和模型组合。多种算法、模型的有机组合的需求是计算存储等可拓展能力。基础软件能力提升,支持复杂模型,不同类型软件的协同和交互。

趋势五、人工智能应用需求需要关注全生命周期。全周期不同人物具有不同时间,空间和计算需求。全生命周期都要考虑可解释、公平等需求。

趋势六、分布式、分散式的需求越来越突出。首先,大型、复杂模型,海量数据需要并行,分布式计算。其次,联邦学习等分散场景需要分布式ML原生算法。使多个参与者可以在不共享数据的情况下构建通用的,健壮的机器学习模型,从而解决关键问题。不同节点上的数据集异构(分布不相同),大小可跨越几个数量级。节点可能不可靠,节点之间的互联可能不稳定。类别优集中式、分散式以及迭代式。这一趋势对安全性、架构、提升效率和效用、健壮性有需求。

趋势七,深度推理。从计算到感知再到认知和意识,人工智能模型和算法的发展趋势七是认知理论的进一步突破。这一趋势的需求有效应对多种形式的不确定性。其中概率计算根据不同精度计算需求设计硬件。根据数据和计算的稀疏分布设计。另外,这一趋势的需求还有类脑、仿脑体系结构以及模拟计算。

陈左宁总结说,总体来说,AI趋势对算力的需求主要是对软件栈的需求。从AI发展趋势的特点来看,关系、概率、近似计算更突出;不要求高精度、高容错;节点上计算简单;人在环路中需求明显。因此,对软件栈的需求更加多样,比如复杂、动态、分布式和分散;支撑新场景以及架构创新。目前AI算法仍在基本计算模式中。

陈左宁坦言:“未来的复杂问题可能会超越此模式,目前的模型和算法主要是低精度张量计算。”

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/485961.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ABAP术语-World Wide Web

World Wide Web原文:http://www.cnblogs.com/qiangsheng/archive/2008/03/21/1115728.htmlInternet service. The World Wide Web generates documents and presents them to Internet users in a standard format known as HTML. These documents can be linked to…

Leetcode--169. 求众数

给定一个大小为 n 的数组,找到其中的众数。众数是指在数组中出现次数大于 ⌊ n/2 ⌋ 的元素。 你可以假设数组是非空的,并且给定的数组总是存在众数。 示例 1: 输入: [3,2,3] 输出: 3 示例 2: 输入: [2,2,1,1,1,2,2] 输出: 2 排序之后遍历一次即可 …

模板引擎工作原理_广州seo了解下搜索引擎的工作原理是什么

一、搜索引擎工作的基本原理搜索引擎是根据以下原则计算的:首先,我们知道在web浏览器、百度浏览器、google浏览器、360浏览器中都配置了不同的搜索引擎。它们都有一个共同点,一开始捕获一个模块,然后这个模块就像一个软件程序一样…

浪潮服务器无线网卡驱动,浪潮服务器网卡驱动安装.doc

文档介绍:蚃服务器安装redhat5.2系统无法识别网卡的情况下肂罿进入linux命令终端界面,使用命令袄蒂[******wapdbrac1~]#kudzu--probe--work膂莀界面上就会显示网卡的型号以及机器上都有几个网卡薆蒅第一步:在网上下载这个网卡型号的linux版本驱动程序节薇第二步:使用…

罗杰·科恩伯格:基础科学——人类进步的希望

论坛 演讲编辑: ∑Gemini来源:数据实战派人物介绍:罗杰科恩伯格(Roger Kornberg),世界顶尖科学家协会主席,斯坦福大学温泽医学教授。因对“真核生物转录的分子基础”的研究,获得2006年诺贝尔化学奖。罗杰•…

vue3获取验证码+背景切换

需要安装element-plus组件库 用户获取验证码后按钮会被禁用&#xff0c;等待10秒后重新获取验证码 验证码 元素布局template部分 <template><div><el-button type"success" round :disabled"isSend" click"countDown">{{ c…

Leetcode--19. 删除链表的倒数第N个节点

给定一个链表&#xff0c;删除链表的倒数第 n 个节点&#xff0c;并且返回链表的头结点。 示例&#xff1a; 给定一个链表: 1->2->3->4->5, 和 n 2. 当删除了倒数第二个节点后&#xff0c;链表变为 1->2->3->5. 说明&#xff1a; 给定的 n 保证是有效…

python 几种常用测试框架

测试的常用规则 一个测试单元必须关注一个很小的功能函数&#xff0c;证明它是正确的&#xff1b;每个测试单元必须是完全独立的&#xff0c;必须能单独运行。这样意味着每一个测试方法必须重新加载数据&#xff0c;执行完毕后做一些清理工作。通常通过setUp()和setDown()方法处…

jdbc获取结果行数,如何获取JDBC中的行数?

Ive executed a JDBC query to obtain a resultset. Before iterating over it, Id like to quickly find out how many rows were returned. How can I do this with high performance?Im using Java 6, Oracle 11g, and the latest Oracle JDBC drivers.解决方案Youre going…

服务器系统盘最佳设置,启用系统的硬盘高级性能设置优化硬盘到最佳性能

硬盘性能直接关系到网吧机器的性能&#xff0c;如果是无盘服务器上的硬盘&#xff0c;那更是整个网吧的核心性能。所以一定要好好优化下&#xff0c;下面推荐一个小技巧吧&#xff1a;启用硬盘高级性能 \ 硬件管理器&#xff0c;选一个磁盘&#xff0c;右键属性&#xff0c;上…

ASML 1nm光刻机研究进展:摩尔定律尚未结束

文章来源&#xff1a;Sparrows NEWS、新智元摩尔定律的终点是什么&#xff1f;随着5nm光刻技术的大规模生产和3nm的突破&#xff0c;摩尔定律的终结变得越来越难以捉摸。可以肯定的是&#xff0c;随着过程的进一步改进&#xff0c;其成本将成倍增加。根据日本媒体Mynavi的报道&…

Leetcode--53. 最大子序和

给定一个整数数组 nums &#xff0c;找到一个具有最大和的连续子数组&#xff08;子数组最少包含一个元素&#xff09;&#xff0c;返回其最大和。 示例: 输入: [-2,1,-3,4,-1,2,1,-5,4], 输出: 6 解释: 连续子数组 [4,-1,2,1] 的和最大&#xff0c;为 6。 进阶: 如果你已经…

redis为什么选择单线程工作模型

1、先说一下为什么出现进程&#xff0c;线程 进程&#xff1a;在计算机发明之初就发现&#xff0c;在输入数据时&#xff08;I/O速度慢&#xff09;&#xff0c;CPU是空闲的&#xff0c;这样就浪费了CPU资源&#xff0c;为了充分利用CPU资源&#xff0c;发明了进程&#xff0c;…

js与c语言效率_JavaScript比c语言的性能差了多少?

我这里先不说和C之间的性能差距&#xff0c;而是展开说JavaScript递归优化问题&#xff0c;有人问我为什么不说性能差距&#xff0c;我&#xff1a;&#xff1f;&#xff1f;&#xff1f;这个问题就跟问地球为什么是圆的一样(明摆着)传统的递归函数&#xff0c;比如:function a…

服务器物理内存总是九十几,Solr总是使用超过90%的物理内存(Solr always use more than 90% of physical memory)...

Solr总是使用超过90&#xff05;的物理内存(Solr always use more than 90% of physical memory)我在solr索引中存储了300000个文档。 并使用4GB RAM作为solr服务器。 但它消耗超过90&#xff05;的物理内存。 所以我把我的数据转移到一台有16 GB RAM的新服务器上。 再次solr消…

​​《自然》2020年十大科学发现出炉:病毒,冷冻电镜与快速射电暴

来源&#xff1a;科研圈作者&#xff1a;陈梦圆、谢一璇、李姗珊、邱燕宁、魏潇科学成就

Http协议--Get和Post区别

1. 请求路径不同 post请求&#xff0c;在url后面不跟上任何的数据 Get请求&#xff0c;在地址后面跟上数据 2. 带上的数据不同&#xff0c;Post请求会使用流的方式写数据。 Get请求是在地址栏上跟数据 3. 由于Post请求使用流的方式写数据&#xff0c; 所以一定需要一个Con…

Hibernate中用到联合主键的使用方法,为何要序列化,为何要重写hashcode 和 equals 方法...

联合主键用Hibernate注解映射方式主要有三种&#xff1a; 第一、将联合主键的字段单独放在一个类中&#xff0c;该类需要实现java.io.Serializable接口并重写equals和hascode&#xff0c;再将该类注解为Embeddable,最后在主类中(该类不包含联合主键类中的字段)保存该联合主键类…

命令行设置dns_dos命令netsh图文教程,设置修改IP地址子网掩码网关命令行改dns...

大家好&#xff0c;我是老盖&#xff0c;首先感谢观看本文&#xff0c;本篇文章做的有视频&#xff0c;视频讲述的比较详细&#xff0c;也可以看我发布的视频。今天我们学习dos命令中的netsh&#xff0c;这个命令是网络命令&#xff0c;它有很多的功能&#xff0c;今天我们用它…

Leetcode--5081. 步进数

如果一个整数上的每一位数字与其相邻位上的数字的绝对差都是 1&#xff0c;那么这个数就是一个「步进数」。 例如&#xff0c;321 是一个步进数&#xff0c;而 421 不是。 给你两个整数&#xff0c;low 和 high&#xff0c;请你找出在 [low, high] 范围内的所有步进数&#x…