广州手机网站建设费用,关闭评论 WordPress,做软件开发的人厉害吗,网站qq登录 开发我们正处于人工智能的“寒武纪大爆发”时期。在过去的十年中#xff0c;人工智能已经从理论和小型测试发展到企业规模的使用案例。但是#xff0c;用于运行人工智能系统的硬件虽然越来越强大#xff0c;但在设计时却没有考虑到当今的人工智能。随着人工智能系统规模的扩大人工智能已经从理论和小型测试发展到企业规模的使用案例。但是用于运行人工智能系统的硬件虽然越来越强大但在设计时却没有考虑到当今的人工智能。随着人工智能系统规模的扩大成本也随之飙升。而摩尔定律即处理器电路密度每年翻一番的理论已经放缓。但是位于加利福尼亚州阿尔马登的 IBM 研究实验室经过近二十年的努力终于完成了一项新的研究它有可能彻底改变我们如何高效地扩展强大的人工智能硬件系统。自半导体工业诞生以来计算机芯片主要遵循相同的基本结构即处理单元和存储待处理信息的内存是离散存储的。虽然这种结构使得设计更加简单几十年来一直能够很好地扩展但它也造成了所谓的冯-诺依曼瓶颈即在内存、处理单元和芯片内的任何其他设备之间不断地来回切换数据都需要时间和能量。IBM 研究院的达曼德拉-莫德哈Dharmendra Modha和他的同事们从大脑的计算方式中汲取灵感旨在改变这种状况。莫德哈说它开辟了一条与冯-诺依曼架构完全不同的道路。过去八年来Modha 一直在研究一种用于神经推理的新型数字人工智能芯片这就是 NorthPole。它是 Modha在2014年开发的类脑芯片 TrueNorth 的延伸。在对流行的 ResNet-50 图像识别和 YOLOv4 物体检测模型的测试中新的原型设备比目前市场上的任何其他芯片都表现出更高的能效、更高的空间效率和更低的延迟速度大约是 TrueNorth 的 4000 倍。NorthPole 芯片取得的第一批令人鼓舞的成果发表在今天的《科学》杂志上。Modha表示NorthPole是芯片架构的一个突破它在能源、空间和时间效率方面都有巨大的改进。以ResNet-50模型为基准NorthPole的效率大大高于普通的12纳米GPU和14纳米CPU。(在这两种情况下NorthPole 的能效是普通 12nm GPU 和 14nm CPU 的 25 倍NorthPole 本身就是基于 12nm 节点处理技术构建的。就每十亿个晶体管每秒所需的解释帧数而言NorthPole 在延迟和计算所需空间方面也更胜一筹。根据 Modha 的说法在 ResNet-50 上NorthPole 的性能优于所有主流架构甚至优于那些使用更先进技术工艺的架构例如使用 4nm 工艺实现的 GPU。它是如何做到比现有芯片的计算效率如此之高的呢NorthPole 最大的不同之处在于设备的所有内存都在芯片上而不是单独连接。没有了冯-诺依曼瓶颈该芯片进行人工智能推理的速度大大快于市场上的其他芯片。NorthPole 采用 12 纳米节点工艺制造在 800 平方毫米内包含 220 亿个晶体管。它有 256 个内核在 8 位精度下每个内核每个周期可执行 2,048 次运算在 4 位和 2 位精度下运算次数有可能分别增加一倍和四倍。Modha说这是一个芯片上的整体网络。   Modha说从架构上讲NorthPole模糊了计算与内存之间的界限。在单个内核层面NorthPole表现为接近计算的内存而在芯片外部在输入输出层面它表现为活动内存。这使得 NorthPole 很容易集成到系统中并大大减轻了主机的负担。但是NorthPole 的最大优势同时也是一种限制它只能轻松地从板载内存中提取数据。如果必须从其他地方获取信息芯片上可能实现的所有加速都会被削弱。通过一种称为 扩展scale-out的方法NorthPole 可以将更大的神经网络分解成适合 NorthPole 模型内存的更小的子网络并将这些子网络连接到多个 NorthPole 芯片上从而支持更大的神经网络。因此虽然一个 NorthPole或一组 NorthPole 的总和上有充足的内存可用于许多对特定应用有用的模型但这种芯片并不是万能的。Modha 说我们不能在上面运行 **-4但我们可以为企业需要的许多模型提供服务。当然NorthPole 也只能用于推理。这种功效意味着该设备也不需要笨重的液冷系统来运行--风扇和散热片就足够了--也就是说它可以部署在一些相当狭小的空间里。 NorthPole 的潜在应用尽管对 NorthPole 芯片的研究仍在进行中但其结构适合新兴的人工智能用例以及更成熟的用例。在测试过程中NorthPole 团队主要关注与计算机视觉相关的应用部分原因是该项目的资金来自美国国防部。考虑的一些主要应用包括检测、图像分割和视频分类。但它也在其他领域进行了测试如自然语言处理在仅编码器的 BERT 模型上和语音识别在 DeepSpeech2 模型上。该团队目前正在探索将纯解码器大型语言模型映射到 NorthPole 扩展系统。一想到这些人工智能任务各种天马行空的用例就会涌上心头从自动驾驶汽车到机器人、数字助理或空间计算。许多需要实时处理大量数据的边缘应用都非常适合 NorthPole。例如NorthPole 有可能成为将自动驾驶汽车从需要设定地图和路线才能在小范围内运行的机器转变为能够对罕见的边缘情况进行思考并做出反应的设备。这些边缘情况正是 NorthPole 未来应用的甜蜜点。NorthPole 可使卫星监控农业和管理野生动物种群监控车辆和货运以减少道路拥堵安全操作机器人以及检测网络威胁以确保企业安全。下一步工作这只是 Modha 在 NorthPole 上工作的开始。目前最先进的中央处理器是 3 纳米而 IBM 本身已经在 2 纳米节点上进行了多年的研究。这意味着除了基本的架构创新外NorthPole 还可以在几代芯片处理技术上实现从而不断提高效率和性能。 NorthPole大部分成员合照中为Modha但对 Modha 来说这只是他过去 19 年职业生涯中的一个重要里程碑。在这段时间里他一直在研究受大脑启发的数字芯片他知道大脑是我们已知的最节能的处理器并一直在寻找以数字方式复制大脑的方法。TrueNorth 的灵感完全来源于大脑中的神经元结构--其中的数字 突触 就像蜜蜂的大脑一样多。但 2015 年 Modha 坐在旧金山一个公园的长椅上说他正在思考自己迄今为止的工作。他相信将传统处理设备的精华与大脑的处理结构结合在一起一定会有所收获因为大脑中的记忆和处理都是穿插进行的。莫德哈认为答案就是 大脑启发的计算但具有硅片的速度。在接下来的八年里 Modha 和他的同事们一心一意、密不透风地致力于将这一愿景变为现实。他们在阿尔马登默默无闻地工作着直到今年他们才就自己的工作发表过任何演讲或论文。每个人都带来了不同的技能和观点但每个人都通力合作因此团队的整体贡献远远大于各部分的总和。现在我们的计划是展示 NorthPole 的能力同时探索如何将设计转化为更小的芯片生产流程并进一步探索架构的可能性。这项工作源于一个简单的想法--我们如何才能制造出像大脑一样工作的计算机--经过多年的基础研究我们终于找到了答案。如今只有在 IBM 研究院这样的地方才有可能实现这一目标因为这里有足够的时间和空间来探索计算领域的重大问题以及这些问题会将我们带向何方。NorthPole是大脑在硅片镜面上的微弱呈现。