科技
设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置:科技 > 快讯 >

数据流架构突破AI芯片算力瓶颈,在AI时代提供更高效计算解决方案

数据流架构突破AI芯片算力瓶颈,在AI时代提供更高效计算解决方案
2023-09-07 13:47:28 来源:今日热点网

随着摩尔定律的放缓,传统的指令集架构面临着内存墙问题,芯片有效算力的发挥受到制衡。在这个背景下,人工智能算法的快速发展对算力支撑提出了更高的需求。市场需要高能、低延时、高算力价比的商用AI芯片,需要创新的架构来解除算力的使用限制。

科研团队提出的定制计算激发了AI计算架构设计工程师的新思路,新的AI计算方式需要高能的计算架构支持,数据流架构应运而生,这是一种为深度学神经网络定制的高能AI计算架构。它通过数据流流动次序来控制计算顺序,消除指令操作导致的额外时间开销。

数据流架构能够实现高效流水线运算,同时可并行执行数据访问和数据计算,进一步减少计算单元空闲时间,充分利用芯片的计算资源。这使得数据流架构能够提供更高的实测算力和算力价比。数据流架构的特点包括高算力利用率、高架构通用和高软件易用。在保持计算正确的前提下,它通过不断压缩每个空闲时钟来推高芯片实测能,以接芯片物理极限。同时在保证算法在数据流架构上运行能够实现高芯片利用率,数据流架构通用支持所有主流CNN算法、transformer类CV网络和GPT等大语言模型。通过专为数据流架构定制的编译工具链,算法端到端自动部署用户可以简单两步即可实现算法迁移和部署,降低使用门槛。

随着人工智能的迅速发展,AI算力需求与日俱增。与指令集架构不同的数据流架构,使用专用数据通道连接不同类型的高度优化的计算模块。它基于配置硬件控制和状态寄存器,一边读写,一边计算,节省了数据传输时间和计算时间。利用分布式专用本地内存,提供不同的访问模式以适应不同的AI算子,打破指令级数据依赖,提供张量粒度的优化计算单元,消除取指令和指令解码的开销。

关键词:

责任编辑:kj005

文章投诉热线:156 0057 2229  投诉邮箱:29132 36@qq.com
关键词:

迅雷12PC版全新升级:产品布局轻量化 更聚焦功能体验

2023-09-05 14:19:32迅雷12PC版全新升级:产品布局轻量化 更聚焦功能体验

第十届云鼎奖新增”AI创新奖“,申报火热进行中!

2023-09-04 19:25:49第十届云鼎奖新增”AI创新奖“,申报火热进行中!

幻霄科技推出「线上学」平台 以科技之力创新教育升级

2023-08-17 12:27:40幻霄科技推出「线上学」平台 以科技之力创新教育升级

BLD-me Club会员卡燃情首发,至高尊享7万价值礼遇

2023-08-04 15:45:27BLD-me Club会员卡燃情首发,至高尊享7万价值礼遇

礼赞七十载 奋进新征程 青海省海南藏族自治州庆祝成立70周年

2023-08-03 11:27:57礼赞七十载 奋进新征程 青海省海南藏族自治州庆祝成立70周年

极速直播:体育赛事尽览,仿若身临其境

2023-07-27 15:40:12极速直播:体育赛事尽览,仿若身临其境

相关新闻

最新资讯