科技
设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置:科技 > 快讯 >

“悟道·天鹰”(Aquila)发布24小时后,摩尔线程率先实现兼容适配

“悟道·天鹰”(Aquila)发布24小时后,摩尔线程率先实现兼容适配
2023-06-13 12:31:30 来源:看点时报

6月9日-10日,智源研究院在北京智源大会上重磅发布了全面开源的“悟道3.0”系列大模型,包括“悟道·天鹰”(Aquila)语言大模型等领先成果。目前,摩尔线程已率先完成对“悟道·天鹰”(Aquila)大模型的推理兼容适配,整个适配过程仅花费不到6小时时间,便已实现与摩尔线程自研MUSAChat应用的无缝集成。此前,摩尔线程曾在ChatGLM发布后24小时内实现适配,并在数小时内适配LLaMA模型,摩尔线程CUDA兼容的技术能力一再被验证。

这充分得益于摩尔线程强大的代码移植工具“musify”。该工具可快速将现有的CUDA程序迁移至摩尔线程MUSA,零成本完成CUDA代码自动移植,之后用户短时间内即可完成热点分析和针对性优化,大大缩短迁移优化的周期,从而使得大模型适配形成了标准“流水线作业”,让开发者可以省时、省力、省事、省心。

目前,基于摩尔线程打造的AI与云计算平台,已经可以运行ChatGLM、Stable Diffusion、LLaMA、“悟道3.0”等开源大模型,以及摩尔线程自研的MUSAChat和MUSABert等模型的部分训练和推理应用。借助摩尔线程元计算统一系统架构MUSA,用户可以复用PyTorch开源社区的大量模型算子,降低开发成本。与此同时,摩尔线程开源的MT Pytorch可以支持多种模型的推理,覆盖CV、NLP、语音等多个领域,能够运行典型的大模型分布式多卡推理,也可以支持单机多卡与多机多卡的分布式训练。利用数据并行、模型并行以及ZERO等分布式训练技术,MT PyTorch还可以完成简单基础模型以及典型Transformer结构NLP语言模型的训练。

据悉, 智源此次发布的“悟道3.0”系列开源模型涵盖语言、视觉、多模态等基础大模型,其中,“悟道·天鹰”(Aquila)语言大模型是首个具备中英双语知识、支持商用许可协议、国内数据合规需求的开源语言大模型。其在中英文高质量语料基础上从0开始训练,通过数据质量的控制、多种训练的优化方法,实现在更小的数据集、更短的训练时间内,获得比其他开源模型更优的性能。

“悟道・天鹰(Aquila)”语言大模型开源商用许可无疑将会成为自主大语言模型产业生态的一个里程碑事件。摩尔线程也愿与众多优秀的基础模型供应商深度合作携手从硬件、算子、算法多个方面进行深度优化,从硬件、软件、模型、业务多个维度赋能应用开发商,致力于让大模型更好赋能千行百业。

关于摩尔线程

摩尔线程智能科技(北京)有限责任公司是一家以全功能GPU芯片设计为主的集成电路高科技公司,能够为广泛的科技生态合作伙伴提供强大的计算加速能力,致力于打造为下一代互联网提供多元算力的元计算平台。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

关键词:

责任编辑:kj005

文章投诉热线:156 0057 2229  投诉邮箱:29132 36@qq.com
关键词:

ARH5技术助力企业销售升级,诺华视创为您提供专业解决方案

2023-06-09 14:11:07ARH5技术助力企业销售升级,诺华视创为您提供专业解决方案

直击业绩说明会 |孚能科技:SPS下半年放量 降本增效加快产能落地

2023-06-09 10:04:48直击业绩说明会 |孚能科技:SPS下半年放量 降本增效加快产能落地

看见数智未来!中力电动叉车携多场景智能物流解决方案闪耀LET2023

2023-05-22 14:35:46看见数智未来!中力电动叉车携多场景智能物流解决方案闪耀LET2023

十万亿新兴工业新能源市场正式诞生

2023-05-15 14:18:27十万亿新兴工业新能源市场正式诞生

中力电动叉车助力杭州市完成首台“油换电”

2023-05-15 11:49:53中力电动叉车助力杭州市完成首台“油换电”

智能物流 数智工厂!5月18日,一睹中力智能搬运新生态

2023-05-15 11:49:18智能物流 数智工厂!5月18日,一睹中力智能搬运新生态

相关新闻

最新资讯