科技
设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置:科技 > 快讯 >

AI的“瘦身”革命与绿色发展,智识学研社对话数珩科技董事长张继生

AI的“瘦身”革命与绿色发展,智识学研社对话数珩科技董事长张继生
2024-11-11 11:00:22 来源:今日热点网

人工智能行业的发展,一直与能耗相伴,大量的算力需要海量的电力支持,众多大型科技公司纷纷布局能源公司。但在另一方面,降低能耗,提高效率也是科技公司的优先布局点,《知识分子》鉴于此方面的发展趋势,对话数珩科技创始人&董事长张继生。

降低AI应用能耗,转型服务绿色发展

在现有的业界讨论中,AI能耗问题的困难不仅在于信息不透明,还因为它的边界难以界定。就大模型和算法层面,AI在训练阶段比推理阶段的能耗更高。换句话说,现有的超高能耗不会成为未来AI应用的常态化。

对此,张继生先生说,随着技术的完善,日常使用AI推理的单次能耗有望下降。数珩科技作为一家领先的企业级AI解决方案服务商,一直致力于研究和应用两方面齐头并进,在自研训练大模型的基础上,开发和落地了诸多AI应用。同时为提高AI系统在特定场景中的性能、降低整体能耗,研发出了很多软硬件技术,包括模型压缩、剪枝、量化、异构计算芯片等。通过这些方式,数珩科技将AI大模型在客户实际使用中的耗能进行了有效的降低,为客户服务真实做到降本增效。

专属化AI应用,助力技术落地转化

张继生先生认为,当前AI行业存在一种趋势,即追求大规模、通用型的模型,这些模型参数量巨大,训练成本和能耗极高。然而,这种模式并不适合所有行业和企业,尤其是中小企业。他认为,根据不同行业需求,开发针对性强的小模型,不仅能够大幅降低训练成本和能耗,还能更精准地满足行业需求,实现AI价值的最大化。

数珩科技就在这一方面走在了前列与OpenAI等公司开发的过千亿参数的大规模模型相比,数珩科技与客户紧密合作,深入了解客户需求,并据此开发出更符合实际需求、面向特定领域、参数量在20亿至50亿之间的小模型,这些小模型训练成本和时间都大大降低,同时还能更好地适应特定领域的使用场景。

张继生先生强调,AI的价值最大化需要通过与具体行业应用的深度融合来实现,而不仅仅是追求技术上的极致。实际上,数珩科技基于自研大模型开发的多款AI应用,已经在汽车、教育、快消和人力资源服务行业精准地满足用户需求,提供高效便捷服务。

最后,张继生先生表示,AI行业在追求技术进步的同时,也需要考虑其对环境的影响,寻找更高效、低碳的发展模式。通过开发小而美的模型,不仅能够降低能耗,还能更好地服务于行业需求,实现AI技术的可持续发展。数珩科技也将会持续研发技术和转化应用,以服务客户真实需求为第一位,助力更多客户实现数字化转型。


关键词:

责任编辑:kj005

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com
关键词:

老村落的新惊喜:一台洗碗机引发的时空对话

2024-10-25 16:50:06老村落的新惊喜:一台洗碗机引发的时空对话

知道创宇入选JXCERT网络安全应急技术支撑单位

2024-10-23 14:43:58知道创宇入选JXCERT网络安全应急技术支撑单位

《全球数字契约》开启全球多边数字治理新篇章

2024-10-22 18:28:59《全球数字契约》开启全球多边数字治理新篇章

“民营企业进边疆”在和田:安徽省工商联调研“玉出东山”

2024-10-18 19:08:51“民营企业进边疆”在和田:安徽省工商联调研“玉出东山”

统一出席2024世界农业科技创新大会 分享做客户和地球都爱的产品!

2024-10-15 17:14:23统一出席2024世界农业科技创新大会 分享做客户和地球都爱的产品!

知道创宇蝉联“2024北京民营企业科技创新百强”

2024-10-11 09:23:21知道创宇蝉联“2024北京民营企业科技创新百强”

相关新闻

最新资讯