科技
设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机 培训 学校 课程
当前位置:科技 > 快讯 >

PC本地推理可媲美云端大模型!联想与清华大学等合作研发新推理引擎技术

PC本地推理可媲美云端大模型!联想与清华大学等合作研发新推理引擎技术
2025-05-07 15:18:20 来源:今日热点网

当三台联想AI PC同时解答2024年高考数学题时,一场关于端侧算力的暗战悄然上演。这一幕发生在2025 年 5 月 7 日,联想创新科技大会(Tech World)上。本届大会以“让AI成为创新生产力”为主题,聚焦混合式人工智能,从个人到企业,全方位展示联想创新技术成果。会上,联想首次定义“超级智能体”三大核心功能——感知与交互、认知与决策、自主与演进,并正式发布“联想天禧”个人超级智能体、“联想乐享”企业超级智能体。

联想展示了其在端侧算力方面的最新创新成果 ——“联想推理加速引擎”。这款由联想、清华大学及无问芯穹联合研发的推理引擎,是专为高效AI PC推理而设计的软硬件协同优化平台,可以让一台普通PC的本地推理能力,媲美OpenAI去年发布的o1-mini云端模型

“联想推理加速引擎”通过高性能并行解码、算子融合优化以及异构计算技术, 实现了多种应用场景下推理速度的大幅提升,以及功耗和内存占用的显著降低。与大模型推理芯片相结合,通过硬件加速与软件优化的无缝协作,进一步放大了性能提升,形成了叠加效应。

为直观展示 “联想推理加速引擎”的实力,现场设置了一场“竞速赛”。三台配置相同的AI PC同时解答2024年高考数学压轴题:

•初代大模型:耗时27秒,答案0分。

•二代大模型:耗时26秒,答案满分。

•二代大模型+“联想推理加速引擎”:耗时13秒,答案满分。

这表明模型能力的提升和 “联想推理加速引擎”对算力的提升,让设备的预填充更为迅速、解码速度更快、推理时间更短,同时占用内存更少、能耗更低,设备上的 AI 能力得到了大幅提升。

过去一年,AI 领域创新不断。尤其是DeepSeek的出现将算法创新与工程优化深度融合,推动了 AI 算力和模型技术的普及,更进一步加速了强推理模型端侧化的发展。

联想集团董事长兼CEO杨元庆表示,很快大家就会在即将发布的下一代 AI PC 上体验到 “联想推理加速引擎”带来的强大本地推理能力,其性能可以与云端大模型相媲美,但成本却低得多。“今天随着AI需求的爆发式增长,端侧计算和推理能力的提升将依然保持指数级增长的速度,甚至更快。未来12个月,端侧AI综合能力实现至少三倍的提升,这也许不是梦想! ”

也正是由于端侧AI能力的提升,以及跨设备跨生态的端边云协同,使得个人可信计算成为可能,这也为个人超级智能体形成了技术基础。联想集团发布的可供用户训练与完善的天禧个人超级智能体,正是得益于此技术的推动。


关键词:

责任编辑:kj005

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com

关键词:

攻坚卫星存储难题!湖南天硕X55宇航级全国产SSD抗辐照实测数据曝光

2025-05-06 17:15:55攻坚卫星存储难题!湖南天硕X55宇航级全国产SSD抗辐照实测数据曝光

全国首次“中国雷击木”登录国际文化艺术展

2025-05-01 08:50:49全国首次“中国雷击木”登录国际文化艺术展

聚焦科技创新引领产业变革 元宇宙产业主题交流活动在福州举办

2025-05-01 08:50:16聚焦科技创新引领产业变革 元宇宙产业主题交流活动在福州举办

INV英威铂全空气五恒系统

2025-04-30 11:16:01INV英威铂全空气五恒系统

云天智能双线闪耀:技术领航电力峰会 荣登品牌强国先行工程

2025-04-30 10:17:33云天智能双线闪耀:技术领航电力峰会 荣登品牌强国先行工程

与快节奏生活和解,拾光美丽山演绎幸福生活体验

2025-04-29 17:19:18与快节奏生活和解,拾光美丽山演绎幸福生活体验

相关新闻

最新资讯