科技
设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置:科技 > 快讯 >

第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能

第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能
2024-10-03 17:48:19 来源:今日热点网

近日,第四范式先知AIOS 5.1版本正式发布。该版本新增GPU资源池化(vGPU)能力,实现对硬件集群平台化管理、算力资源的按需分配和快速调度,最多节省80%的硬件成本,提高GPU综合利用率多达5-10倍

第四范式先知AIOS 5是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标,在支持接入企业各类模态数据的基础上,提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力,实现端到端的行业大模型的构建、部署、管理服务。

在行业大模型的构建过程中,为进一步提高算力资源利用率,第四范式先知AIOS 5.1版本新增GPU资源池化(vGPU)能力,拥有五大技术亮点:

全面适配国产/非国产算力,支持混合部署与统一调度

算力和显存超分复用,算力切分精细到1%,显存切分以M兆为单位

具备千卡级别分布式调度与管理能力

支持自定义隔离策略,实现共享或独享算力池

利用多任务共享及处理优化技术,推理性能提升10倍以上

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

关键词:

责任编辑:kj005

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com
关键词:

晨丰科技:业绩稳定 定增助公司多元化发展

2024-09-26 10:06:00晨丰科技:业绩稳定 定增助公司多元化发展

中国移动总经理何飚:加快数智化转型 勇担新质生产力先行者

2024-09-25 16:01:13中国移动总经理何飚:加快数智化转型 勇担新质生产力先行者

数实共生,智连未来,中国移动信息无障碍与双碳成果“京”彩纷呈

2024-09-25 15:57:19数实共生,智连未来,中国移动信息无障碍与双碳成果“京”彩纷呈

TSD+:以创新之为,打造国药新质生产力

2024-09-20 17:48:50TSD+:以创新之为,打造国药新质生产力

《AI时代全链路营销进化白皮书》提出AI营销十大趋势

2024-09-13 14:17:05《AI时代全链路营销进化白皮书》提出AI营销十大趋势

3吨电叉999元起!中力51HDC创新绿色再生车租赁业务

2024-09-03 17:21:573吨电叉999元起!中力51HDC创新绿色再生车租赁业务

相关新闻

最新资讯