科技
设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置:科技 > 快讯 >

基石智算以AI智算平台2.0引领智算中心高效运营

基石智算以AI智算平台2.0引领智算中心高效运营
2024-06-21 16:34:15 来源:实况网

当前,全球算力需求结构正发生重大变化,智能计算已成为计算技术创新发展主条线。

我们知道,人工智能对算力的消耗极大。人工智能模型训练任务中的算力增长(所需算力每 3.5 个月翻一倍)已经超越摩尔定律(晶体管数量每18个月翻一倍)。例如,ChatGPT仅推出两个月,月活跃用户数预计已达1亿,成为史上最快达到1亿月活跃用户的应用,TikTok、Instagram、Facebook、Twitter 则分别用了9个月、2年半、4年半、5年的时间。但这背后消耗的是天文数字的算力支撑。据估计,在人工智能培训服务器方面,单个大语言模型培训驱动人工智能培训服务器的需求约为 2 亿美元。

同时,人工智能正加快融入千行百业。人工智能场景持续壮大的背后,也展示出对智能算力的巨大需求。另据相关统计显示,大模型训练、遥感探测、生命科学和自动驾驶等前沿领域对智能算力的需求也在快速增长中。

跳出行业应用的视角,从数字经济、数字社会的建设的高维度来看,数据要素的效用发挥离不开智能算力的支撑。目前,我们面临的问题是,真正得到有效利用的数据占比仍不足1%。如何精准抓取高质量数据,并依托这些数据构建精确模型,关键在于深度学习等先进AI算法的应用,而这一切背后,都离不开智能算力的强大支撑。根据国际数据公司(IDC)等权威机构发布的数据,未来五年内,我国智能算力规模的年复合增长率预计将达到惊人的52.3%。

智能算力将伴随着人工智能技术的广泛应用,深度渗透到各行各业,为各类应用提供坚实的算力保障,展现出无比广阔的发展前景。而作为智能算力的具体实现形式,智算中心将逐步成为支撑和引领数字经济、智能产业、智慧城市、智慧社会发展的新型关键基础设施,开启全新的智能时代。

基石智算(coreshub.cn)AI 智算平台致力于打造算力中心建设与运营新模式,帮助智算中心像管理本地资源一样管理 AI 基础设施,以满足不同业务的需求,提高 AI 算力的整体使用效率和管理效率。2.0 新版全面拥抱云原生,实现从 AI 基础设施到 AI 开发训练推理的全流程高效管理。

平台通过统一的集群管理,实现对 NVIDIA、国产 GPU 等多种异构算力的高效调度。无论是高速 IB、RoCE 网络建设,还是并行文件存储集群管理,平台均能提供从物理机到容器的全方位管理。新版平台支持共享 GPU、单卡、多卡、多节点的算力调度,用户可根据实际业务需求按需申请使用,极大地提高了算力资源的使用效率。

细致监控,全面守护 AI 基础设施

AI 智算平台 2.0 新增节点监控、任务监控、容器组监控、高速网络监控和 GPU 监控等功能提供从硬件故障处理到资源使用情况的全方位监控,及时发现并解决潜在问题。同时,可视化的自定义告警配置支持邮件、企微、webhook等多种通知渠道,确保用户随时掌握 AI 基础设施的运行状态。

丰富的 AI 业务支持,加速创新

在算力调度的基础上,平台支持自定义镜像仓库,同时内置 TensorFlow、PyTorch、MPI、DeepSpeed 等常用计算框架,支持一键创建开发机、分布式任务,自动挂载并行文件存储等常用 AI 业务流程。用户只需上传代码,即可快速启动多机多节点的分布式训练,系统将自动调度到可用 GPU 进行计算,任务完成后自动释放资源。这种自动化的算力调度分发与回收机制,让算法工程师能够更专注于 AI 模型本身,加速科研成果的创新。

便捷模型服务,一键部署,轻松推理

模型服务功能的优化,让用户可以一键部署在线推理服务,极大地提升了模型开发和部署的效率。无论是公开模型还是用户上传的自有模型,均可在线推理,满足各类业务需求。

自动化运营,计量计费服务

平台提供规格定价、在线充值、购买产品的全流程自服务管理,减少运营的技术人员、管理人员投入,同时减少客户试用沟通和准备环境的时间,加快算力中心资源售卖,提升资源运营效率。

关键词:

责任编辑:kj005

文章投诉热线:182 3641 3660  投诉邮箱:7983347 16@qq.com
关键词:

万和引领电热水器行业健康水质新标准,荣获一级健康水质认证

2024-06-14 17:13:19万和引领电热水器行业健康水质新标准,荣获一级健康水质认证

LET探馆│ 打造数智物流的无限可能,中力数智展位全景呈现!

2024-05-31 15:28:13LET探馆│ 打造数智物流的无限可能,中力数智展位全景呈现!

科考研学,北京经开区青少年沉浸式探秘生物多样性奥秘

2024-05-22 18:08:05科考研学,北京经开区青少年沉浸式探秘生物多样性奥秘

黑鲨新品引爆2024 ChinaJoy!游戏玩家专属神器,让你征服对手!

2024-05-22 10:32:46黑鲨新品引爆2024 ChinaJoy!游戏玩家专属神器,让你征服对手!

北京羽嘉科技“一体化反无人机系统”高原实验圆满成功

2024-05-20 15:27:10北京羽嘉科技“一体化反无人机系统”高原实验圆满成功

香港一带一路研究院特聘研究员向凌云:一带一路倡议拯救了世界

2024-05-17 19:35:39香港一带一路研究院特聘研究员向凌云:一带一路倡议拯救了世界

相关新闻

最新资讯