近日,Meta公司发布了其最新研发成果——开源大模型Llama 3,相较于前代产品Llama 2,Llama 3在预训练数据上扩大了7倍(达到15T tokens),在数据质量与训练方式上也进行了深度优化。此次发布的开源大模型,包含Llama 3 8B和Llama 3 70B两种规格,参数量级分别为80亿与700亿,Meta表示Llama 3是目前同体量下性能最好的开源模型,这为开源大型语言模型(LLM)领域发展再次书写了辉煌篇章。

为了方便广大AI技术爱好者与从业者快速上手学习与使用大语言模型技术,天翼云基于开源的Meta-Llama-3-8B-Instruct模型以及text-generation-webui框架,制作了一键部署、开箱即用的云主机镜像。同时,天翼云CPU/GPU云主机近期即将上线Llama 3大模型学习机,期望能够成为帮助用户打开大模型领域之门的第一把钥匙,让更多用户从此了解大模型、学习使用大模型,并利用大模型创造更多可能。

依托天翼云弹性云主机的优势与资源性能,用户在具体部署操作时仅需登录天翼云主机控制台,创建云主机,使用指定的规格与Llama 3镜像,随后从浏览器登录到学习机页面,便能基于天翼云主机快速搭建Llama 3的推理或微调环境,无需复杂配置即可快速体验和应用大语言模型。

此外,天翼云Llama 3大模型学习机在一键部署的基础上还提供模型加载、模型推理、推理参数修改、模型微调等各类功能,包括支持加载主流基于transformers框架的模型,用户只需将模型下载并放置到指定目录下, 无需其他操作,且镜像内已预装Llama 3模型;

支持使用大语言模型进行多轮对话与文本生成,且支持多人同时使用;支持修改大语言模型在推理时控制结果走向的temperature, top_k, top_p等参数;支持基于基础大模型和私有数据,微调训练自己的LoRA小模型,并使用小模型进行推理。针对这些功能,天翼云还配有详细的文档与教学视频,助力用户打破知识壁垒,降低学习门槛。

据了解,天翼云弹性云主机是天翼云推出的“明星”产品,具备快捷易用、配置丰富、专有网络、安全稳定、多种镜像、高效管理和高性价比等产品优势,能够为用户提供优质服务体验。云主机支持动态调整计算资源,提供多种实例规格和存储类型,满足用户多元化业务需求;拥有灵活自定义的网络空间,以及多重安全防护,全面保障数据可靠性,助力业务批量快速部署。用户可以通过多种管理方式和多维度监控实现高效管理,并可根据需要灵活选择计费模式,享受专业运营团队的7*24小时服务。此外,天翼云还提供多样异构芯片和计算模型,为用户提供更优算力选择。

当前,人工智能技术与各领域深度融合,成为助推千行百业创新发展的重要引擎。天翼云作为全球领先的云服务商、国内领先的大模型算力服务商,通过科技创新持续为用户提供可快速搭建大型模型推理或微调环境的解决方案,以及高性能的AI算力集群,将有助于推动AIGC产业实现高质量发展,加速千行百业数字化、智能化升级。

责任编辑：kj005