活动
天翼云最新优惠活动，涵盖免费试用，产品折扣等，助您降本增效！
热门活动
- 818算力跃迁·礼遇盛夏 NEW 爆款云主机2核2G限时秒杀，28.8元/年起！
- 免费体验DeepSeek，上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens，限时两周
- 云上钜惠 HOT 爆款云主机全场特惠，更有万元锦鲤券等你来领！
- 算力套餐 HOT 让算力触手可及
- 天翼云脑AOne NEW 连接、保护、办公，All-in-One！
- 中小企业服务商合作专区 国家云助力中小企业腾飞，高额上云补贴重磅上线
- 出海产品促销专区 NEW 爆款云主机低至2折，高性价比，不限新老速来抢购！
- 天翼云电脑专场 HOT 移动办公新选择，爆款4核8G畅享1年3.5折起，快来抢购！
- 天翼云奖励推广计划 加入成为云推官，推荐新用户注册下单得现金奖励
AI服务
教育应用
合作伙伴
天翼云携手合作伙伴，共创云上生态，合作共赢
开发者
开发者相关功能入口汇聚
天翼云下载_相关内容
- 产品定义本文带您了解什么是一体化计算加速平台·异构计算产品。 一体化计算加速平台·异构计算是提供高性能计算、存储、网络服务的智能计算加速平台,可提供异构算力的管理与调度,计算与存储间的高效互联,跨域监控和故障感知,一键自助诊断及智能加速套件等能力,通过本平台可大幅提升数据加载、训练和推理效率。 一体化计算加速平台·异构计算底层主要由高性能计算、存储和网络组成: 计算侧支持多种规格的高性能裸金属,实现灵活、稳定、易用的高性能计算。
- 天翼云CPU实例部署DeepSeek-R1模型最佳实践,有效将内存带宽提升至上一代的2.3倍;同时,高达504MB的三级缓存和低延迟设计确保数据能够更快加载,为复杂模型训练和推理缩短响应时间。
- 基于CPU的AI推理加速技术在天翼云EMR云主机上的应用本文介绍了英特尔® 至强®处理器在AI推理领域的优势,以及如何使用一键部署的镜像进行推理性能测试。 1. 背景 1.1 大模型算力需求 大模型因其参数规模巨大、结构复杂,通常需要强大的计算资源来支持其推理过程,这使得算力成为大模型应用的关键要素。信通院的数据资料显示云端推理的市场潜力很大,AI大模型落地应用数量正在不断增加,市场对大模型推理算力的需求也呈现爆发式增长态势。 近年来,CPU制程和架构的提升以及英特尔AMX指令集的面世带来了算力的快速提升。
- 产品服务协议天翼云为您提供一体化计算加速平台·异构计算产品服务协议,请您点击查看。 天翼云为您提供云骁智算产品服务协议,请您点击查看。
- 服务等级协议天翼云为您提供一体化计算加速平台·异构计算产品服务等级协议,请您点击查看。 天翼云为您提供云骁智算产品服务等级协议,请您点击查看。
- 应用场景场景三:AI训练与推理 场景说明 AI 智算平台建设中,在以下场景中会遇到存储挑战: 海量数据的存储和处理,包括采集导入、清洗、转换、标注、共享等,这里对存储的要求主要是高吞吐和大容量。 模型开发,主要场景包括实验管理、交互式开发和效果评估等。对存储的要求更多集中在 POSIX 兼容性、可靠性等方面。 模型训练的主要场景,一是训练数据的读取,二是为了容错做的 checkpoint 的保存和加载。
- 产品优势智算加速套件 高性能集合通信库提高拥塞条件下的通信性能与故障感知。 高性能CheckPoint框架,实现接近于0的模型状态保存时间开销。
- PyTorch 分布式训练任务本节介绍了智算版集群部署PyTorch分布式训练任务的最佳实践。 前提条件已开通包含GPU/NPU的Kubernetes集群。已安装智算套件。背景信息本文演示如何提交一个PyTorch的分布式训练任务,相关的数据已经包含在容器镜像中。若用户自有模型或训练任务可自行下载数据集,通过使用CSI hpfs文件存储,通过PVC方式挂载进容器中使用。操作步骤进入云容器引擎控制台。点击左侧【集群】进入集群列表。点击使用的集群名称,进入集群。
- 以Llama 2为例进行大模型推理实践此处选择"CPU架构"为"X86"、"分类"为"GPU加速/AI加速型"、"规格族"为"GPU计算加速型p2v"、"规格"为"p2v.4xlarge.8"。 注意大模型推理场景需要处理大量的数据和参数,对显卡显存和云盘大小都有一定要求。针对显存,加载全精度Llama-7B-chat模型时,模型将消耗28G显存,除此之外也需要额外的显存用于存储中间激活和其他临时变量,因此,最低选择显存为32G的V100显卡。同时您也可以根据自身需求对模型进行量化,缩减模型大小,减少对显存的要求并提升计算速度。
- 智算版计费说明IaaS云资源(参照天翼云一类节点计费说明)计算资源(CPU、内存、GPU显卡、GPU显存)包年/包月、按需计费存储资源(GB)ELB(绑定API Server使用)其他可选的云资源NAT网关按需计费非必须,用于Pod访问外网EIP按需计费非必须,用于外网 API Server绑定使用Ingress的ELB及EIP按需计费非必须,用于暴露loadbalancer服务的Ingress插件云日志按需计费非必须,用于容器日志采集存储检索容器镜像服务个人版免费/企业版包周期计费非必须,用于部署容器时拉取容器镜像价格计费项计费方式包月标准价格
- zosfs介绍及下载本文为您介绍zosfs的主要功能和使用场景等信息。 工具简介 zosfs是一个通过FUSE技术,将天翼云对象存储ZOS的bucket(存储桶)挂载为本地目录的工具。 zosfs利用gorountine,通过异步的并发操作,实现对本地文件的高效上传、对云端对象的高效下载,同时,zosfs也优化了对目录列举的操作,提升目录列举的效率。 使用场景 zosfs主要支持模型训练、模型推理等计算密集型场景,解决密集计算对存储数据加载和写入的特殊需要。
- GPU资源监控面板本节主要介绍了GPU资源监控面板的用户指南。 GPU 资源监控面板能够帮助您从不同的维度(比如:集群、节点、训练任务等)监控集群的GPU资源使用情况,以及集群的各命名空间下的资源配额使用情况。前提条件已开通智算容器集群监控安装登录 “云容器引擎” 控制台,在左侧导航栏选择 “集群”。在“集群”页面显示的集群列表中,单击目标集群名称,然后在左侧导航栏,选择 “智算套件”。安装监控组件,等待安装完成。监控面板从“运维管理” - “监控” 可打开监控面板页面,提供了 GPU/NPU 多维监控能力。
- 天翼云GPU云主机模型推理性能总览本节先简要介绍了天翼云GPU云主机模型推理性能总览 GPU云主机能够提供优秀的浮点计算能力,可以实现端到端推理加速,减少推理延迟,从而提高模型的实时性和响应速度。本文基于DeepSeek模型实测数据,对比分析天翼云多款主流GPU云主机的推理性能表现。
- OpenSora 推理生成视频本节介绍了智算版集群部署OpenSora推理生成视频的最佳实践。 前提条件已开通包含GPU/NPU的Kubernetes集群。已安装智算套件。集群节点需要访问公网(需通过公网下载模型)。背景信息本文演示如何使用Open-Sora【GPU】和Open-Sora-Plan【NPU】推理任务生成视频。操作步骤进入云容器引擎控制台。点击左侧【集群】进入集群列表。点击使用的集群名称,进入集群。创建configmap 文本中填入视频prompt描述(描述内容来自OpenSora官网)。
- 基于LLaMA-Factory微调DeepSeek-R1-Distill-Qwen-7B最佳实践镜像内预置了alpaca格式的天翼云示例数据,您也可参考示例数据修改/root/LLaMA-Factory/data/目录下的alpaca_zh_ctyun.json(微调数据集)和dataset_info.json(数据集信息)两个文件,改用您自己的私有数据。 镜像内置两份数据集,单条内容示例如下: data/alpaca_zh_ctyun.json(天翼云文档数据集) { "instruction": "天翼云的通用型弹性云主机有哪些规格?"
- GPU加速/AI加速云主机使用须知 PN8I型云主机当前支持如下类型的操作系统: Windows Server CentOS Ubuntu Ctyunos 备注:各资源池支持的具体版本可能略有出入,请以控制台实际支持的版本为准。 PN8S型云主机 该实例目前仅部分地域支持,如有需求,请联系天翼云客服。
- 权限管理本文向您介绍权限管理,帮助您了解如何在一体化计算加速平台·异构计算上进行权限管理。 一体化计算加速平台·异构计算平台和天翼云云管系统采用统一的单点登录,并通过统一的AK/SK密钥鉴权访问OpenAPI。一体化计算加速平台·异构计算平台的权限管理主要是通过天翼云统一身份认证实现,以不同用户身份登录平台,具有不同的菜单权限。 用户在天翼云门户注册的账号即是主账号,一个主账号代表一个租户,也称为租户管理员。云平台支持多租户访问,租户可以创建子用户。
- 一体化计算加速平台·异构计算一体化计算加速平台·异构计算(原云骁智算)是提供高性能计算、存储、网络服务的智能计算加速平台,可提供异构算力的管理与调度,计算与存储间的高效互联,跨域监控和故障感知,一键自助诊断及智能加速套件等能力,通过本平台可大幅提升数据加载、训练和推理效率。
- ECI加载DeepSeek R1本文为您介绍如何使用ECI加载DeepSeek R1。 DeepSeek R1介绍 DeepSeek-R1 是一款强化学习(RL)驱动的推理模型,解决了模型中的重复性和可读性问题。在 RL 之前,DeepSeek-R1 引入了冷启动数据,进一步优化了推理性能。它在数学、代码和推理任务中与 OpenAI-o1 表现相当,并且通过精心设计的训练方法,提升了整体效果。
- 断点续训练当训练任务发生中断后需要接续训练,只需要加载Checkpoint,并使用断点前最近一次Checkpoint存储的信息初始化训练状态即可。 说明目前仅支持使用升腾芯片训练的任务断点续训,其他芯片正在开发中,敬请期待。 前提条件 资源组内存在空闲节点,即未被其他训练任务占用的机器。 训练任务所属队列内有多余配额可用且足够时,训练任务可自动触发断点续训;训练任务所属队列内无多余配额或多余配额不足时,需扩容该队列,成功后,训练任务可触发断点续训。
- 使用大模型学习机微调自己的文本生成模型例如我们直接截取大模型学习机部署文档作为输入: 本文基于天翼云云主机,为您介绍通过镜像部署大模型学习机的具体操作。 购买云主机。 登录云主机控制台,选择创建云主机资源池,点击“创建云主机”按钮。 当前您可在重庆-重庆2、宁夏-中卫5购买GPU计算加速型云主机的Pi7规格;也可在重庆-重庆2购买GPU计算加速型云主机的Pi2规格。 您需要将私有数据以utf8编码格式写入到文件中,并保存为[文件名].txt文件。例如xuexiji_docdata.txt。 3.
- CTFlashCkpt介绍这里介绍天翼云自研的CTFlashCkpt(CT Flash Checkpoint )大模型存储加速软件包的相关信息。 CTFlashCkpt是由一体化计算加速平台·异构计算平台提供的针对大模型训练场景提供的高性能checkpoint框架,实现接近于0的模型状态保存时间开销 ,将训练阻塞时间降低到最小。目前CTFlashCkpt支持原生pytorch训练、英伟达训练框架Megatron-LM和华为升腾ModelLink训练框架,本文为您介绍CTFlashCkpt相关技术原理和接入操作。
- 应用场景一体化计算加速平台·异构计算产品广泛应用于多种场景,本文带您更快了解一体化计算加速平台·异构计算经典应用场景。 大模型 支持万张GPU规模的资源弹性,支持3D并行分布式训练、数据加速等算力调度赋能层能力,大大提升AI任务效率降低成本。 政务场景 通过增量预训练和模型微调训练政务行业大模型,实现政策咨询、公文助手、智能导办、坐席辅助等功能,缩短群众办事时长。
天翼云最新活动
售前咨询热线
400-810-9889转1
关注天翼云
©2025
天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
公司地址：北京市东城区青龙胡同甲1号、3号2幢2层205-32室
