参数说明 功能 说明 URL刷新 1.输入需要刷新的完整URL，每个URL要以 2.URL刷新会获取提交的URL缓存key进行刷新，即与提交的URL相同缓存key的文件都刷新。 如用户访问URL与缓存key不一样，请提交用户访问URL。 目录刷新 1.输入需要刷新的目录，目录要以 2.目录刷新会获取提交的目录URL缓存key进行刷新（参照URL刷新），即与提交的目录相同缓存key的文件都刷新。 如用户访问目录与缓存key不一样，请提交用户访问目录。 3.根目录刷新任务下发后全部缓存均会过期回源，存在较高业务风险，默认不支持根目录刷新，如确认需要执行根目录刷新，请通过工单提交给天翼云客服。 正则刷新 1.输入需要刷新的正则URL，每个URL均为域名+正则路径，域名要以 2.正则刷新会获取提交的正则缓存协议（http/https）及缓存host进行刷新，即与提交的正则相同缓存协议及缓存host都刷新。 URL预取 输入需要预取的完整URL，每个URL要以

本文介绍获取图片加边框具体参数及示例。 开通图片处理后，客户可通过请求URL中携带图片加边框的参数，为原图片添加指定像素宽度和颜色的边框。 注意 图片处理为付费服务，目前处于公测期间，暂不收取费用，收费时间另行通知。 参数说明及示例 参数名称：border。 参数 说明 取值范围 border 指定边框像素宽度和十六进制颜色 边框像素宽度取值范围[1,1000]，颜色取值范围[000000FFFFFF]，示例：actionborder:w5,colorFF0000 访问示例：

功能 说明 客户控制台支持自助创建不同类型（URL刷新、目录刷新、正则刷新）的刷新任务和预取任务。 支持客户自定义查询刷新或预取任务的执行状态。

清理用户级CUDA环境变量并刷新生效 sed i '//usr/local/cuda/d' ~/.bashrc && source ~/.bashrc 清理系统级CUDA环境变量并刷新生效 sed i '//usr/local/cuda/d' /etc/profile && source /etc/profile 4. 重启 如果卸载完成后计划安装其他版本CUDA，建议进行重启，避免旧版本环境残留干扰。 plaintext sudo reboot 在Windows操作系统中卸载CUDA 本章Windows操作系统卸载CUDA的步骤，以Windows Server 2016操作系统，CUDA 11.4.0版本为例。 1. 按下Win+R组合键，打开“运行”窗口。 2. 输入control appwiz.cpl，点击“确定”，直接进入程序和功能界面。 3. 筛选CUDA相关组件。 在界面右上角的搜索框中输入CUDA，按下回车。列表会自动筛选出所有NVIDIA CUDA相关组件。 4. 按顺序卸载所有CUDA组件，避免组件依赖导致的卸载失败。 NVIDIA CUDA Visual Studio Integration 11.4 NVIDIA CUDA Samples 11.4 NVIDIA CUDA Documentation 11.4 NVIDIA CUDA Nsight NVTX 11.4 NVIDIA CUDA Runtime 11.4 NVIDIA CUDA Development 11.4 5. 重启服务器 6. 删除CUDA路径 卸载完成后发现安装目录下还存在文件夹，手动删除。 7. 验证卸载成功 打开云主机的“命令提示符（CMD）”，执行命令nvcc V，如果输出“不是内部或外部命令”表示卸载成功。

本文为您介绍天翼云GPU云主机中Tesla驱动的升级或降级操作方法。 当现有驱动版本不适配业务场景（如不兼容新CUDA版本）、安装错误版本导致GPU算力无法调用，或需适配特定软件版本时，可通过“卸载旧驱动→安装目标版本驱动”的方式完成升级/降级，核心原则是确保目标驱动与云主机规格、操作系统、CUDA版本相互适配。 步骤一：卸载Tesla驱动 请参见卸载Tesla驱动按步骤执行卸载操作。 步骤二：安装Tesla驱动 请参见安装Tesla驱动按步骤执行安装操作。 注意 安装前请参考Tesla驱动及相关组件版本兼容指南，确认目标驱动版本，避免安装后出现兼容性问题。

本文介绍获取图片加边框具体参数及示例。 开通图片处理后，客户可通过请求URL中携带图片加边框的参数，为原图片添加指定像素宽度和颜色的边框。 注意 图片处理为付费服务，目前处于公测期间，暂不收取费用，收费时间另行通知。 参数说明及示例 参数名称：border。 参数 说明 取值范围 border 指定边框像素宽度和十六进制颜色 边框像素宽度取值范围[1,1000]，颜色取值范围[000000FFFFFF]，示例：actionborder:w5,colorFF0000 访问示例：

本文通过图文说明如何自定义查询刷新预取任务的执行状态。 功能介绍 当客户完成刷新或预取任务提交后，如要查看任务执行进度和结果，可以通过天翼云客户控制台【刷新预取】页面，分别查看已提交的URL刷新、目录刷新、正则刷新和URL预取任务的执行情况，也可通过URL刷新、目录刷新、正则刷新和URL预取页面快捷跳转到创建任务页面。 操作方式 1. 登录客户控制台。 2. 在【刷新预取】页面。 3. 按实际情况，选择【URL刷新】、【目录刷新】、【正则刷新】或【URL预取】。 4. 选择具体的时间、输入完整域名，或者选择一种特定的任务状态类型。 5. 单击【查询】，查看已创建的对应类型的任务。 6. 也可通过点击【+创建任务】快捷按钮，跳转到创建任务页面创建刷新预取任务。 注意 URL刷新、目录刷新、正则刷新只支持查询最近7天内、时间跨度不超过5天的任务。 URL预取只支持查询最近15天内、时间跨度不超过7天的任务。

本文介绍图片格式转换相关参数及示例。 开通图片处理后，客户可通过URL请求中携带格式转换参数，将原图转换为指定的图片格式。 注意 图片处理为付费服务，目前处于公测期间，暂不收取费用，收费时间另行通知。 参数说明 支持的原图格式：JPEG、PNG、WebP、BMP、GIF、TIFF、JPEG2000（JP2）；未在上述格式范围内，将会返回原图。 参数名称：format。 支持的参数值： 支持转换的图片格式 说明 JPEG 将原图保存为JPEG格式。 PNG 将原图保存为PNG格式。 WEBP 将原图保存为WEBP格式。 BMP 将原图保存为BMP格式。 GIF 将原图保存为GIF格式。 GIF为动图格式，如由其他静态格式转换而来，则仅转换为静图效果。 TIFF 将原图保存为TIFF格式。 JP2 将原图保存为JP2格式。 JXR 将原图保存为JXR格式。 注意 以上参数值不区分大小写。 参数示例

本文介绍如何验证IP地址是否属于天翼云CDN节点IP。 问题概述 本文主要介绍针对指定的IP，如何验证该IP是否为天翼云CDN节点的IP地址。 验证说明 1. 登录客户控制台。 2. 单击左侧导航栏【诊断工具】，进入【IP归属查询】页面，输入查询的地址。 3. 输入查询后将显示该地址是否为天翼云CDN节点以及对应归属地。

参数 说明 取值范围 border 指定边框像素宽度和十六进制颜色 边框像素宽度取值范围[1,1000]，颜色取值范围[000000FFFFFF]，示例：actionborder:w5,colorFF0000

本文介绍获取图片信息具体参数及示例。 开通图片处理后，客户可通过请求URL中携带获取图片信息的参数，获取原图的大小、宽、高、图片格式、图片质量和图片方向信息。 注意 图片处理为付费服务，目前处于公测期间，暂不收取费用，收费时间另行通知。 参数说明 参数名称：getinfo。 返回的图片信息为JSON格式，返回的参数包括图片的大小、宽、高、图片格式、图片质量和图片方向。 参数示例： 返回json示例： { "size":1055089, // 文件大小 "width":1920, "height":1080, "quality":100, "format":"JPEG", "orientation":"UNDEFINED" } 注意 若请求URL中同时携带getinfo和其他图片处理参数，则只处理getinfo，其他参数不做处理。

参数 说明 取值范围 brightness 图片亮度 (100,100)，0表示原值，<0 代表亮度下降，>0 代表亮度提升。 contrast 图片对比度 (100,100)，0表示原值，<0 代表对比度下降，>0 代表对比度提升。

本文介绍图片裁剪具体使用参数及示例。 开通图片处理后，客户可通过URL请求中携带图片裁剪参数，裁剪原图中指定位置的内容并生成新的图片。 注意 图片处理为付费服务，目前处于公测期间，暂不收取费用，收费时间另行通知。 居中裁剪：从图片居中部分裁剪指定宽和高的图片内容。宽的起点(图片总宽w)/2，高的起点(图片总高h)/2，找到该原点，然后裁剪宽×高大小的图片内容。 指定X、Y轴裁剪：按指定x、y、宽和高裁剪，以x和y为起点，裁剪宽×高大小的图片内容。 九宫格裁剪：设置原点位置，原点按九宫格分布，横向以w指示的宽度向右裁剪，纵向以h指示的高度向下裁剪，裁剪宽×高大小的图片内容。 参数说明及示例 参数名称：cut。 支持的参数值说明如下： 参数类型 参数 说明 取值范围 :::: 裁剪类型 mid 居中裁剪参数，需与参数w、h一起使用。 无。 裁剪类型 x 指定X、Y轴裁剪参数，指定裁剪起点横坐标，需与参数y、w、h一起使用，必填。 不能超出原图宽度，如x超出原图宽，将会返回原图。 裁剪类型 y 指定X、Y轴裁剪参数，指定裁剪起点纵坐标，需与参数x、w、h一起使用，必填。 不能超出原图高度，如y超出原图高，将会返回原图。 裁剪类型 g 九宫格裁剪参数，设置裁剪的原点位置。原点按照九宫格的形式分布，一共有九个位置可以设置，为每个九宫格的左上角顶点。 需与参数w、h一起使用。 NW：左上。 N：中上。 NE：右上。 W：左中。 M：中部。 E：右中。 SW：左下。 S：中下。 SE：右下。 超出上述值，裁剪不生效，将会返回原图。 裁剪宽和高 w 指定从原点开始向右的裁剪宽度。与居中裁剪、指定X、Y轴裁剪、九宫格裁剪参数一起使用。 不能超出原图宽度，如w超出原图宽，将会按照对应的宽最大值处理。 裁剪宽和高 h 指定从原点开始向下的裁剪高度。与居中裁剪、指定X、Y轴裁剪、九宫格裁剪参数一起使用。 不能超出原图高度，如h超出原图高，将会按照对应的高最大值处理。 操作方式说明及示例如下： 裁剪方式 说明 参数示例 居中裁剪 从图片居中部分裁剪指定宽和高的图片内容。宽的起点(图片总宽w)/2，高的起点(图片总高h)/2，找到该原点，然后裁剪宽×高大小的图片内容。 从图片居中部分裁剪指定宽和高的图片内容。宽的起点(图片总宽w)/2，高的起点(图片总高h)/2，找到该原点，然后向右向下裁剪400×200大小的图片内容。 指定X、Y轴裁剪 按指定x、y、宽和高裁剪，以x和y为起点，裁剪宽×高大小的图片内容。注意：x、y值必填，否则会返回原图。 指定X、Y轴剪切：按x为10，y为10的位置为指定原点，向右向下裁剪400×200的图片内容。 九宫格裁剪 设置原点位置，原点按九宫格分布，横向以w指示的宽度向右裁剪，纵向以h指示的高度向下裁剪，裁剪宽×高大小的图片内容。 九宫格切：设置原点位置为九宫格左上位置，横向向右以w指示的400宽度裁切，纵向向下以h指示的高度200裁切，裁剪400×200大小的图片内容。

本文介绍图片渐进式加载的具体使用参数及示例。 访问网站时，普通图片的加载是随着下载图片数据的完成度，逐渐从上至下显示完成的。如果浏览器只收到了图片文件数据的一半，则只会显示图片的上半部分。而渐进式图片则是先显示图片整体的模糊效果，随着下载数据的增多，逐渐细化图片中的各个细节，使得图片分辨率逐渐提高，最终还原出完整清晰的图像内容。 开通图片处理后，客户可通过URL请求中携带指定参数，将原图转换为渐进式加载格式，从而优化网站表现。 注意 图片处理为付费服务，目前处于公测期间，暂不收取费用，收费时间另行通知。 参数说明及示例 参数名称：progressive。 访问示例：将原图做渐进式加载时，图片处理的访问URL为： 注意 目前图片渐进式加载仅支持JPEG（含JPG）和PNG格式。

本文介绍图片旋转的具体使用参数及示例。 开通图片处理后，客户可通过URL请求中携带图片旋转参数，将原图按指定角度进行旋转；同时支持对特定格式的文件做自动回正。 注意 图片处理为付费服务，目前处于公测期间，暂不收取费用，收费时间另行通知。 参数说明及示例 图片旋转 参数名称：rotate。 参数类型 取值范围 示例 顺时针旋转 仅支持90、180、270，超出范围会返回原图。 逆时针旋转 仅支持90、 180、270，超出范围会返回原图。 图片自动回正 参数名称：orientation，值固定为：auto。 访问示例：将原图做自动回正处理时，访问的图片处理URL为： 注意 目前图片自动回正仅支持JPEG（含JPG）和TIFF格式，且图片的EXIF信息中包含Orientation值。

参数 说明 默认值 text 经urlsafebase64编码后的水印文字。例如对“天翼云”做base64编码后为 "5aSp5785LqR"。 无 size 字号，值类型为int。 无 color 颜色，值为十六进制编码（hex）形式，范围为[000000FFFFFF]，例如："FF0000"代表红色。 默认为白色，即"FFFFFF" angle 旋转角度，值范围为[0,360]。 默认为0 t 水印文字的透明度，值为[0,100] ；数字越小透明度越高，100代表完全不透明。 默认为100 g 由一组g，x，y值唯一指定水印在图片中的基准点位置，这里的基准点随g值的不同而不同。 g代表原图及水印的基准点位置，值为如下： NW：左上 N：上，左右居中 NE：右上 W : 左，上下居中 C ：全图居中 E : 右，上下居中 SW：左下 S : 下，左右居中 SE：右下 默认为NW左上 x 距离原图基准点g的水平距离，需在图片宽度范围内，单位：px(像素)，与y成对出现；x轴的方向为从左到右，但g值为NE、E、SE时，向右会超出原图，故这3个g值对应x轴方向为从右向左。 默认为0 y 距离原图基准点g的垂直距离，需在图片高度范围内，单位：px(像素)，与x成对出现；y轴的方向为从上到下，但g值为SW、S、SE时，向下会超出原图，故这3个g值对应y轴方向为从下到上。 默认为0 font 字体, 支持如下值： SourceHanSans，中文为思源黑体 SourceHanSerif，中文为思源宋体 SourceHanMono，中文为思源等宽 GenShinGothic，中文为思源真黑 GenJyuuGothic，中文为思源柔黑 NotoSans NotoSansMono 默认为思源黑体

本文介绍图片置灰功能的具体使用参数及示例。 在某些场景中（例如在特定纪念日时），网站需要对部分图片做置灰处理。 开通图片处理后，客户可通过URL请求中携带相关参数，将原图置灰。 注意 图片处理为付费服务，目前处于公测期间，暂不收取费用，收费时间另行通知。 参数说明及示例 参数名称：grayscale。 访问示例：将原图置灰时，图片处理的访问URL为：

参数 是否必填 参数类型 说明 示例 下级对象 continent 否 string 支持的大洲英文名称 Asia continentcn 否 string 支持的大洲中文名称 亚洲 countries 否 list< object> 支持的国家列表 countriessingle

本文简述异步处理相关函数的语法、作用、入参、返回值、示例。 ctyun.thread.run 函数信息详见下表： 项目 描述 语法 result，err ctyun.thread.run(callback, arg1, arg2, ...) 作用 创建一个线程， 异步执行lua函数。主要使用场景为异步通知远端处理结果，不阻塞正常的业务流程。 入参 callback 为lua函数，arg1,arg2,...为lua函数的参数。 返回值 创建成功返回true，失败返回false，以及错误信息err。 注意 由于是独立的线程执行callback，跟正常的业务请求是独立的环境。在callback中不能使用跟请求属性相关的函数（ctyun.req和ctyun.resp以及ctyun.var)。如果需要用到相关的变量，请通过arg1,arg2,...参数传进去。 示例： stata local function test(url, body) local res, err ctyun.queryremote(url, { method "POST", body body, headers { ["ContentType"] "application/xwwwformurlencoded", }, }, 30000) if err then return end end ctyun.thread.run(test, " "test bodyyyyyyy") ctyun.resp.setoutput("hello world") 结果：hello world

接口描述：调用本接口查询域名的IP地址，及ip对应的区域，运营商信息 请求方式：post 请求路径：/auxiliarytools/queryvipsdetailbydomain 使用说明： 单个用户一分钟限制调用10000次，并发不超过100 请求参数说明（json）： 参数 类型 是否必传 名称 描述 domain list 是 域名列表 最多支持５个 返回参数说明： 参数 类型 是否必传 名称及描述 code int 是 状态码 message string 是 描述信息 result list 否 返回结果数组 result[].domain string 否 域名 result[].details list 否 域名对应的vip列表信息 result[].details[].vips string 否 vip信息，多个用逗号“,”分割 result[].details[].cityName string 否 城市名称 result[].details[].nodename string 否 节点名称 result[].details[].provinceName string 否 省份名 result[].details[].ispName string 否 运营商名称 示例： 请求路径： 请求参数： {         "domain":[             "aaa.ctyun.cn"     ] } 返回结果： {      "code": 100000,        "message": "success",         "result": [      {                  "domain": "aaa.ctyun.cn",                   "details": [                {                                         "vips": "xx.xx.xx.xx,xx:xx:xx:xx::",                                       "cityName": "呼和浩特市",                                        "nodename": "xxx1",                                       "provinceName": "内蒙古自治区",                                         "ispName": "中国电信"                 },                 {                                         "vips": "xx.xx.xx.xx,xx:xx:xx:xx::",                                         "cityName": "通州区",                                         "nodename": "xxx2",                                        "provinceName": "北京市",                                         "ispName": "中国电信"                 }             ]         }     ] } 错误码请参考：参数code和message含义

ctyun.req.getfullbodydata 函数信息详见下表： 项目 描述 语法 datastr ctyun.req.getfullbodydata() 作用 获取请求体，如果底层nginx保存为文件，也需要解析文件内容。 入参 无。 返回值 datastr: string。请求体。 示例： pgsql if ctyun.req.getmethod() "POST" then local datastr ctyun.req.getfullbodydata() local data, err ctyun.json.decode(datastr) ...... end ctyun.req.getoriginurl 函数信息详见下表： 项目 描述 语法 urlstr ctyun.req.getoriginurl() 作用 获取原始请求url，也就是nginx变量$requesturi的值。 入参 无。 返回值 urlstr: string。原始请求url。 示例： awk local requesturi ctyun.req.getoriginurl() local m, err ctyun.re.match(requesturi, "^/([^/]+)/.") if m[1] 'path1' then ctyun.resp.exit(403) end ctyun.req.seturi 函数信息详见下表： 项目 描述 语法 ctyun.req.seturi(uri) 作用 设置回源uri（不包含回源查询参数）。 入参 uri: string。回源uri。 返回值 无。 示例： haxe local originaluri ctyun.var('uri') local newuri ctyun.re.sub(originaluri, "^/[^/]+/(.)", "/$1") ctyun.req.seturi(newuri) ctyun.req.geturiargs 函数信息详见下表： 项目 描述 语法 args, err ctyun.req.geturiargs(maxargs?) 作用 获取当前请求的 URI 请求参数，以Luatable的形式给出。 入参 maxargs? : number。解析的最大参数个数，默认100；设置为0表示无限制。 返回值 args: table。 err: string。 示例： key 和 value 将根据 URI 编码规则进行解码。 多次出现同一个参数 key 时，将生成一个 Lua table，按顺序保存其所有 value；没有 key 的参数将被忽略。 reasonml local args, err ctyun.req.geturiargs() if err "truncated" then one can choose to ignore or reject the current request here end for key, val in pairs(args) do if type(val) "table" then ctyun.resp.setoutput(key .. ": " .. table.concat(val, ", ")) else ctyun.resp.setoutput(key .. ": " .. tostring(val)) end end

本文介绍如何通过边缘函数返回JSON内容。 直接响应边缘函数代码中的JSON内容。 示例代码 javascript async function handler(event) { const data { hello: "BosonFaaS" } const json JSON.stringify(data, null, 2) return new Response(json, { headers: { "contenttype": "application/json;charsetUTF8" } }) } addEventListener('fetch', (event) > { event.respondWith(handler(event)); }); 示例预览 在浏览器地址栏中输入匹配到HTTP路由的URL，即可预览示例效果。 相关参考 运行时API：addEventListener 运行时API：Response 运行时API：FetchEvent

项目 描述 语法 newstr ctyun.decodebase64(str) 作用 将str参数解码为原始形式的base64摘要。如果str格式不正确，则返回nil。 入参 str：string，待解码字符串。 返回值 newstr: base64解码后的结果，或者为nil(str格式不正确的情况)。

本文介绍图片旋转的具体使用参数及示例。 开通图片处理后，客户可通过URL请求中携带图片旋转参数，将原图按指定角度进行旋转；同时支持对特定格式的文件做自动回正。 注意 图片处理为付费服务，目前处于公测期间，暂不收取费用，收费时间另行通知。 参数说明及示例 图片旋转 参数名称：rotate。 参数类型 取值范围 示例 顺时针旋转 仅支持90、180、270，超出范围会返回原图。 逆时针旋转 仅支持90、 180、270，超出范围会返回原图。 图片自动回正 参数名称：orientation，值固定为：auto。 访问示例：将原图做自动回正处理时，访问的图片处理URL为： 注意 目前图片自动回正仅支持JPEG（含JPG）和TIFF格式，且图片的EXIF信息中包含Orientation值。

参数名 参数值 类型 后缀名 内容 html 参数设置 保留指定参数 指定参数 a$arga

本文介绍新版回源超时时间功能及其配置说明。 功能介绍 回源超时时间设置（新）包括回源连接超时时间跟回源请求超时时间： 回源连接超时时间指回源节点与源站服务器建立连接的超时时间。 回源请求超时时间指回源节点与源站服务器建连成功后，向源站服务器发送请求的超时时间。 回源HTTP超时时间设置的长短要综合考虑网络链路情况、源站处理能力、连接问题等诸多因素。如您将回源响应超时时间设置的过长，可能会出现在源站处理能力达到上限，无法正常响应的情况下，失败的请求仍然长时间占用连接数，导致正常请求无法访问。建议您合理配置回源请求超时时间，以保证请求均能正常回源。 注意事项 “回源超时时间设置（新）”与“回源超时时间设置”的区别：新的回源连接超时时间和回源请求超时时间具备内部链路超时时间从回源层往边缘层逐层递增的能力，默认递增1s。可促进回源重试，降低访问异常的概率。 “回源超时时间设置（新）”与“回源超时时间设置”无法同时配置，新增域名默认使用“回源超时时间设置（新）”，历史域名支持从“回源超时时间设置”迁移为“回源超时时间设置（新）”。 配置说明 1. 登录CDN控制台。 2. 单击左侧导航栏【域名管理】【域名列表】。 3. 在【域名列表】页面，找到目标域名，单击【操作】列的【编辑】。 4. 单击右侧【回源配置】。 5. 在【回源超时时间设置（新）】模块，开启功能进行配置。 6. 单击【保存】，完成配置。 参数名 说明 回源连接超时时间 1. 指回源节点与源站服务器建立连接的超时时间。 2. 如果回源节点在指定的连接超时时间内未能与源站服务器建立连接，则会触发节点重试，重试失败后将与源站终止连接并返回502。 3. “回源超时时间设置（新）”和“回源超时时间设置”均未配置时，默认回源连接超时时间为5s。 回源请求超时时间 1. 指回源节点与源站服务器建连成功后，向源站服务器发送请求的超时时间。配置之后，内部链路的回源请求超时时间从回源层往边缘层逐层递增的能力，默认递增1s。 2. 如果在指定的请求超时时间内未接收到源站服务器响应的首包，则会触发节点重试，重试失败后将与源站终止连接并返回502。 3. “回源超时时间设置（新）”和“回源超时时间设置”均未配置时，默认回源请求超时时间为12s。

本文向您介绍如何安装、升级与使用CTCCL库。 镜像安装 训推服务部分官方镜像默认安装CTCCL，使用以下官方镜像时，无需自己安装CTCCL。 pytorch2.2.0ctccl0.3.0cuda12.3ubuntu20.04amd64 llama2trainingctccl0.3.0cuda12.1pytorch2.2.1megatron0.2.0deepspeed0.14.1ubuntu20.04amd64 手动安装 1.确认原本nccl/ctccl安装位置 如果使用的深度学习框架自带NCCL，配置的NCCL目录可能不是默认路径，可以用以下命令查找。 find / name "libnccl.so.2" 获得$NCCLPATH 2.确认使用的CUDA版本 使用以下命令，查看当前环境依赖的CUDA版本，输出结果如下图所示。 nvdiasmi 3.下载CUDA版本对应的CTCCL 用户根据操作系统和安装的CUDA版本下载对应的CTCCL独立安装包，安装并使用。 4.使用下载的CTCCL替换环境中原有的libnccl。 CTCCL 依赖环境 下载地址 v0.4.0 Ubuntu 20.04 + CUDA12.2 cp libnccl.so.2 $NCCLPATH 如果没有查找到libnccl.so.2文件，可以直接使用cp命令复制到/usr/lib64。

自写训练一个step对应的代码 endtime profiler.gettime() profiler.updatestep(starttime, endtime, iteration) iteration + 1 ... ... · 安装ctcclprofilernet 下载合适版本的ctcclprofiler whl安装包，使用以下命令安装： pip install ctcclprofilernetxxx.whl 通过pip show可以查看安装包的位置，并配置环境变量： pip show ctcclprofilernet export PATH"/usr/local/python3/bin:$PATH" 启动命令： ctcclprofilernet loglevelinfo 下载地址 组件 下载地址 ctccm ctcclprofilercomm ctcclprofilernet 使用流程 1. ctccm启动 在和所有训练任务节点网络互通的节点上，部署1个ctccm服务，并配置好环境变量。使用以下启动命令拉起ctccm服务，根据训练任务节点数实际和需要配置nodes和port。 ctccm nodes “nnodes” port “ctccmslowdetectport” 2. 提前配置ctcclprofiler所需环境变量 配置以下环境变量： export CTCCLQPTIMEREPORT1， export CTCCLSLOWDETECTSERVERADDR“ export CTCCLPROFILERNETADDR“ 3. 启动训练任务和ctcclprofiler 在同一目录下启动ctcclprofilernet服务和执行训练任务。 ctcclprofilernet loglevelinfo bash runllama27bmorenode.sh

数据集 数据集大小 使用模型 Wikipediaen (1M条) 9.1GB Llama270B /Llama3.1405B

参数设置 使用CTCCLSlowdetect工具套件时，支持配置的参数如下： 服务 参数命令 描述 CTCCL CTCCLQPTIMEREPORT 默认为0。要使用慢节点检测工具套件时，请配置为1，打开CTCCL机件通信信息统计功能。 ctcclprofilercomm CTCCLSLOWDETECTSERVERADDR ctccm的ip地址。示例： ctcclprofilercomm CTCCLPROFILERTIMEOUTRATE 默认为20。表示当一次集合通信操作超过一个迭代时间的20%时，判断该次集合通信为异常事件。由于每次迭代的总通信占比约为20%，故推荐设置为20，可根据集群与模型规模自行调整。 ctcclprofilernet CTCCLSLOWDETECTSERVERADDR 同ctcclprofilercomm ctcclprofilernet CTCCLPROFILERNETADDR 监听训练任务信息入口。 默认为 ctcclprofilernet loglevel 日志级别。info（默认）、debug、warning、critical、error ctccm port 服务使用的监听端口 ctccm debug 是否开启debug日志 ctccm nodes 训练任务的节点数。默认为1。 推荐自行配置。 诊断结果样例 计算慢： 通信慢：

启动训练任务 点击训练任务页面的新建任务，按照如下的示例配置训练命令和模型挂载等，然后启动任务。 Llama270B万卡测试结果 在平台使用9216卡对Llama270B进行预训练，万卡规模国产化集群下，断点续训在5类故障下实现1分钟检测、5分钟内定位、15分钟内恢复训练。 整体结果 训练环境 服务器型号 Atlas 800T A2 NPU型号 910B2（64GB） 驱动版本 23.0.3 CANN 8.0.RC2 Python 3.10.14 MindSpore 2.3.0 Mindformers 1.2.0 训练配置 Epochs 350 Learning Rate 6.e5 Global Batch Size 32768 Batch Size 1 Micro Batch Size 128 Sequence Length 4096 Data Parallel (DP) 256 Model Parallel (MP) 4 Pipeline Parallel (PP) 9 maxdevicememory 54GB jitlevel O2 训练结果 吞吐量（tokens/s/p） 366.915 MFU 芯片算力（%） 43.061 MFU CUBE算力（%） 45.867 断点续训 断点CheckPoint总大小：22T，其中0卡断点CheckPoint大小：2.9G。 故障1：业务故障，kill所有python进程 故障检测时间(Min) 7.2s 故障处理耗时(Min) 231.7s, 3.86min 故障恢复耗时(Min) 458s, 7.63min CKPT加载时间(Min) 0.28min 0卡CKPT加载速度(GB/s) 0.99 故障2：节点心跳故障，把node上label去掉 故障检测时间(Min) 18.9s, 0.315min 故障处理耗时(Min) 279.8s, 4.64min 故障恢复耗时(Min) 478s, 7.96min 0卡CKPT加载时间(Min) 0.3min 0卡CKPT加载速度(GB/s) 1.01 故障3：节点down故障，reboot 故障检测时间(Min) 18.3s, 0.3min 故障处理耗时(Min) 465s, 7.75min 故障恢复耗时(Min) 546s, 9.1min 0卡CKPT加载时间(Min) 0.98min 0卡CKPT加载速度(GB/s) 0.1 故障4：网络故障，网卡link down 故障检测时间(Min) 895s(600s HCCL), 14.9min 故障处理耗时(Min) 300s, 5min 故障恢复耗时(Min) 472.1s, 7.86min 0卡CKPT加载时间(Min) 0.32min 0卡CKPT加载速度(GB/s) 0.96 故障5：PCIE故障，模拟NPU掉卡 故障检测时间(Min) 78.7s, 1.3min 故障处理耗时(Min) 267.1s, 4.4min 故障恢复耗时(Min) 516.9s, 8.6min 0卡CKPT加载时间(Min) 0.32min 0卡CKPT加载速度(GB/s) 0.98

平台通过多种算子迁移适配、算子调优能力和工具链,实现国产化硬件下模型在预训练、微调、推理下的性能对齐NV80%及以上。 平台针对国产化硬件910B进行主流模型的迁移适配和性能优化，多数训练性能达到A800的90%及以上，推理性能达到A10或A100的80%及以上。 目前模型广场所有模型均达到国产化适配的性能标准。 主流模型适配结果示例： 多数模型基于昇腾的训练可达A800的90%以上，举例如下： Llama38Binstruct、ChatGLM36B 性能对标可达90% Qwen272BInstruct 性能对标可达100% 部分模型基于昇腾910B的推理可达A800的80%以上，举例如下： Qwen1.8BChat 性能对标可达110.32% Llama213BChat 性能对标可达91.28% 主流适配模型清单参考如下： 大语言： DeepSeek：DeepSeekR1系列、DeepSeekV3系列 Llama：Llama系列、Llama2系列、Llama3系列 通义千问：Qwen系列、Qwen1.5系列、Qwen2系列、Qwen2.5系列、Qwen3系列 智谱：ChatGLM2系列、ChatGLM3、GLM4系列 书生浦语：InternLM系列、InternLM2系列 百川：Baichuan系列、Baichuan2系列、BaichuanTurbo 电信星辰：TeleChat系列、TeleChat2系列 其他：AquilaChat7B、Gemma29BChat等 多模态： OpenClip ChineseCliP Blip2 VisualGLM6B StableDiffusionV1.5 StableDiffusionV2.1 QwenVLChat InternVLChatV1.5