DLI SQL
更新时间 2023-07-18 19:20:28
最近更新时间: 2023-07-18 19:20:28
本章节主要介绍节点参考的DLI SQL。
功能
通过DLI SQL节点传递SQL语句到DLI中执行，实现多数据源分析探索。
原理
该节点方便用户在数据开发模块的周期与实时调度中执行DLI相关语句，可以使用参数变量为用户的数仓进行增量导入，分区处理等动作。
参数
用户可参考下表配置DLI SQL节点的参数。
属性参数
| 参数 | 是否必选 | 说明 |
|---|---|---|
| SQL或脚本 | 是 | 可以选择SQL语句或SQL脚本。 SQL语句 单击“SQL语句”参数下的文本框，在“SQL语句”页面输入需要执行的SQL语句。 SQL脚本 在“SQL脚本”参数后选择需要执行的脚本。如果脚本未创建，请参考新建脚本和开发SQL脚本先创建和开发脚本。 说明 若选择SQL语句方式，数据开发模块将无法解析您输入SQL语句中携带的参数。 |
| 数据库名称 | 是 | 默认选择SQL脚本中设置的数据库，支持修改。 |
| DLI环境变量 | 否 | 环境变量配置项需要以"dli.sql."或"spark.sql."开头。 环境变量的key为dli.sql.shuffle.partitions或dli.sql.autoBroadcastJoinThreshold时，不能包含><符号。 如果作业和脚本中同时配置了同名的参数，作业中配置的值会覆盖脚本中的值。 |
| 队列名称 | 是 | 默认选择SQL脚本中设置的DLI队列，支持修改。如需新建资源队列，请参考以下方法： 单击   ，进入DLI的“队列管理”页面新建资源队列。前往DLI管理控制台进行新建。 |
| 脚本参数 | 否 | 关联的SQL脚本如果使用了参数，此处显示参数名称，请在参数名称后的输入框配置参数值。参数值支持使用表达式概述。 若关联的SQL脚本，脚本参数发生变化，可单击  刷新按钮 同步。 |
| 节点名称 | 是 | 默认显示为SQL脚本的名称，支持修改。规则如下：节点名称，可以包含中文、英文字母、数字、“_”、“-”、“/”、“<”、“>”等各类特殊字符，长度为1～128个字符。 |
| 是否记录脏数据 | 是 | 单击  选择节点是否记录脏数据。是：记录脏数据 否：不记录脏数据 |
高级参数
| 参数 | 是否必选 | 说明 |
|---|---|---|
| 节点状态轮询时间（秒） | 是 | 设置轮询时间（1~60秒），每隔x秒查询一次节点是否执行完成。 |
| 节点执行的最长时间 | 是 | 设置节点执行的超时时间，如果节点配置了重试，在超时时间内未执行完成，该节点将不会再重试，直接置为失败状态。 |
| 失败重试 | 是 | 节点执行失败后，是否重新执行节点。 是：重新执行节点，请配置以下参数。 − 最大重试次数 − 重试间隔时间（秒） 否：默认值，不重新执行节点。 说明 如果作业节点配置了重试，并且配置了超时时间，该节点执行超时后将不会再重试，直接置为失败状态。 |
| 失败策略 | 是 | 节点执行失败后的操作： 终止当前作业执行计划：停止当前作业运行，当前作业实例状态显示为“失败”。 继续执行下一节点：忽略当前节点失败，当前作业实例状态显示为“忽略失败成功”。 挂起当前作业执行计划：暂停当前作业运行，当前作业实例状态显示为“等待运行”。 终止后续节点执行计划：停止后续节点的运行，当前作业实例状态显示为“失败”。 |
| 空跑 | 否 | 如果勾选了空跑，该节点不会实际执行，将直接返回成功。 |
血缘关系
| 参数 | 说明 |
|---|---|
| 输入 | |
| 新建 | 单击“新建”，在“类型”的下拉选项中选择要新建的类型。可以选择DWS，OBS，CSS，HIVE，CUSTOM和DLI类型。 DWS − 连接名称（必选）：单击   ，在弹出的“连接名称”窗口选择DWS的数据连接。− 数据库（必选）：单击   ，在弹出的“数据库”窗口选择DWS的数据库。− schema（必选）：单击   ，在弹出的“schema”窗口选择DWS的数据库模式。− 表名（必选）：单击   ，在弹出的“表名”窗口选择DWS的数据表。OBS − 路径（必选）：单击   ，在弹出的“OBS文件浏览”窗口选择OBS路径。CSS − 集群名称（必选）：单击   ，在弹出的“CloudSearch集群”窗口选择CloudSearch集群。− 索引名称（必选）：输入CSS类型的索引名称。 HIVE − 连接名称（必选）：单击   ，在弹出的“连接名称”窗口选择HIVE的数据连接。− 数据库（必选）：单击   ，在弹出的“数据库”窗口选择HIVE的数据库。− 表名（必选）：单击   ，在弹出的“表名”窗口选择HIVE的数据表。CUSTOM − 名称（必选）：输入CUSTOM类型的名称。 − 属性（必选）：输入CUSTOM类型的属性，可新增不止一条。 DLI − 连接名称（必选）：单击   ，在弹出的“连接名称”窗口选择DLI的数据连接。− 数据库（必选）：单击   ，在弹出的“数据库”窗口选择DLI的数据库。− 表名（必选）：单击  ，在弹出的“表名”窗口选择DLI的数据表。 |
| 确定 | 单击“确认”，保存节点输入功能的参数配置。 |
| 取消 | 单击“取消”，取消节点输入功能的参数配置。 |
| 编辑 | 单击  ，修改节点输入功能的参数配置，修改完成后，请保存。 |
| 删除 | 单击  ，删除节点输入功能的参数配置。 |
| 查看表详情 | 单击  ，查看节点输入血缘关系创建数据表的详细信息。 |
| 输出 | |
| 新建 | 单击“新建”，在“类型”的下拉选项中选择要新建的类型。可以选择DWS，OBS，CSS，HIVE，CUSTOM和DLI类型。 DWS − 连接名称（必选）：单击   ，在弹出的“连接名称”窗口选择DWS的数据连接。− 数据库（必选）：单击   ，在弹出的“数据库”窗口选择DWS的数据库。− schema（必选）：单击   ，在弹出的“schema”窗口选择DWS的数据库模式。− 表名（必选）：单击   ，在弹出的“表名”窗口选择DWS的数据表。OBS − 路径（必选）：单击   ，在弹出的“OBS文件浏览”窗口选择OBS路径。CSS − 集群名称（必选）：单击   ，在弹出的“CloudSearch集群”窗口选择CloudSearch集群。− 索引名称（必选）：输入CSS类型的索引名称。 HIVE − 连接名称（必选）：单击   ，在弹出的“连接名称”窗口选择HIVE的数据连接。− 数据库（必选）：单击   ，在弹出的“数据库”窗口选择HIVE的数据库。− 表名（必选）：单击   ，在弹出的“表名”窗口选择HIVE的数据表。CUSTOM − 名称（必选）：输入CUSTOM类型的名称。 − 属性（必选）：输入CUSTOM类型的属性，可新增不止一条。 DLI − 连接名称（必选）：单击   ，在弹出的“连接名称”窗口选择DLI的数据连接。− 数据库（必选）：单击   ，在弹出的“数据库”窗口选择DLI的数据库。− 表名（必选）：单击  ，在弹出的“表名”窗口选择DLI的数据表。 |
| 确定 | 单击“确认”，保存节点输出功能的参数配置。 |
| 取消 | 单击“取消”，取消节点输出功能的参数配置。 |
| 编辑 | 单击  ，修改节点输出功能的参数配置，修改完成后，请保存。 |
| 删除 | 单击  ，删除节点输出功能的参数配置。 |
| 查看表详情 | 单击  ，查看节点输出血缘关系创建数据表的详细信息。 |
