爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      sqler sql 转rest api 源码解析(四)macro 的执行

      首页 知识中心 软件开发 文章详情页

      sqler sql 转rest api 源码解析(四)macro 的执行

      2024-05-14 07:26:27 阅读次数:44

      http

      sqler sql 转rest api 源码解析(四)macro 的执行

      macro 说明

      macro 是sqler 的核心,当前的处理流程为授权处理,数据校验,依赖执行(include),聚合处理,数据转换处理,sql 执行以及sql 参数绑定

      授权处理

      这个是通过golang 的js 包处理的,通过将golang 的http 请求暴露为js 的fetch 方法,放在js 引擎执行,通过
      http 状态吗确认是否是执行的权限,对于授权的处理,由宏的配置指定,建议通过http hreader处理
      参考格式:

       
          authorizer = <<JS
              (function(){
                  log("use this for debugging")
                  token = $input.http_authorization
                  response = fetch("http:///zxpjigzx", {
                      headers: {
                          "Authorization": token
                      }
                  })
                  if ( response.statusCode != 200 ) {
                      return false
                  }
                  return true
              })()
          JS
       
       
      • 代码
      func (m *Macro) execAuthorizer(input map[string]interface{}) (bool, error) {
        authorizer := strings.TrimSpace(m.Authorizer)
        if authorizer == "" {
          return true, nil
        }
      ​
        var execError error
       // 暴露$input  对象到js 引擎
        vm := initJSVM(map[string]interface{}{"$input": input})
       //  执行js 脚本,根据返回的状态,确认请求权限
        val, err := vm.RunString(m.Authorizer)
        if err != nil {
          return false, err
        }
      ​
        if execError != nil {
          return false, execError
        }
      ​
        return val.ToBoolean(), nil
      }
       
       

      数据校验处理

      主要是对于传递的http 数据,转为是js 的$input 对象,通过js 引擎确认返回的状态
      数据校验配置:

       
      validators {
              user_name_is_empty = "$input.user_name && $input.user_name.trim().length > 0"
              user_email_is_empty = "$input.user_email && $input.user_email.trim(' ').length > 0"
              user_password_is_not_ok = "$input.user_password && $input.user_password.trim(' ').length > 5"
      }
       
       

      代码:

      // validate - validate the input aginst the rules
      func (m *Macro) validate(input map[string]interface{}) (ret []string, err error) {
        vm := initJSVM(map[string]interface{}{"$input": input})
      ​
        for k, src := range m.Validators {
          val, err := vm.RunString(src)
          if err != nil {
            return nil, err
          }
      ​
          if !val.ToBoolean() {
            ret = append(ret, k)
          }
        }
      ​
        return ret, err
      }
       
       

      依赖处理(include)

      获取配置文件中include 配置的数组信息,并执行宏
      一般配置如下:

       
          include = ["_boot"]

      代码:

      func (m *Macro) runIncludes(input map[string]interface{}) error {
        for _, name := range m.Include {
          macro := m.manager.Get(name)
          if nil == macro {
            return fmt.Errorf("macro %s not found", name)
          }
          _, err := macro.Call(input)
          if err != nil {
            return err
          }
        }
        return nil
      }
       
       

      执行聚合操作

      聚合主要是减少rest 端对于宏的调用,方便数据的拼接
      聚合的配置如下,只需要添加依赖的宏即可

       
      databases_tables {
          aggregate = ["databases", "tables"]
      }
       
       

      代码

      func (m *Macro) aggregate(input map[string]interface{}) (map[string]interface{}, error) {
          ret := map[string]interface{}{}
          for _, k := range m.Aggregate {
              macro := m.manager.Get(k)
              if nil == macro {
                  err := fmt.Errorf("unknown macro %s", k)
                  return nil, err
              }
              out, err := macro.Call(input)
              if err != nil {
                  return nil, err
              }
              ret[k] = out
          }
          return ret, nil
      }
       
       

      执行sql

      sql 的处理是通过text/template,同时对于多条sql 需要使用;分开,而且sql 使用的是预处理的
      可以防止sql 注入。。。,同时这个阶段进行了bind 数据的处理,使用buildBind 方法
      格式:

       
      exec = <<SQL
              INSERT INTO users(name, email, password, time) VALUES(:name, :email, :password, UNIX_TIMESTAMP());
              SELECT * FROM users WHERE id = LAST_INSERT_ID();
          SQL
       
       
      • execSQLQuery代码:
      func (m *Macro) execSQLQuery(sqls []string, input map[string]interface{}) (interface{}, error) {
          args, err := m.buildBind(input)
          if err != nil {
              return nil, err
          }
      ​
          conn, err := sqlx.Open(*flagDBDriver, *flagDBDSN)
          if err != nil {
              return nil, err
          }
          defer conn.Close()
      ​
          for i, sql := range sqls {
              if strings.TrimSpace(sql) == "" {
                  sqls = append(sqls[0:i], sqls[i+1:]...)
              }
          }
      ​
          for _, sql := range sqls[0 : len(sqls)-1] {
              sql = strings.TrimSpace(sql)
              if "" == sql {
                  continue
              }
              if _, err := conn.NamedExec(sql, args); err != nil {
                  return nil, err
              }
          }
      ​
          rows, err := conn.NamedQuery(sqls[len(sqls)-1], args)
          if err != nil {
              return nil, err
          }
          defer rows.Close()
      ​
          ret := []map[string]interface{}{}
      ​
          for rows.Next() {
              row, err := m.scanSQLRow(rows)
              if err != nil {
                  continue
              }
              ret = append(ret, row)
          }
      ​
          return interface{}(ret), nil
      }
       
       
      • buildBind 处理
        bind 配置格式:
      bind {
              name = "$input.user_name"
              email = "$input.user_email"
              password = "$input.user_password"
      }
       
       

      代码:

      func (m *Macro) buildBind(input map[string]interface{}) (map[string]interface{}, error) {
       vm := initJSVM(map[string]interface{}{"$input": input})
       ret := map[string]interface{}{}
      ​
       for k, src := range m.Bind {
        val, err := vm.RunString(src)
        if err != nil {
         return nil, err
        }
      ​
        ret[k] = val.Export()
       }
      ​
       return ret, nil
      }
       
       

      执行数据转换

      我们可能需要更具实际的需要,将数据转换为其他的格式,sqler 使用了js 脚本进行处理,通过暴露
      $result 对象到js 运行是,然后调用转换函数对于数据进行转换
      配置格式:

       
       transformer = <<JS
              // there is a global variable called `$result`,
              // `$result` holds the result of the sql execution.
              (function(){
                  newResult = []
      ​
                  for ( i in $result ) {
                      newResult.push($result[i].Database)
                  }
      ​
                  return newResult
              })()
          JS
       
       

      代码:

      // execTransformer - run the transformer function
      func (m *Macro) execTransformer(data interface{}) (interface{}, error) {
          transformer := strings.TrimSpace(m.Transformer)
          if transformer == "" {
              return data, nil
          }
      ​
          vm := initJSVM(map[string]interface{}{"$result": data})
      ​
          v, err := vm.RunString(transformer)
          if err != nil {
              return nil, err
          }
      ​
          return v.Export(), nil
      }
      sqler 对于dop251/goja 的封装处理

      因为dop251/goja 设计的时候不保证并发环境下的数据一致,所以每次调用都是重新
      实例化,js runtime

      js vm 实例化

      代码如下:
      js.go

       
      // initJSVM - creates a new javascript virtual machine
      func initJSVM(ctx map[string]interface{}) *goja.Runtime {
          vm := goja.New()
          for k, v := range ctx {
              vm.Set(k, v)
          }
          vm.Set("fetch", jsFetchfunc)
          vm.Set("log", log.Println)
          return vm
      }
       

      fetch 、log 方法暴露

      为了方便排查问题,以及授权中集成http 请求,所以sqler暴露了一个fetch 方法(和js 的http fetch 功能类似)
      方便进行http 请求的处理
      代码:

       
      // jsFetchfunc - the fetch function used inside the js vm
      func jsFetchfunc(url string, options ...map[string]interface{}) (map[string]interface{}, error) {
          var option map[string]interface{}
          var method string
          var headers map[string]string
          var body interface{}
      ​
          if len(options) > 0 {
              option = options[0]
          }
      ​
          if nil != option["method"] {
              method, _ = option["method"].(string)
          }
      ​
          if nil != option["headers"] {
              hdrs, _ := option["headers"].(map[string]interface{})
              headers = make(map[string]string)
              for k, v := range hdrs {
                  headers[k], _ = v.(string)
              }
          }
      ​
          if nil != option["body"] {
              body, _ = option["body"]
          }
      ​
          resp, err := resty.R().SetHeaders(headers).SetBody(body).Execute(method, url)
          if err != nil {
              return nil, err
          }
      ​
          rspHdrs := resp.Header()
          rspHdrsNormalized := map[string]string{}
          for k, v := range rspHdrs {
              rspHdrsNormalized[strings.ToLower(k)] = v[0]
          }
      ​
          return map[string]interface{}{
              "status": resp.Status(),
              "statusCode": resp.StatusCode(),
              "headers": rspHdrsNormalized,
              "body": string(resp.Body()),
          }, nil
      }
       
      说明

      基本上sqler 的源码已经完了,本身代码量不大,但是设计很简洁

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/rongfengliang/3131935,作者:rongfengliang,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:给你一个整数数组 nums 和一个整数 k ,请你返回其中出现频率前 k 高的元素。 你可以按 任意顺序 返回答案。 要求时间复杂度O(N)。

      下一篇:Singer 学习六 运行&&开发taps、targets (一 taps 运行说明)

      相关文章

      2025-04-16 09:26:45

      prometheus-exporter管理

      prometheus-exporter管理

      2025-04-16 09:26:45
      exporter , http , prometheus
      2025-02-26 07:20:57

      【dubbo】分布式和dubbo

      【dubbo】分布式和dubbo

      2025-02-26 07:20:57
      dubbo , http , zookeeper , 调用 , 项目
      2025-02-25 08:57:55

      Java unix时间戳 移除秒毫秒部分

      Java unix时间戳 移除秒毫秒部分

      2025-02-25 08:57:55
      csdn , http , 方法 , 测试
      2025-02-25 08:57:25

      使用ant执行Java代码

      使用ant执行Java代码

      2025-02-25 08:57:25
      html , http , localhost , path
      2025-02-25 08:57:14

      Micro Benchmark Framework java 基准测试类库

      Micro Benchmark Framework java 基准测试类库

      2025-02-25 08:57:14
      com , http , java
      2025-02-21 08:57:46

      【HTTP】超简洁的实例 ——关于HTTP协议分析

      【HTTP】超简洁的实例 ——关于HTTP协议分析

      2025-02-21 08:57:46
      http , HTTP , tcp , 客户端 , 服务器 , 请求 , 连接
      2025-01-17 09:06:18

      http_build_query 踩到的坑

      http_build_query 踩到的坑

      2025-01-17 09:06:18
      build , http , query , 场景 , 示例
      2024-12-16 09:18:26

      RestTemplate的超全讲解(全)

      RestTemplate的超全讲解(全)

      2024-12-16 09:18:26
      http , post , RestTemplate
      2024-11-27 03:06:18

      Nginx上游服务器长连接配置

      Nginx上游服务器长连接配置

      2024-11-27 03:06:18
      gt , http , nginx
      2024-11-05 08:39:50

      Elasticsearch5.x Head插件安装

      Elasticsearch5.x Head插件安装

      2024-11-05 08:39:50
      http , 跨域
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5236038

      查看更多

      最新文章

      Java unix时间戳 移除秒毫秒部分

      2025-02-25 08:57:55

      使用ant执行Java代码

      2025-02-25 08:57:25

      Micro Benchmark Framework java 基准测试类库

      2025-02-25 08:57:14

      Spring Cloud Alibaba入门五:openFeign实现REST调用-构造多参数请求

      2024-09-25 10:14:48

      使用Spring initializr快速创建一个springboot项目

      2024-09-24 06:29:40

      对于http协议的一次测试

      2024-07-01 01:31:09

      查看更多

      热门文章

      一个简单的http server,处理get和post请求,Python实现

      2023-04-13 09:31:09

      Python套接字Socket读取http网页web数据

      2024-06-28 06:18:15

      对于http协议的一次测试

      2024-07-01 01:31:09

      Spring Cloud Alibaba入门五:openFeign实现REST调用-构造多参数请求

      2024-09-25 10:14:48

      一次Http Get请求健壮性问题的排查过程

      2023-08-07 07:24:54

      全网多种方法分析解决HTTP Status 404资源未找到的错误,TCP的3次握手,dns域名解析,发起http请求以及cookie和session的区别

      2023-07-11 08:48:26

      查看更多

      热门标签

      java Java python 编程开发 代码 开发语言 算法 线程 Python html 数组 C++ 元素 javascript c++
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      全网多种方法分析解决HTTP Status 404资源未找到的错误,TCP的3次握手,dns域名解析,发起http请求以及cookie和session的区别

      一次Http Get请求健壮性问题的排查过程

      Python套接字Socket读取http网页web数据

      使用ant执行Java代码

      测试理论----接口测试中restful接口状态码规范

      对于http协议的一次测试

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号