爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      【clickhouse专栏】对标mongodb存储类JSON数据文档统计分析

      首页 知识中心 软件开发 文章详情页

      【clickhouse专栏】对标mongodb存储类JSON数据文档统计分析

      2023-06-27 10:00:34 阅读次数:430

      clickhouse,JSON,mongodb

      一、文档存储的需求

      很多的开发者都使用过mongodb,在mongodb中数据记录是以文档的形式存在的(类似于一种多级嵌套SQL的形式)。比如下面的JSON数据结构:dev_ip表示某一台服务器的ip、location字段存放经纬度、meminfo.total和meminfo.userd分别代表内存总量和使用量。

      [{
        "dev_ip": "123.46.5.111",
        "location": [39.916527, 116.397128],
        "meminfo": {
          "total": 64,
          "used": 23.2
        }
      },
      {
        "dev_ip": "123.46.5.112",
        "location": [39.916144, 116.392582],
        "meminfo": {
          "total": 64,
          "used": 27.8
        }
      }]
      

      二、建表

      存储文档需要使用到Map这种数据类型,在某些比较旧的版本中,Map数据类型还是实验性的,不能直接使用。如果想使用,需要执行set allow_experimental_map_type = 1;。
      然后我们可以按照JSON的数据结构来建表,location是数组Array数据类型,meminfo是Map数据类型。

      CREATE TABLE dev_meminfo (
        dev_ip String,  
        location Array(Float64),
        meminfo Map(String, Float32)
      )
      ENGINE = MergeTree()
      ORDER BY dev_ip;
      

      clickhouse提供了数组类型Array(T),数组类型由多个T元素组成。T可以是任意的基础数据类型,或者也可以是数组类型。如果是数组类型就形成了多维数组,Cickhouse对多维数组的支持有限,所以不建议使用多维数组。数组里面所有的T元素的数据类型必须是一样的,否则会抛出异常。

      三、数据入库

      在linux环境下,我们可以将JSON数据保存为一个文档,命名如:dev_meminfo.json。然后使用下面的命令行,完成文档JSON数据的入库。jq的作用是将JSON数组及Map从结构中剥离出来,从而符合JSONEachRow要求的输入格式。

      cat dev_meminfo.json |jq -c .[] | clickhouse-client --database acaidb -m -u acai --password '<你的密码>'  \
      --query="INSERT INTO dev_meminfo FORMAT JSONEachRow"
      

      或者我们可以直接使用INSERT语句来完成数据的单条插入,如下:

      INSERT  INTO dev_meminfo FORMAT JSONEachRow {"dev_ip": "123.46.5.112", "location": [39.916144, 116.392582],"meminfo": {"total": 64,"used": 27.8}};
      

      四、查询数据

      select * 的方式查询数据:

      #  clickhouse-client --database acaidb -m -u acai --password '4rfv$RFV'  --query="SELECT * FROM dev_meminfo"
      123.46.5.111    [39.916527,116.397128]  {'total':64,'used':23.2}
      123.46.5.112    [39.916144,116.392582]  {'total':64,'used':27.8}
      

      使用字段名称方式查询数据,需要注意的是Ciickhouse的数组的下标是从0开始的,这与我们传统编程开发中的规范是不一致的。

      # clickhouse-client --database acaidb -m -u acai --password '4rfv$RFV'  --query="SELECT dev_ip,location[1],location[2],meminfo['total'],meminfo['used'] FROM dev_meminfo"
      123.46.5.111    39.916527       116.397128      64      23.2
      123.46.5.112    39.916144       116.392582      64      27.8
      

      五、总结

      我们看到clickhouse可以代替mongodb进行类JSON文档数据的存储,而且支持SQL查询统计分析,这一点是比较吸引人的。我只是介绍了简单的查询,其实针对各种统计分析场景,clickhouse提供了超级多的统计分析函数、窗口函数等等,当然针对数组的数据类型也有很多的统计分析函数。
      更为值得注意的是:笔者看到一些测评文章,clickhouse的的统计分析性能是mongodb的近百倍之多(笔者自己尚未验证,请关注我的专栏后续文章)。但是也不是说clickhouse可以代替mongodb的所有应用场景,至少面向用户的并发请求的场景clickhouse是不满足的,因为clickhouse的定位是数据仓库,主要是面向数据分析OLAP场景,而不是面向用户高并发的联机事务处理OLTP。

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://www.cnblogs.com/zimug/p/16377068.html,作者:字母哥博客,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:java学习第十二天笔记-字符串226-学生管理系统总代码

      下一篇:并发编程之volatile与JMM多线程内存模型

      相关文章

      2025-05-14 09:51:15

      python json反序列化为对象

      在Python中,将JSON数据反序列化为对象通常意味着将JSON格式的字符串转换为一个Python的数据结构(如列表、字典)或者一个自定义的类实例。

      2025-05-14 09:51:15
      json , JSON , Person , Python , 列表 , 字典 , 实例
      2025-05-12 08:40:18

      DataTable转JSON

      DataTable转JSON

      2025-05-12 08:40:18
      dataset , DataTable , json , JSON
      2025-03-21 09:33:29

      js 深拷贝、浅拷贝深度解析

      js 深拷贝、浅拷贝深度解析

      2025-03-21 09:33:29
      JSON , 内存 , 对象 , 属性 , 引用 , 拷贝 , 数组
      2025-03-18 08:27:03

      按天备份mongodb的数据

      按天备份mongodb的数据

      2025-03-18 08:27:03
      localhost , mongodb , root , 备份 , 数据
      2025-03-17 07:58:55

      ClickHouse-004-sql命令创建用户以及授权

      ClickHouse-004-sql命令创建用户以及授权

      2025-03-17 07:58:55
      clickhouse , sql , 用户
      2025-03-17 07:50:08

      clickhourse-001单机安装部署

      clickhourse-001单机安装部署

      2025-03-17 07:50:08
      clickhouse , server , 安装 , 配置文件
      2025-03-11 09:35:39

      【mongodb基础-5】A Guide to MongoDB with Java

      【mongodb基础-5】A Guide to MongoDB with Java

      2025-03-11 09:35:39
      39 , mongodb , MongoDB , 数据库 , 文档
      2025-03-11 09:35:39

      【mongodb基础-6】mongodb query in java

      【mongodb基础-6】mongodb query in java

      2025-03-11 09:35:39
      lt , mongodb , 查询 , 语法
      2025-03-11 09:34:07

      【后端】【语言】【python】python常见操作

      【后端】【语言】【python】python常见操作

      2025-03-11 09:34:07
      JSON , List , python , 操作
      2024-12-27 07:57:35

      mysql 存储过程返回更新前记录

      在MySQL中,如果我们想在存储过程中返回更新前的记录,这通常不是直接支持的,因为UPDATE语句本身不返回更新前的数据。但是,我们可以通过一些策略来实现这个需求。

      2024-12-27 07:57:35
      JSON , MySQL , 存储 , 更新 , 游标 , 记录 , 返回
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5234283

      查看更多

      最新文章

      python json反序列化为对象

      2025-05-14 09:51:15

      DataTable转JSON

      2025-05-12 08:40:18

      js 深拷贝、浅拷贝深度解析

      2025-03-21 09:33:29

      【mongodb基础-5】A Guide to MongoDB with Java

      2025-03-11 09:35:39

      【后端】【语言】【python】python常见操作

      2025-03-11 09:34:07

      mysql 存储过程返回更新前记录

      2024-12-27 07:57:35

      查看更多

      热门文章

      Ajax服务端响应JSON数据

      2023-07-28 08:26:06

      mysql 5.7+SQL直接解析JSON查询

      2023-05-29 10:48:52

      前端工作总结285-重置新增的mode

      2024-09-24 06:30:37

      前端工作总结290-uni-两个页面对象传递

      2023-03-16 06:47:52

      Go 语言入门很简单 -- Go 语言转化为 JSON #私藏项目实操分享#

      2023-04-06 09:56:33

      MongoDB 入门教程系列之三:使用 Restful API 操作 MongoDB

      2023-06-13 08:34:11

      查看更多

      热门标签

      java Java python 编程开发 代码 开发语言 算法 线程 Python html 数组 C++ 元素 javascript c++
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      JSON简介

      JSON再开发中的使用

      MySQL中实现动态表单中JSON元素精准匹配的方法

      别再手动验证数据了!Python + JSONSchema,一键搞定

      mongodb update

      前端JSON数据绑定到表单中去(JQuery)

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号