爆款云主机2核4G限时秒杀,88元/年起!
查看详情

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心

      Logstash笔记(四) ----output插件

      首页 知识中心 其他 文章详情页

      Logstash笔记(四) ----output插件

      2023-05-15 10:01:00 阅读次数:992

      logstash

        (一),标准输出 

           和之前 inputs/stdin 插件一样,outputs/stdout 插件也是最基础和简单的输出插件。同样在这里简单介绍一下,作为输出插件的一个共性了解

      配置事例:

      output {
          stdout {
              codec => rubydebug
              workers => 2
          }
      }
      
      ==等同于
      output {
          stdout {
              codec => rubydebug {
              }
              workers => 2
          }
      }
      #######以下的命令常用于调试信息。
      [root@localhost logstash]# /usr/local/logstash/bin/logstash -f test/geoip2.conf
       -vv

      解释:输出插件统一具有一个参数是workers,logstash为输出做了多线程的准备。其次就是codec 设置。codec 的作用在之前已经讲过。可能除了 codecs/multiline ,其他 codec 插件本身并没有太多的设置项。所以一般省略掉后面的配置区段。换句话说。上面配置示例的完全写法应该是:

       

      (二).保存成文件File

            通过日志收集系统将分散在数百台服务器上的数据集中存储在某中心服务器上,这是运维最原始的需求。早年的 scribed ,甚至直接就把输出的语法命名为 <store>。Logstash 当然也能做到这点。

      和 LogStash::Inputs::File 不同, LogStash::Outputs::File 里可以使用 sprintf format 格式来自动定义输出到带日期命名的路径。

      output {
          file {
              path => "/path/to/%{+yyyy/MM/dd/HH}/%{host}.log.gz"
              message_format => "%{message}"
              gzip => true
          }
      }

        使用 output/file 插件首先需要注意的就是 message_format 参数。插件默认是输出整个 event 的 JSON 形式数据的。这可能跟大多数情况下使用者的期望不符。大家可能只是希望按照日志的原始格式保存就好了。所以需要定义为 %{message},当然,前提是在之前的 filter 插件中,你没有使用 remove_field 或者 update 等参数删除或修改 %{message} 字段的内容

      gzip 是否采用压缩格式。就可以一段一段的识别出来数据 —— 反过来说,也就是可以一段一段压缩了添加在后面!

       

      (三).保存进 Elasticsearch

      output {
          elasticsearch {
              host => "192.168.0.2"
              protocol => "http"
              index => "logstash-%{type}-%{+YYYY.MM.dd}"
              index_type => "%{type}"
              workers => 5
              template_overwrite => true
          }
      }

      目前协议支持三种协议:node . http 和tranaport

       

      (四).输出到Redis

      input { stdin {} }
      output {
          redis {
              data_type => "channel"
              key => "logstash-chan-%{+yyyy.MM.dd}"
          }
      }

      用 redis-cli 命令行来演示 outputs/redis 插件的实质

       

      (五).发送网络数据(TCP)

      output {
          tcp {
              host  => "192.168.0.2"
              port  => 8888
              codec => json_lines
          }
      }

          在收集端采用 tcp 方式发送给远端的 tcp 端口。这里需要注意的是,默认的 codec 选项是 json。而远端的 LogStash::Inputs::TCP 的默认 codec 选项却是 plain !所以不指定各自的 codec ,对接肯定是失败的。

      另外,由于IO BUFFER 的原因,即使是两端共同约定为 json 依然无法正常运行,接收端会认为一行数据没结束,一直等待直至自己 OutOfMemory !

      所以,正确的做法是,发送端指定 codec 为 json_lines ,这样每条数据后面会加上一个回车,接收端指定 codec 为 json_lines 或者 json 均可,这样才能正常处理。包括在收集端已经切割好的字段,也可以直接带入收集端使用了

      版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.51cto.com/liqingbiao/1929844,作者:lqbyz,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

      上一篇:ajax2-ajax的post请求

      下一篇:poj 2362 hdoj 1518 Square(搜索)

      相关文章

      2024-10-29 09:41:48

      linux文件系统故障Input/output error

      linux文件系统故障Input/output error

      2024-10-29 09:41:48
      error
      2024-09-24 06:31:22

      metricbeat监控logstash,上报数据到Elasticsearch,Kibana中查看Logstash node节点的Transport address地址为127.0.0.1:9600

      metricbeat监控logstash,上报数据到Elasticsearch,Kibana中查看Logstash node节点的Transport address地址为127.0.0.1:9600

      2024-09-24 06:31:22
      elasticsearch , logstash
      2024-08-08 09:40:21

      显示所有用户表创建时间,数据行数

      显示所有用户表创建时间,数据行数

      2024-08-08 09:40:21
      insert , table
      2023-06-21 06:40:36

      logstash-input-file 配置属性详解

      logstash-input-file 配置属性详解

      2023-06-21 06:40:36
      logstash
      2023-06-21 06:40:06

      Logstash 命令行参数

      Logstash 命令行参数

      2023-06-21 06:40:06
      logstash , pipeline , 日志
      2023-05-16 09:41:57

      Logstash基础操作-input

      获取系统日志,输出至终端控制台输出信息中添加自定义字段,以便标识获取指定主机的rSyslog 日志通过TCP端口获取网络日志

      2023-05-16 09:41:57
      input , logstash
      2023-04-13 09:31:09

      logstash默认@timestamp时间戳时间与本地时间相差8小时

      logstash默认@timestamp时间戳时间与中国本地时间相差8小时 解决: 因为在ruby代码执行过程中,有一个临时中间变量t

      2023-04-13 09:31:09
      logstash , timestamp
      2023-04-13 09:27:05

      Windows安装启动logstash

      Windows安装启动logstash

      2023-04-13 09:27:05
      logstash , 安装
      2023-04-13 09:27:05

      logstash时间戳转换为unix 纳秒nano second time

      logstash时间戳转换为unix 纳秒nano second time 然后在配置中取出unix_nano_time即是:

      2023-04-13 09:27:05
      logstash , unix
      2023-04-13 09:27:05

      logstash的grok提取中括号关键词后面的数据到指定字段

      logstash的grok提取中括号关键词后面的数据到指定字段 比如,现在有一段数据, 需要提取[TASKID:***] 里面的*数据

      2023-04-13 09:27:05
      logstash
      查看更多
      推荐标签

      作者介绍

      天翼云小翼
      天翼云用户

      文章

      33561

      阅读量

      5223915

      查看更多

      最新文章

      Logstash基础操作-input

      2023-05-16 09:41:57

      logstash默认@timestamp时间戳时间与本地时间相差8小时

      2023-04-13 09:31:09

      Windows安装启动logstash

      2023-04-13 09:27:05

      logstash时间戳转换为unix 纳秒nano second time

      2023-04-13 09:27:05

      logstash启动过慢甚至卡死

      2023-04-11 10:47:04

      查看更多

      热门文章

      Windows安装启动logstash

      2023-04-13 09:27:05

      logstash启动过慢甚至卡死

      2023-04-11 10:47:04

      logstash时间戳转换为unix 纳秒nano second time

      2023-04-13 09:27:05

      logstash默认@timestamp时间戳时间与本地时间相差8小时

      2023-04-13 09:31:09

      Logstash基础操作-input

      2023-05-16 09:41:57

      查看更多

      热门标签

      linux java python javascript 数组 前端 docker Linux vue 函数 shell git 节点 容器 示例
      查看更多

      相关产品

      弹性云主机

      随时自助获取、弹性伸缩的云服务器资源

      天翼云电脑(公众版)

      便捷、安全、高效的云电脑服务

      对象存储

      高品质、低成本的云上存储服务

      云硬盘

      为云上计算资源提供持久性块存储

      查看更多

      随机文章

      logstash默认@timestamp时间戳时间与本地时间相差8小时

      logstash启动过慢甚至卡死

      logstash时间戳转换为unix 纳秒nano second time

      Logstash基础操作-input

      Windows安装启动logstash

      • 7*24小时售后
      • 无忧退款
      • 免费备案
      • 专家服务
      售前咨询热线
      400-810-9889转1
      关注天翼云
      • 旗舰店
      • 天翼云APP
      • 天翼云微信公众号
      服务与支持
      • 备案中心
      • 售前咨询
      • 智能客服
      • 自助服务
      • 工单管理
      • 客户公告
      • 涉诈举报
      账户管理
      • 管理中心
      • 订单管理
      • 余额管理
      • 发票管理
      • 充值汇款
      • 续费管理
      快速入口
      • 天翼云旗舰店
      • 文档中心
      • 最新活动
      • 免费试用
      • 信任中心
      • 天翼云学堂
      云网生态
      • 甄选商城
      • 渠道合作
      • 云市场合作
      了解天翼云
      • 关于天翼云
      • 天翼云APP
      • 服务案例
      • 新闻资讯
      • 联系我们
      热门产品
      • 云电脑
      • 弹性云主机
      • 云电脑政企版
      • 天翼云手机
      • 云数据库
      • 对象存储
      • 云硬盘
      • Web应用防火墙
      • 服务器安全卫士
      • CDN加速
      热门推荐
      • 云服务备份
      • 边缘安全加速平台
      • 全站加速
      • 安全加速
      • 云服务器
      • 云主机
      • 智能边缘云
      • 应用编排服务
      • 微服务引擎
      • 共享流量包
      更多推荐
      • web应用防火墙
      • 密钥管理
      • 等保咨询
      • 安全专区
      • 应用运维管理
      • 云日志服务
      • 文档数据库服务
      • 云搜索服务
      • 数据湖探索
      • 数据仓库服务
      友情链接
      • 中国电信集团
      • 189邮箱
      • 天翼企业云盘
      • 天翼云盘
      ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
      公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
      • 用户协议
      • 隐私政策
      • 个人信息保护
      • 法律声明
      备案 京公网安备11010802043424号 京ICP备 2021034386号