找回密码
 注册
关于网站域名变更的通知
查看: 852|回复: 3
打印 上一主题 下一主题

Logstash接收到的日志时间顺序与Filebeat发出的顺序不一样

[复制链接]

该用户从未签到

跳转到指定楼层
1#
发表于 2021-8-18 14:06 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式

EDA365欢迎您登录!

您需要 登录 才可以下载或查看,没有帐号?注册

x

( P9 W8 A" E" Z  j* A2 }: N3 P! L用filebeat收集 /tmp/testlog/no7.log 的内容后,传送给Logstash服务器,Logstash把收到的内容输出为 /tmp/logstash/no7.log
9 X/ t/ H, W9 U4 E. c4 e7 b* ]+ E9 c% F* `3 z% V
传送没有出现日志缺失,但是发现时间顺序是混乱的,具体情况如下:9 U! ]# ~* w* |+ W

1 E: q2 F4 |$ l7 [! @; hfilebeat.yml
: o& F5 n# I; W% nfilebeat.inputs:5 G8 o  a$ w6 `

8 q& J' I1 K+ z$ Y$ S- Xtype: log
; c4 b( A' u, h" ^0 z' xenabled: true* e( B: r/ M# Y" K- J
paths:
+ x6 B4 S2 p8 l: a' `2 P/tmp/testlog/no7.log' E9 j- \4 R4 O, m, O* J
output.logstash:
- u4 s5 E- F" ^: ~hosts: ["xxx.xx.x.xxx:5044"]  W, }6 h8 V0 r+ F6 {
----------------------------------------------------------------------------
2 B1 Z$ i- U; K, ?logstash.conf: p: K# f% d2 p  }: [
input {( H$ H8 k1 X0 w7 h! l
beats {  _2 h5 z( I8 _! T. }1 M7 ?7 a
port => 5044
, Q4 X8 X1 k5 q+ H}6 d) E" K9 Z6 r' H/ h
}
1 l) I/ c2 U9 d$ Z$ h5 Soutput {: P0 f' L. u. c! z' ]
file {
7 b9 C5 H! N6 s8 n3 k  Rpath => "/tmp/logstash/no7.log"
" [$ N, l+ J8 e, dcodec => line { format => "%{message}"}
, s3 O, A4 |9 l% P}
; U, U" n' l4 S8 u}
8 I2 D3 K% h, N# G9 ^0 c----------------------------------------------------------------------------. G* C0 p6 L' R7 j3 Z, P4 t1 G' V
7 q( ?, d! O% s
时间乱序情况如下:& q. T! z. ]9 w) R' D/ V
( p) G0 O% G; d% d8 ~
/tmp/testlog/no7.log(Filebeat服务器)4 T8 }% @6 T$ ~2 J( x( y- I% r9 L
no7 0 2020年 1月 14日 火曜日 17:48:36 JST
+ G2 }7 h. B% x9 {8 Eno7 1 2020年 1月 14日 火曜日 17:48:37 JST  i" p: w2 G+ x1 V  ^; k
no7 2 2020年 1月 14日 火曜日 17:48:38 JST
, p" f  p1 v& c% r# Vno7 3 2020年 1月 14日 火曜日 17:48:39 JST
2 ]& v: |" q2 C, @, Kno7 4 2020年 1月 14日 火曜日 17:48:40 JST6 i( }8 H4 t: p4 l& B# {5 W: C6 v
no7 5 2020年 1月 14日 火曜日 17:48:41 JST+ F  X7 h" l7 \1 Z+ V4 T
no7 6 2020年 1月 14日 火曜日 17:48:42 JST" w) l! Y& r  `
no7 7 2020年 1月 14日 火曜日 17:48:43 JST$ X- v" @0 T8 J9 L' c# `0 `2 S1 |
no7 8 2020年 1月 14日 火曜日 17:48:44 JST; s  _( X' C+ H5 H/ A& L7 z
no7 9 2020年 1月 14日 火曜日 17:48:45 JST1 N' Z3 d: {( T9 u
----------------------------------------------------------------------------
  l. k: [4 E4 p: N
  G5 E* H1 R6 Q! U/tmp/logstash/no7.log(Logstash服务器)9 d# t; I2 T+ `" c( a6 ?/ g8 u' V9 j
no7 2 2020年 1月 14日 火曜日 17:48:38 JST9 b. @# G1 Z: x; K; g3 \
no7 6 2020年 1月 14日 火曜日 17:48:42 JST6 n- ^+ T2 F$ \. W
no7 3 2020年 1月 14日 火曜日 17:48:39 JST
6 O0 t1 |" d8 o3 I5 v( Mno7 7 2020年 1月 14日 火曜日 17:48:43 JST$ S0 l( K. Q2 {4 U; s2 r; T6 `
no7 0 2020年 1月 14日 火曜日 17:48:36 JST
+ p, P- x  h  k3 K+ ~7 y) k! hno7 4 2020年 1月 14日 火曜日 17:48:40 JST/ r7 E) P2 q0 g$ R0 `1 \
no7 8 2020年 1月 14日 火曜日 17:48:44 JST
; L" i' i/ k* a( c7 `no7 1 2020年 1月 14日 火曜日 17:48:37 JST
6 h% b: `0 ]2 H2 v# P, T* bno7 5 2020年 1月 14日 火曜日 17:48:41 JST
: ?: e4 q9 l0 V  F2 `no7 9 2020年 1月 14日 火曜日 17:48:45 JST
  a# K" j3 ]$ A5 U( D----------------------------------------------------------------------------/ Y2 `5 b) G2 y% x* e/ s" |

' V6 L$ f. B8 ~可以看见,Logstash接受到的所有内容都是乱序排列,请问怎么才能让它按照Filebeat服务器里的顺序输出呢* W2 k* x4 g$ {- U3 \9 z6 n& K4 H
请大家帮帮忙,麻烦了
7 k! r7 q; p5 u/ S4 A7 s8 n$ }( j8 ~" [( }  U9 Q* |; X
——————
/ ^7 D& g- v& @4 f( q( C' Q0 H
6 [) ~" f3 p1 a6 Q, V' m: v0 \8 y有在网上搜过解决方法,都说是用filter的date来处理,但是按照目前能找到的所有回答都试了一遍,乱序问题依旧没有解决

该用户从未签到

2#
发表于 2021-8-18 15:13 | 只看该作者
问题贴也是太长了 ,看了半天了……

点评

哈哈哈,我也看半天了,徘徊在ARM边沿的人啊  详情 回复 发表于 2021-8-18 15:14

该用户从未签到

3#
发表于 2021-8-18 15:14 | 只看该作者
SsaaM7 发表于 2021-8-18 15:139 A. J; P; W! Q5 w2 [5 t1 ?
问题贴也是太长了 ,看了半天了……

( b7 O9 X+ t9 x" G8 r+ q& F5 W哈哈哈,我也看半天了,徘徊在ARM边沿的人啊6 D5 ?! m& T: x' a! L* W' y

该用户从未签到

4#
发表于 2021-8-18 15:17 | 只看该作者
如果试了一遍没有解决,说明你并没有成功使用你的日志时间作为logstash时间戳解析,否则不会再乱序了。再尝试一下,看下是不是过程出错了
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

推荐内容上一条 /1 下一条

EDA365公众号

关于我们|手机版|EDA365电子论坛网 ( 粤ICP备18020198号-1 )

GMT+8, 2025-8-20 06:07 , Processed in 0.140625 second(s), 27 queries , Gzip On.

深圳市墨知创新科技有限公司

地址:深圳市南山区科技生态园2栋A座805 电话:19926409050

快速回复 返回顶部 返回列表