Java中解析日志

haitiancoder 發(fā)布于2019-08-16 13:36 / 2806人閱讀

摘要：中解析日志常用的是，是一個(gè)用于解析和其它文件的簡(jiǎn)單易用的，并且它可以將這些無結(jié)構(gòu)的轉(zhuǎn)換成結(jié)構(gòu)化的數(shù)據(jù)使用正則表達(dá)式對(duì)進(jìn)行解析，常用的是和，下面來具體說說各自的使用是組織提供的實(shí)現(xiàn)，在倉(cāng)庫(kù)中輸入就可以找到對(duì)應(yīng)的包簡(jiǎn)單項(xiàng)目如果是簡(jiǎn)單項(xiàng)目，直接

Java中解析日志常用的是Grok，Grok是一個(gè)用于解析logs和其它文件的簡(jiǎn)單易用的API，并且它可以將這些無結(jié)構(gòu)的logs轉(zhuǎn)換成結(jié)構(gòu)化的數(shù)據(jù)（JSON）,使用正則表達(dá)式對(duì)logs進(jìn)行解析，常用的是grok和java-grok，下面來具體說說各自的使用

grok

grok是io.thekraken組織提供的實(shí)現(xiàn)，在mven倉(cāng)庫(kù)中輸入io.thekraken就可以找到對(duì)應(yīng)的jar包

簡(jiǎn)單Java項(xiàng)目

如果是簡(jiǎn)單Java項(xiàng)目，直接引入依賴的jar包即可，對(duì)于0.1.5的版本，必須引入5個(gè)jar包：commons-lang3-3.1.jar、slf4j-api-1.7.25.jar、slf4j-nop-1.7.25.jar、gson-2.2.2.jar、grok-0.1.5.jar

MAVEN項(xiàng)目

如果是MAVEN項(xiàng)目，直接POM文件中添加如下依賴就可以了


    io.thekraken
    grok
    0.1.5

使用舉例

由于logs等結(jié)構(gòu)復(fù)雜，所以grok使用正則表達(dá)式來解析日志，它對(duì)于很多常見的logs（如：mongodb、redis、java）已經(jīng)內(nèi)置好了正則表達(dá)式庫(kù)，當(dāng)然也可以根據(jù)logs的格式自定義正則表達(dá)式庫(kù)，使用起來很簡(jiǎn)單，代碼如下：

public static void useGrok()  throws Exception {
    String GROK_PATTERN_PATH = "src/grok-pattern";
    String logMsg = "<165>1 2003-08-24T05:14:15.000003-07:00 192.0.2.1 myproc 8710 - - %% It"s time to make the do-nuts.";
    String pattern = "%{SYSLOG5424LINE}";
    Grok grok = new Grok();
    grok.addPatternFromFile(GROK_PATTERN_PATH);
    grok.compile(pattern);
    Match grokMatch = grok.match(logMsg);
    grokMatch.captures();
    if(!grokMatch.isNull()){
        System.out.println(grokMatch.toMap().toString());
        System.out.println(grokMatch.toJson().toString());
    }else{
        System.out.println("not match");
    }
}

可以在Github上查看更多關(guān)于grok的使用

java-grok

java-grok是io.krakens組織提供的實(shí)現(xiàn)，在maven倉(cāng)庫(kù)中輸入io.krakens即可找到對(duì)應(yīng)的jar包

簡(jiǎn)單Java項(xiàng)目

如果是簡(jiǎn)單Java項(xiàng)目，直接引入依賴的jar包即可，對(duì)應(yīng)0.1.9版，除了引入java-grok-0.1.9.jar外，還必須引入commons-lang3-3.1.jar

MAVEN項(xiàng)目

如果是MAVEN項(xiàng)目，直接POM文件中添加如下依賴就可以了


    io.krakens
    java-grok
    0.1.9

使用舉例

java-grok也內(nèi)置了許多正則表達(dá)式，使用起來相對(duì)grok簡(jiǎn)單，不需要顯示地指定pattern文件位置

public static void useJavaGrok() throws Exception {
    GrokCompiler grokCompiler = GrokCompiler.newInstance();
    grokCompiler.registerDefaultPatterns();
    final io.krakens.grok.api.Grok grok = grokCompiler.compile("%{COMBINEDAPACHELOG}");
    String log = "112.169.19.192 - - [06/Mar/2013:01:36:30 +0900] "GET / HTTP/1.1" 200 44346 "-" "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_8_2) AppleWebKit/537.22 (KHTML, like Gecko) Chrome/25.0.1364.152 Safari/537.22"";
    io.krakens.grok.api.Match grokMatch = grok.match(log);
    final Map capture = grokMatch.capture();
    System.out.println(capture);
}

可以在Github上查看更多關(guān)于java-grok的使用