Paper

Our paper is published on IEEE/ACM International Symposium on Quality of Service. The information can be found here:

• Title: Syslog Processing for Switch Failure Diagnosis and Prediction in Datacenter Networks
• Authors: Shenglin Zhang, Weibin Meng, Jiahao Bu, Sen Yang, Ying Liu, Dan Pei, Jun(Jim) Xu, Yu Chen, Hui Dong, Xianping Qu, Lei Song
• Paper link: paper

环境：

python3, pygraphviz

训练&匹配日志整合：

• 运行命令：python main_train.py -train_log_path training.log -out_seq_path output.seq -templates output.template
  • 参数解释：
    • -train_log_path： 训练所需要的原始日志
    • -out_seq_path：日志匹配完之后的编号序列
    • -templates：输出的模板文件
  • 注意：使用该算法时，最好将数据集中前面几列时间、消息类型的信息删掉，要不然比较乱。

每个文件的作用

训练日志模板：

• 输出文件：模板、单词词频列表
  • 运行脚本的的命令：
    • python ft_tree.py -FIRST_COL 0 -NO_CUTTING 1 -CUTTING_PERCENT 0.3 -data_path ./training.log -template_path ./output.template -fre_word_path ./output.fre -picture_path ./tree.png -leaf_num 4 -short_threshold 5 -plot_flag 1
  • 参数样例：
    • FIRST_COL 每行日志从第几列作为输入，默认为0
    • NO_CUTTING = 0 #初步设定1时，是前30% 不剪枝 ,全局开关， 当其为0时，全局按照min_threshold剪枝
    • CUTTING_PERCENT =0.6 #前百分之多少是不剪枝的
    • train_log_path='input.txt'
    • template_path = "./logTemplate.txt" #模板
    • fre_word_path = "./fre_word.txt" #
    • leaf_num = 4 #剪枝数
    • picture_path = './tree.png'
    • short_threshold = 2 #过滤掉长度小于5的日志
    • plot_flag 默认为0，不画图，若为1，则将ft_tree画出来，会同时画出“短模板”（蓝色）和“剪枝结点”(红色)

匹配ft-tree的日志模板:

• 运行脚本的的命令：

  • python3 matchTemplate.py -short_threshold 5 -leaf_num 6 -template_path ./output.template -fre_word_path ./output.fre -log_path ./training.log -out_seq_path ./output.seq -plot_flag 0 -CUTTING_PERCENT 0.3 -NO_CUTTING 1 -match_model 1

• 参数样例：

  • short_threshold = 2 #过滤掉长度小于5的日志
  • leaf_num 增量学习时的剪枝阈值。(如果将6改成10，可以通过样例数据看出不同匹配机制中的不同效果，即LearnTemplateByIntervals会对新来的数据做剪枝)
  • template_path = './output.template'
  • fre_word_path = './output.fre'
  • runtime_log_path = './new.log'
  • out_seq_path = './output.seq'
  • plot_flag 0为不画图，1为画图，默认为0。（如树太大不要画图，会卡死）
  • CUTTING_PERCENT 指定每条日志的前百分之几的单词不剪枝，增量学习时会用到，正常匹配用不到
  • NO_CUTTING 是否每条日志的前几个单词不剪枝，0为正常剪枝，1为不剪枝，默认为1。增量学习时会用到，正常匹配用不到
  • match_model 1:正常匹配日志 2:单条增量学习&匹配 3:批量增量学习&匹配

• 增量学习模板：

  • matchLogsAndLearnTemplateOneByOne()函数 单条匹配，如果匹配不到，则学习新的模板。会将新学到的模板插入到模板文件的最后。
  • matchLogsFromFile() 函数，正常匹配日志，如果匹配不到，则为模板序号为0
  • LearnTemplateByIntervals(）函数， 将一时段的日志作为输入，基于以前的模板增量学习，新添加的日志模板也会按照设定的阈值剪枝，最终将新学到的模板插入到模板文件的最后。 例如在样例数据中，假设新来的日志为newlogs.dat， 原始的模板树为Trace_train.png,当剪枝k=6时（如图reBuildTree_k6），会剪枝，当阈值为10时（如图reBuildTree_k10），会保留一些变量

日志模板按照原始日志单词顺序排序:

将模板中的单词按照原日志中的单词顺序排列,得到正序模板

• 运行脚本的的命令：
  • python3 orderWords.py -templates ./output.template -sequences ./output.seq -rawlog ./training.log -order_templates ./output.template_order

按照正序模板匹配日志:

按照日志原先的单词顺序匹配

• 运行脚本的的命令：
  • python3 matchTemplate.py -short_threshold 5 -leaf_num 6 -template_path ./output.template_order -log_path ./training.log -out_seq_path ./output2.seq -plot_flag 1 -CUTTING_PERCENT 0.3 -NO_CUTTING 1 -match_model 4

splitTimeWindows.py:

模板分析：切分时间窗口，然后统计正常时段、异常时段、全部时段中出现top10的模板，并且画图

countFreTemplates.py:

模板分析：输出前10个常出现的模板，以及每个模板对应的日志