telegraf 监控配置

[[inputs.ping]]
    urls = ["10.168.1.1", "10.147.4.193"]
    method = "native"
    deadline = 2

[Service]
LimitNOFILE=8192

[Service]
CapabilityBoundingSet=CAP_NET_RAW
AmbientCapabilities=CAP_NET_RAW

[[inputs.net_response]]
    protocol = "tcp"
    address = "192.168.10.70:10090"
    timeout = "5s"
    fielddrop = ["result_type", "string_found"]
    tagexclude = ["result"]
    tags = {bu="cloud", region="bj"}




[[inputs.net_response]]
    protocol = "tcp"
    address = "localhost:18000"
    timeout = "1s"
    fielddrop = ["result_type", "string_found"]
    tagexclude = ["result"]
    tags = {bu="cloud", region="local"}

[[inputs.procstat]]
    pattern = "ibex server"
    # pid_file = "/var/run/nginx.pid"
    # exe = "nginx"
    # user = "nginx"
    # systemd_unit = "nginx.service"
    # cgroup = "systemd/system.slice/nginx.service"




    pid_finder = "pgrep"
    tagexclude = ["result"]




[[inputs.procstat]]
    pattern = "ibex agentd"
    pid_finder = "pgrep"
    tagexclude = ["result"]

[[inputs.tail]]
    files=["/home/rocketai/tools/MyPerf4J/log/gc_metrics.log"]
    from_beginning = false
    pipe = false
    watch_method = "inotify"
    data_format = "influx"
    name_suffix = "_myMetrics"

[[inputs.logparser]]
    #解决了当前目录多文件对象匹配的需求
    files = ["C:\\Release\\TestConfigLog\\*.log"]
    from_beginning = false
    #设置轮训获取文件更新
    watch_method = "poll"
    [inputs.logparser.grok]
        patterns = ['%{WORD:scene},%{NUMBER:version:float},%{TS_WIN:begtime},%{TS_WIN:endtime},%{WORD:canvasName},%{WORD:canvasCase},%{NUMBER:totaltimes:int},%{NUMBER:current:int},%{NUMBER:time_consuming:float}']
        measurement = "bigscreen"
        #自定义一个时间格式化模式匹配
        custom_patterns = 'TS_WIN %{YEAR}/%{MONTHNUM}/%{MONTHDAY}[T ]%{HOUR}:?%{MINUTE}(?::?%{SECOND})?'
        timezone = "Local"

##程序启动后默认监听3903端口，可以通过telegraf的pipe管道来监听http://ip:3903访问，metrics可以通过http://ip:3903/metrics访问
nohup mtail -logtostderr -progs /root/test.mtail -logs /home/ubuntu/video_server_for_ai/media_server.log &

参数  描述
-address  绑定HTTP监听器的主机或IP地址
-alsologtostderr  记录标准错误和文件
-block_profile_rate  报告goroutine阻塞事件之前的纳秒时间
-collectd_prefix  发送给collectd的指标的metrics前缀
-collectd_socketpath  collectd unixsock路径，用于向其写入metrics
-compile_only  仅尝试编译mtail脚本程序，不执行，用于测试脚本
-disable_fsnotify  是否禁用文件动态发现机制。为true时，不会监听动态加载发现的新文件，只会监听程序启动时的文件。
-dump_ast  解析后dump程序的AST（默认到/tmp/mtail.INFO）
-dump_ast_types  在类型检查之后dump带有类型注释的程序的AST（默认到/tmp/mtail.INFO）
-dump_bytecode  dump程序字节码
-emit_metric_timestamp  发出metric的记录时间戳。如果禁用（默认设置），则不会向收集器发送显式时间戳。
-emit_prog_label  在导出的变量里面展示’prog’对应的标签。默认为true
-expired_metrics_gc_interval  metric的垃圾收集器运行间隔（默认为1h0m0s）
-graphite_host_port  graphite carbon服务器地址，格式Host:port。用于向graphite carbon服务器写入metrics
-graphite_prefix  发送给graphite指标的metrics前缀
-ignore_filename_regex_pattern  需要忽略的日志文件名字，支持正则表达式。使用场景：当-logs参数指定的为一个目录时，可以使用ignore_filename_regex_pattern 参数来忽略一部分文件
-jaeger_endpoint  如果设为true，可以将跟踪导出到Jaeger跟踪收集器。使用–jaeger_endpoint标志指定Jaeger端点URL
-log_backtrace_at  当日志记录命中设置的行N时，发出堆栈跟踪
-log_dir  mtail程序的日志文件的目录，与logtostderr作用类似，如果同时配置了logtostderr参数，则log_dir参数无效
-logs  监控的日志文件列表，可以使用,分隔多个文件，也可以多次使用-logs参数，也可以指定一个文件目录，支持通配符*，指定文件目录时需要对目录使用单引号。如：
-logs a.log,b.log,c.log
-logs a.log -logs b.log -logs c.log
-logs ‘/export/logs/*.log’
-logtostderr  直接输出标准错误信息，编译问题也直接输出
-metric_push_interval_seconds  metric推送时间间隔，单位：秒，默认60秒
-metric_push_write_deadline  在出现错误退出之前等待推送成功的时间。（默认10s）
-mtailDebug  设置解析器debug级别
-mutex_profile_fraction  报告的互斥锁争用事件的分数。0关闭。（此参数为直译，不太理解啥意思）
-one_shot  此参数将编译并运行mtail程序，然后从指定的文件开头开始读取日志（从头开始读取日志，不是实时tail），然后将收集的所有metrics打印到日志中。此参数用于验证mtail程序是否有预期输出，不用于生产环境。
-override_timezone  设置时区，如果使用此参数，将在时间戳转换中使用指定的时区来替代UTC
-poll_interval  设置轮询所有日志文件以获取数据的间隔；必须为正，如果为零将禁用轮询。使用轮询模式，将仅轮询在mtail启动时找到的文件
-port  监听的http端口，默认3903
-progs  mtail脚本程序所在路径
-stale_log_gc_interval  stale的垃圾收集器运行间隔（默认为1h0m0s）
-statsd_hostport  statsd地址，格式Host:port。用于向statsd写入metrics
-statsd_prefix  发送给statsd指标的metrics前缀
-stderrthreshold  严重性级别达到阈值以上的日志信息除了写入日志文件以外，还要输出到stderr。各严重性级别对应的数值：INFO—0，WARNING—1，ERROR—2，FATAL—3，默认值为2.
-syslog_use_current_year  如果时间戳没有年份，则用当前年替代。（默认为true）
-trace_sample_period  用于设置跟踪的采样频率和发送到收集器的频率。将其设置为100，则100条收集一条追踪。
-v  v日志的日志级别，该设置可能被 vmodule标志给覆盖.默认为0.
-version  打印mtail版本
-vmodule  按文件或模块来设置日志级别，如：-vmodule=mapreduce=2,file=1,gfs*=3

COND {
  ACTION
}

/foo/ {
  ACTION1
}


variable > 0 {
  ACTION2
}


/foo/ && variable > 0 {
  ACTION3
}

# simple line counter
counter lines_total
/$/ {
  lines_total++
}

histogram foo buckets 1, 2, 4, 8

GET /foo/bar.html latency=1s httpcode=200 
GET /foo/bar.html latency=2s httpcode=200 
GET /foo/bar.html latency=1s httpcode=200 
GET /foo/baz.html latency=0s httpcode=200

histogram webserver_latency buckets 0, 1, 2, 4, 8
/latency=(?P<latency>\d+)/ {
    webserver_latency = $latency
}

webserver_latency_by_code_bucket{httpcode="200",prog="software_errors.mtail",le="1"} 1
webserver_latency_by_code_bucket{httpcode="200",prog="software_errors.mtail",le="2"} 1
webserver_latency_by_code_bucket{httpcode="200",prog="software_errors.mtail",le="4"} 1
webserver_latency_by_code_bucket{httpcode="200",prog="software_errors.mtail",le="8"} 1
webserver_latency_by_code_bucket{httpcode="200",prog="software_errors.mtail",le="+Inf"} 1
webserver_latency_by_code_sum{httpcode="200",prog="software_errors.mtail"} 1
webserver_latency_by_code_count{httpcode="200",prog="software_errors.mtail"} 2

counter lines_total as "lines-total"

const IP /\d+(\.\d+){3}/
const MATCH_IP /(?P<ip>/ + IP + /)/




...




 # Duplicate lease
    /uid lease / + MATCH_IP + / for client .* is duplicate on / {
        duplicate_lease++
    }

counter request_total
/(?P<date>\d{4}\/\d{2}\/\d{2} \d{2}:\d{2}:\d{2}\.\d{3}).*/ {
    strptime($date, "2006-01-02 15:04:05")
  request_total++
}

def syslog {
  /(?P<date>\w+\s+\d+\s+\d+:\d+:\d+)/ {
    strptime($date, "Jan  2 15:04:05")
    next
  }
}

@syslog {
  /some event/ {
    variable++
  }
}

def syslog {
  /(?P<date>\d{4}-\d{2}-\d{2} \d{2}:\d{2}:\d{2}\.\d{3}).*/ {
    strptime($date, "2006-01-02 15:04:05")
    next
  }
}
gauge sumVal




@syslog {




  /-------(?P<val>\d)+--------/ {
    sumVal+=$val
  }
}

#如果foo不匹配，则执行ACTION2
/foo/ {
  ACTION1
} else {
  ACTION2
}




/foo/ {
  #当匹配foo时，才会进行foo1、foo2、otherwise的比配
  #当匹配foo1时，执行ACTION1，匹配foo2时执行ACTION2，否则执行ACTION3
  /foo1/ {
     ACTION1
  }
  /foo2/ {
     ACTION2
  }
  otherwise {
     ACTION3
  }
}

hidden gauge connection_time by pid
gauge connection_time_total by pid
...




  # 记录连接开始时间
  /connect from \S+ \(\d+\.\d+\.\d+\.\d+\)/ {
    # 此处记录开始时间，需要先使用strptime或者settime函数设置时间戳，timestamp才能正常执行
    connection_time[$pid] = timestamp()
  }




...




  # 记录连接关闭时间
  /sent (?P<sent>\d+) bytes  received (?P<received>\d+) bytes  total size \d+/ {
    # 记录总时间
    connection_time_total[$pid] += timestamp() - connection_time[$pid]




    # 删除中间变量，控制内存
    del connection_time[$pid]
  }

函数  描述
timestamp()  获取时间戳。
注：需要使用strptime或者settime函数设置时间戳之后才能使用timestamp函数
strptime($date, “2006-01-02 15:04:05”)  第一个参数为日志中解析的时间格式，第二个参数为格式模板，此函数作用为使用第二个参数的格式来解析日志中的时间戳，并设置当前时间戳，将变量导出至上游收集器时使用此时间戳。
注:如果第二个参数格式不对，则编译抛出异常；如果日志解析出的时间格式不匹配，则抛出运行时异常。第二个参数必须使用这个特定的时间：2006-01-02 15:04:05。若需要其他格式，可参考Go的时间.parse（）格式字符串中的const 部分下的ANSIC等格式。
len(str)  获取字符串长度
getfilename()  获取文件名
tolower(x)  字符串转小写
int(x)  将x转换为整数，如果x的类型支持转为整型，则转为整型；如果x的类型不支持转为整型，则触发编译错误；如果x的值不支持转为整型，则触发运行时错误。
float(x)  将x转换为浮点数，规则同int(x)
string(x)  将x转为字符串
strtol(x, y)  使用base将字符串x转为整数y。用于转换日志消息中的八进制、十六进制值
settime(x)  x为整型，用于设置当前时间戳，将变量导出至上游收集器时使用此时间戳

counter request_total by filename




/-------(?P<val>\d)+--------/ {
  request_total[getfilename()]+=$val
}