记一次Kafka不定期挂掉的原因

奔跑de蜗牛儿 2021-03-03

2778

第一步先看日志

journalctl -u kafka |grep ERROR

根据错误日志筛选分析最近的错误信息如下：

Feb 25 10:03:54 iZ8vb9f7hiv5r7dqd2ub3xZ kafka-server-start.sh[22495]: [2021-02-25 10:03:54,957] ERROR Failed to clean up log for __consumer_offsets-8 in dir tmp/kafka-logs due to IOException (kafka.server.LogDirFailureChannel)
Feb 25 10:03:54 iZ8vb9f7hiv5r7dqd2ub3xZ kafka-server-start.sh[22495]: [2021-02-25 10:03:54,984] ERROR Failed to clean up log for __consumer_offsets-8 in dir tmp/kafka-logs due to IOException (kafka.server.LogDirFailureChannel)
Feb 25 10:03:55 iZ8vb9f7hiv5r7dqd2ub3xZ kafka-server-start.sh[22495]: [2021-02-25 10:03:55,039] ERROR Failed to clean up log for __consumer_offsets-8 in dir /tmp/kafka-logs due to IOException (kafka.server.LogDirFailureChannel)
Feb 25 10:03:55 iZ8vb9f7hiv5r7dqd2ub3xZ kafka-server-start.sh[22495]: [2021-02-25 10:03:55,036] ERROR Shutdown broker because all log dirs in /tmp/kafka-logs have failed (kafka.log.LogManager)

日志分析：

提示的意思为没找到 /tmp/kafka-logs 下面的某个文件

查找思路：

vi /opt/kafka/config/server.properties

根据 kafka配置信息搜索这个目录；

发现是/tmp/kafka-logs 是日志存储位置

问题原因：

/tmp目录可能被系统不定时清理；清理后会丢失文件；kafka报错

解决方案：

1.修改 systemd的配置文件忽略kafka日志目录

vi /usr/lib/tmpfiles.d/tmp.conf

添加一个忽略路径

X /tmp/kafka-logs

2.修改kafka 配置文件中 log.dirs

修改到自定义的安全目录下即可

大数据

文章转载自奔跑de蜗牛儿，如果涉嫌侵权，请发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。