у нас есть кластер kafka на версии linux rhel - 7.6
мы замечаем слишком много открытых файлов на машинах kafka
но когда мы это сделали lsof >/tmp/res_file
файл формы /tmp/res_file , мы можем видеть много линий как
java 172301 172722 кафка *770w FIFO 0,9 0t0 303639156 труба
java 172301 172722 кафка *771u a_inode 0,10 0 11398 [опрос событий]
java 172301 172722 кафка *772u a_inode 0,10 0 11398 [опрос событий]
java 172301 172722 кафка *773r FIFO 0,9 0t0 303741913 труба
java 172301 172722 кафка *774u a_inode 0,10 0 11398 [опрос событий]
java 172301 172722 кафка *775w FIFO 0,9 0t0 303637483 труба
java 172301 172722 кафка *776w FIFO 0,9 0t0 306043296 труба
java 172301 172722 кафка *777w FIFO 0,9 0t0 313046116 труба
java 172301 172722 кафка *778r FIFO 0,9 0t0 304446234 труба
java 172301 172722 кафка *779u a_inode 0,10 0 11398 [опрос событий]
java 172301 172722 kafka *780r FIFO 0,9 0t0 303800963 труба
java 172301 172722 кафка *781w FIFO 0,9 0t0 303300350 труба
java 172301 172722 кафка *782w FIFO 0,9 0t0 305039138 труба
java 172301 172722 кафка *783r FIFO 0,9 0t0 304659538 труба
java 172301 172722 кафка *784r FIFO 0,9 0t0 303453024 труба
java 172301 172722 кафка *785w FIFO 0,9 0t0 303737027 труба
java 172301 172722 кафка *786u a_inode 0,10 0 11398 [опрос событий]
java 172301 172722 кафка *787u a_inode 0,10 0 11398 [опрос событий]
java 172301 172722 кафка *788u a_inode 0,10 0 11398 [опрос событий]
java 172301 172722 кафка *789r FIFO 0,9 0t0 303258041 труба
java 172301 172722 кафка *790w FIFO 0,9 0t0 303258041 труба
java 172301 172722 кафка *791u a_inode 0,10 0 11398 [опрос событий]
java 172301 172722 кафка *792u a_inode 0,10 0 11398 [опрос событий]
java 172301 172722 кафка *793u a_inode 0,10 0 11398 [опрос событий]
java 172301 172722 кафка *794r FIFO 0,9 0t0 305651339 труба
и когда мы сделали
кошка /tmp/res_file | egrep "pipe|eventpoll" | туалет -л
мы получаем огромное количество строк, содержащих pipe или eventpoll
кошка /tmp/res_file | egrep "pipe|eventpoll" | туалет -л
143173534
насколько я понимаю, когда lsof показать строки, которые заканчиваются на труба|опрос событий это указывает на проблему
но я так и не понял в чем причина этого
в любом случае мы увеличили количество файлов на kafka, но это не решение
так как количество файлов увеличивается каждый день из-за строк с - труба|опрос событий
любая идея, как узнать причину такого поведения?
Справка:
https://stackoverflow.com/questions/58690422/kafka-producer-consumer-are-opening-too-many-file-descriptor
https://stackoverflow.com/questions/15956452/troubleshooting-too-many-files-open-with-lsof
https://access.redhat.com/solutions/4072141
https://issues.apache.org/jira/browse/KAFKA-3317
