300GB / 30K 所以一个任务会产生 10MB 的 日志?
现在的日志都很琐碎 假如你们的没那么琐碎 10K 一行
一个任务 1000 行 日志?
【 在 lichehuo 的大作中提到: 】
: 目前我们的日志是存在es中的,平时没什么量的情况下,一切都ok。但是当给客户演示2w或者3wtps压测的时候,一秒的日志量达到了几百G,这个时候写入es就遇到瓶颈了。
: 我简单的测试了一下,es7.6版本极限也就是一次写入10几M,而且响应时间10+s了。升级到7.10+以上,可以写入30M,但是响应时间也是3+s。对于压测的日志量,这个响应时间不可接受。
: 压缩率也对比了一下,也是ch完胜。
: ...................
--
FROM 47.152.112.*