<html><head><meta http-equiv="Content-Type" content="text/html; charset=UTF-8"></head><body ><div>I will certainly try.</div><div><br></div><div>Send me a link, and Thanks!</div><div><br></div><div><br></div><div><br></div><div><div style="font-size:9px;color:#575757">Sent from my Verizon Wireless 4G LTE smartphone</div></div><div></div><br><br>-------- Original message --------<br>From: Tibor Benke &lt;ihrwein@gmail.com&gt; <br>Date:12/17/2014  5:42 PM  (GMT-05:00) <br>To: Syslog-ng users' and developers' mailing list &lt;syslog-ng@lists.balabit.hu&gt; <br>Cc: wernli@in2p3.fr, jrhendri@roadrunner.com <br>Subject: Re: [syslog-ng] syslog-ng memory usage grows <br><br><div dir="ltr">Hi All,<div><br></div><div>I checked your valgrind log and the redis module and I think the leak is in redis.c:137:</div><div><br></div><div>&nbsp; &nbsp; &nbsp; redisCommand(self-&gt;c, "ping");&nbsp;<br></div><div><br></div><div>This returns a reply object, but it's ignored and never freed.&nbsp;</div><div><br></div><div>If we make a patch on GitHub, could you test it?</div><div><br></div><div>Regards,</div><div>Tibor</div></div><div class="gmail_extra"><br><div class="gmail_quote">2014-12-17 18:36 GMT+01:00  <span dir="ltr">&lt;<a href="mailto:jrhendri@roadrunner.com" target="_blank">jrhendri@roadrunner.com</a>&gt;</span>:<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Hi Fabien,<br>
<br>
&nbsp; Hope the season is treating you well.<br>
<br>
&nbsp; I ran syslog-ng for 10 minutes (recall, ~7000 EPS incoming) under valgrind and here is the output (attached).<br>
<br>
&nbsp; It looks like there is some sort of leak as the process from yesterday had grown to over 16GB before I stopped it for the valgrind test.<br>
<br>
Thanks for the help (as always).<br>
<br>
And please let me know if I can provide any other data.<br>
<span class="HOEnZb"><font color="#888888"><br>
Jim<br>
</font></span><div class="HOEnZb"><div class="h5"><br>
<br>
<br>
---- Fabien Wernli &lt;<a href="mailto:wernli@in2p3.fr">wernli@in2p3.fr</a>&gt; wrote:<br>
&gt; Hi Jim,<br>
&gt;<br>
&gt; On Tue, Dec 16, 2014 at 01:24:28PM -0500, Jim Hendrick wrote:<br>
&gt; &gt; I'm not sure what I am asking, other than general advice on:<br>
&gt; &gt; - performance using patterndb<br>
&gt;<br>
&gt; performance is awesome, I wouldn't worry about it<br>
&gt; although it would help to have some counters on the parsers in the stats<br>
&gt; interface. That bieng said, it could help you to increase the stats level.<br>
&gt;<br>
&gt; &gt; - performance using redis destination<br>
&gt;<br>
&gt; I can't comment on that one, sorry<br>
&gt;<br>
&gt; &gt; - advice on debugging where this memory growth is happening<br>
&gt;<br>
&gt; Could you run syslog-ng inside `valgrind --tool=memcheck<br>
&gt; --trace-children=yes --leak-check=yes`?<br>
&gt;<br>
&gt; The problem is this will really slow down your instance, but let it run a<br>
&gt; few minutes nevertheless and pastebin the result somewhere.<br>
&gt;<br>
&gt; &gt; As a rough measure - I have a syslog-ng process that has been running for<br>
&gt; &gt; less than 3 hours and right now is using 1.52GB of resident memory (shown by<br>
&gt; &gt; "top")<br>
&gt;<br>
&gt; I'm suspecting `format-json` to be the source of the leak, or the flow<br>
&gt; control cache. These have been the leak source of our own observations many<br>
&gt; times, although many patches have solved the issues.<br>
&gt;<br>
&gt; &gt; (I would rather parse things in syslog-ng, but I *could* do this all using<br>
&gt; &gt; logstash/grok if this proves too much for patterndb at this load)<br>
&gt;<br>
&gt; if you're worried about performance, I wouldn't even consider to begin thinking about comparing<br>
&gt; LS/grok to patterndb<br>
&gt;<br>
&gt; ______________________________________________________________________________<br>
&gt; Member info: <a href="https://lists.balabit.hu/mailman/listinfo/syslog-ng" target="_blank">https://lists.balabit.hu/mailman/listinfo/syslog-ng</a><br>
&gt; Documentation: <a href="http://www.balabit.com/support/documentation/?product=syslog-ng" target="_blank">http://www.balabit.com/support/documentation/?product=syslog-ng</a><br>
&gt; FAQ: <a href="http://www.balabit.com/wiki/syslog-ng-faq" target="_blank">http://www.balabit.com/wiki/syslog-ng-faq</a><br>
&gt;<br>
</div></div><br>______________________________________________________________________________<br>
Member info: <a href="https://lists.balabit.hu/mailman/listinfo/syslog-ng" target="_blank">https://lists.balabit.hu/mailman/listinfo/syslog-ng</a><br>
Documentation: <a href="http://www.balabit.com/support/documentation/?product=syslog-ng" target="_blank">http://www.balabit.com/support/documentation/?product=syslog-ng</a><br>
FAQ: <a href="http://www.balabit.com/wiki/syslog-ng-faq" target="_blank">http://www.balabit.com/wiki/syslog-ng-faq</a><br>
<br>
<br></blockquote></div></div>
</body>