<div dir="ltr"><div>Have a look at your</div><ul><li>Linux kernel TCP settings</li><li>Memory throughput Gbit/s (the data is copied several times for sending and receiving)</li><li>Head of the line problem (if receiver doesn't read fast enough, the memory will be used to store the unconsumed data)</li><li>Message size might make some difference, OTP 22 splits packets over 64k into segments, so they also have to be stored before assembling in the destination</li><li>Kernel CPU time vs User CPU time (network driver and kernel overhead)<br></li></ul></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, 18 Jun 2019 at 10:43, Karl Nilsson <<a href="mailto:kjnilsson@gmail.com">kjnilsson@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">I work with Gerhard (OP) and just thought I'd chime in.<div><br></div><div>Thanks for the alternative suggestions of using sockets / partisan. At some point we will look at this but for now we are working on making the best use possible of vanilla distributed erlang links. We do understand there is overhead and inherent inefficiencies with using distributed erlang for data transfer but isn't it surprising / concerning anyone else that it is only able to make use of 27% of total network potential? Would you not prefer it to be, say, 50% or even 75% if this is theoretically possible?<br><br>So what we'd like to find out is whether there are genuine unsurmountable reasons for this or something that can be improved, either by tweaking config or by optimisations in the distribution layer.</div><div><br></div><div>We will run more tests to get more data to reason about. If anyone has suggestions for good tests to run / metrics to inspect that would be very welcome.</div><div><br></div><div>Cheers</div><div>Karl</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, 17 Jun 2019 at 23:01, Scott Lystig Fritchie <<a href="mailto:fritchie@snookles.com" target="_blank">fritchie@snookles.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">I've not tried using Partisan for the kind of single sender -> single receiver large blob throughput that y'all are attempting, but Partisan might make better use of high speed local networks in your case.<div><br></div><div><a href="http://partisan.cloud" target="_blank">http://partisan.cloud</a><br></div><div><br></div><div>-Scott (standing in for Chris Meiklejohn ^_^)</div><div><br></div></div></div>
_______________________________________________<br>
erlang-questions mailing list<br>
<a href="mailto:erlang-questions@erlang.org" target="_blank">erlang-questions@erlang.org</a><br>
<a href="http://erlang.org/mailman/listinfo/erlang-questions" rel="noreferrer" target="_blank">http://erlang.org/mailman/listinfo/erlang-questions</a><br>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr" class="gmail-m_-160354848260668092gmail_signature"><div dir="ltr"><div><b>Karl Nilsson</b></div></div></div>
_______________________________________________<br>
erlang-questions mailing list<br>
<a href="mailto:erlang-questions@erlang.org" target="_blank">erlang-questions@erlang.org</a><br>
<a href="http://erlang.org/mailman/listinfo/erlang-questions" rel="noreferrer" target="_blank">http://erlang.org/mailman/listinfo/erlang-questions</a><br>
</blockquote></div>