<html xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
p.msonormal0, li.msonormal0, div.msonormal0
        {mso-style-name:msonormal;
        mso-margin-top-alt:auto;
        margin-right:0in;
        mso-margin-bottom-alt:auto;
        margin-left:0in;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
span.EmailStyle18
        {mso-style-type:personal-reply;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-size:10.0pt;}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
        {page:WordSection1;}
--></style>
</head>
<body lang="EN-US" link="blue" vlink="purple">
<div class="WordSection1">
<p class="MsoNormal">Hi Muhammad<o:p></o:p></p>
<p class="MsoNormal">I’m sending you the pgpool.log from both node0 and node1. The pgpool.log files are when I used pgpool.conf from 4.1.0. Also sending the pgpool.conf from 4.0.5 and 4.1.0 When I start pgpool using 4.0.5 pgpool.conf I’m not getting any errors
 but when I use pgpool.conf from 4.1.0 I’m getting “We are in split brain”<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">I tar all files into pgpool.tar.gz <o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal" style="text-autospace:none"><span style="font-size:10.0pt">Wolfgang Schwurack<o:p></o:p></span></p>
<p class="MsoNormal" style="text-autospace:none"><span style="font-size:10.0pt">Database/System Administrator<o:p></o:p></span></p>
<p class="MsoNormal" style="text-autospace:none"><span style="font-size:10.0pt">Utah Education Network<o:p></o:p></span></p>
<p class="MsoNormal" style="text-autospace:none"><span style="font-size:10.0pt">801-587-9444<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-size:10.0pt"><a href="mailto:wolf@uen.org"><span style="color:#0B4CB4">wolf@uen.org</span></a><o:p></o:p></span></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<div style="border:none;border-top:solid #B5C4DF 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b><span style="font-size:12.0pt;color:black">From: </span></b><span style="font-size:12.0pt;color:black">Muhammad Usama &lt;m.usama@gmail.com&gt;<br>
<b>Date: </b>Wednesday, March 4, 2020 at 2:20 AM<br>
<b>To: </b>Tatsuo Ishii &lt;ishii@sraoss.co.jp&gt;<br>
<b>Cc: </b>Wolfgang Schwurack &lt;wolf@uen.org&gt;, PgPool General &lt;pgpool-general@pgpool.net&gt;<br>
<b>Subject: </b>Re: [pgpool-general: 6865] Re: watchdog fails to start pgpool-4.1.0<o:p></o:p></span></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal">Hi&nbsp;<span style="font-size:10.0pt">Wolfgang,</span> <o:p></o:p></p>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal"><span style="font-size:10.0pt">Sorry for the&nbsp;late reply. I just realized the email was sitting in my drafts folder and was never sent.</span><o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal">Is it possible if you can share the Pppool log files for both nodes preferably&nbsp;with the debug enabled?<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal">Meanwhile, I am also trying to reproduce the scenario&nbsp;locally.<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal">Thanks<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal">Best&nbsp;regards<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal">Muhammad Usama<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
</div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<div>
<div>
<p class="MsoNormal">On Tue, Feb 18, 2020 at 12:13 PM Tatsuo Ishii &lt;<a href="mailto:ishii@sraoss.co.jp">ishii@sraoss.co.jp</a>&gt; wrote:<o:p></o:p></p>
</div>
<blockquote style="border:none;border-left:solid #CCCCCC 1.0pt;padding:0in 0in 0in 6.0pt;margin-left:4.8pt;margin-right:0in">
<p class="MsoNormal">Hi Usama,<br>
<br>
Any opinion on this?<br>
<br>
Best regards,<br>
--<br>
Tatsuo Ishii<br>
SRA OSS, Inc. Japan<br>
English: <a href="http://www.sraoss.co.jp/index_en.php" target="_blank">http://www.sraoss.co.jp/index_en.php</a><br>
Japanese:<a href="http://www.sraoss.co.jp" target="_blank">http://www.sraoss.co.jp</a><br>
<br>
&gt; I turned on enable_consensus_with_half_votes which I’m getting the<br>
&gt; acquired delegate IP on node 0. But now when I start pgpool on node 1<br>
&gt; getting this in the log file which is repeating - see below.&nbsp; When I check<br>
&gt; which node has the virtual IP is show that node 0 does which is the master<br>
&gt; node. <br>
&gt; <br>
&gt; 2020-02-12 08:11:52: pid 29493: LOG:&nbsp; watchdog node state changed from<br>
&gt; [INITIALIZING] to [MASTER]<br>
&gt; 2020-02-12 08:11:52: pid 29493: LOG:&nbsp; I am announcing my self as<br>
&gt; master/coordinator watchdog node<br>
&gt; 2020-02-12 08:11:52: pid 29493: LOG:&nbsp; remote node &quot;&quot; decided it is the<br>
&gt; true master<br>
&gt; 2020-02-12 08:11:52: pid 29493: DETAIL:&nbsp; re-initializing the local<br>
&gt; watchdog cluster state because of split-brain<br>
&gt; 2020-02-12 08:11:52: pid 29493: LOG:&nbsp; watchdog node state changed from<br>
&gt; [MASTER] to [JOINING]<br>
&gt; 2020-02-12 08:11:53: pid 29493: LOG:&nbsp; new watchdog node connection is<br>
&gt; received from &quot;<a href="http://10.11.0.202:12399" target="_blank">10.11.0.202:12399</a>&quot;<br>
&gt; 2020-02-12 08:11:56: pid 29493: LOG:&nbsp; watchdog node state changed from<br>
&gt; [JOINING] to [INITIALIZING]<br>
&gt; 2020-02-12 08:11:57: pid 29493: LOG:&nbsp; I am the only alive node in the<br>
&gt; watchdog cluster<br>
&gt; 2020-02-12 08:11:57: pid 29493: HINT:&nbsp; skipping stand for coordinator state<br>
&gt; <br>
&gt; My environment<br>
&gt; 2 pgpool hosts on Ubuntu 18<br>
&gt; 2 postgresql hosts on Ubuntu 18 postgreSQL 11<br>
&gt; <br>
&gt; <br>
&gt; Wolfgang Schwurack<br>
&gt; Database/System Administrator<br>
&gt; Utah Education Network<br>
&gt; 801-587-9444<br>
&gt; <a href="mailto:Wolf@uen.org" target="_blank">Wolf@uen.org</a><br>
&gt; <br>
&gt; <br>
&gt; <br>
&gt; <br>
&gt; <br>
&gt; On 2/11/20, 3:50 PM, &quot;Tatsuo Ishii&quot; &lt;<a href="mailto:ishii@sraoss.co.jp" target="_blank">ishii@sraoss.co.jp</a>&gt; wrote:<br>
&gt; <br>
&gt;&gt;Have you turned on enable_consensus_with_half_votes?<br>
&gt;&gt;From 4.1 you need to turn on this if you use even number of Pgpool-II<br>
&gt;&gt;nodes.<br>
&gt;&gt;It's documented in the migration section in the doc:<br>
&gt;&gt;<a href="https://www.pgpool.net/docs/latest/en/html/release-4-1-0.html" target="_blank">https://www.pgpool.net/docs/latest/en/html/release-4-1-0.html</a><br>
&gt;&gt;<br>
&gt;&gt;Best regards,<br>
&gt;&gt;--<br>
&gt;&gt;Tatsuo Ishii<br>
&gt;&gt;SRA OSS, Inc. Japan<br>
&gt;&gt;English: <a href="http://www.sraoss.co.jp/index_en.php" target="_blank">http://www.sraoss.co.jp/index_en.php</a><br>
&gt;&gt;Japanese:<a href="http://www.sraoss.co.jp" target="_blank">http://www.sraoss.co.jp</a><br>
&gt;&gt;<br>
&gt;&gt;From: Wolf Schwurack &lt;<a href="mailto:wolf@uen.org" target="_blank">wolf@uen.org</a>&gt;<br>
&gt;&gt;Subject: [pgpool-general: 6865] Re: watchdog fails to start pgpool-4.1.0<br>
&gt;&gt;Date: Tue, 11 Feb 2020 18:10:25 &#43;0000<br>
&gt;&gt;Message-ID: &lt;<a href="mailto:56216C05-00F8-4C10-A32A-C793411C7891@umail.utah.edu" target="_blank">56216C05-00F8-4C10-A32A-C793411C7891@umail.utah.edu</a>&gt;<br>
&gt;&gt;<br>
&gt;&gt;&gt; After doing some more testing on version 4.1.0 I have notice that if<br>
&gt;&gt;&gt;node 0 fails, node 1 never acquires the delegate IP. I compared this to<br>
&gt;&gt;&gt;version 4.0.5 which when node 0 fails, node 1 acquires the delegate IP<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; Wolfgang Schwurack<br>
&gt;&gt;&gt; Database/System Administrator<br>
&gt;&gt;&gt; Utah Education Network<br>
&gt;&gt;&gt; 801-587-9444<br>
&gt;&gt;&gt; <a href="mailto:wolf@uen.org" target="_blank">wolf@uen.org</a>&lt;mailto:<a href="mailto:wolf@uen.org" target="_blank">wolf@uen.org</a>&gt;<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; From: &quot;<a href="mailto:pgpool-general-bounces@pgpool.net" target="_blank">pgpool-general-bounces@pgpool.net</a>&quot;<br>
&gt;&gt;&gt;&lt;<a href="mailto:pgpool-general-bounces@pgpool.net" target="_blank">pgpool-general-bounces@pgpool.net</a>&gt; on behalf of Wolfgang Schwurack<br>
&gt;&gt;&gt;&lt;<a href="mailto:wolf@uen.org" target="_blank">wolf@uen.org</a>&gt;<br>
&gt;&gt;&gt; Date: Tuesday, February 11, 2020 at 10:54 AM<br>
&gt;&gt;&gt; To: &quot;<a href="mailto:pgpool-general@pgpool.net" target="_blank">pgpool-general@pgpool.net</a>&quot; &lt;<a href="mailto:pgpool-general@pgpool.net" target="_blank">pgpool-general@pgpool.net</a>&gt;<br>
&gt;&gt;&gt; Subject: [pgpool-general: 6864] Re: watchdog fails to start pgpool-4.1.0<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; It seem that version 4.1.0 requires the second node to be started<br>
&gt;&gt;&gt;before acquired the delegate IP<br>
&gt;&gt;&gt; After starting pgpool on the node 1 I?m seeing that watchdog<br>
&gt;&gt;&gt;successfully acquired the delegate IP on node 0<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:45:26: pid 9928: LOG:&nbsp; watchdog: escalation started<br>
&gt;&gt;&gt; 2020-02-11 10:45:33: pid 9928: LOG:&nbsp; successfully acquired the delegate<br>
&gt;&gt;&gt;IP:&quot;10.11.0.204&quot;<br>
&gt;&gt;&gt; 2020-02-11 10:45:33: pid 9928: DETAIL:&nbsp; 'if_up_cmd' returned with<br>
&gt;&gt;&gt;success<br>
&gt;&gt;&gt; 2020-02-11 10:45:33: pid 9577: LOG:&nbsp; watchdog escalation process with<br>
&gt;&gt;&gt;pid: 9928 exit with SUCCESS.<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; On previous versions watchdog would always acquire the delegate IP<br>
&gt;&gt;&gt;without the second node being started.<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; From: &quot;<a href="mailto:pgpool-general-bounces@pgpool.net" target="_blank">pgpool-general-bounces@pgpool.net</a>&quot;<br>
&gt;&gt;&gt;&lt;<a href="mailto:pgpool-general-bounces@pgpool.net" target="_blank">pgpool-general-bounces@pgpool.net</a>&gt; on behalf of Wolfgang Schwurack<br>
&gt;&gt;&gt;&lt;<a href="mailto:wolf@uen.org" target="_blank">wolf@uen.org</a>&gt;<br>
&gt;&gt;&gt; Date: Tuesday, February 11, 2020 at 10:22 AM<br>
&gt;&gt;&gt; To: &quot;<a href="mailto:pgpool-general@pgpool.net" target="_blank">pgpool-general@pgpool.net</a>&quot; &lt;<a href="mailto:pgpool-general@pgpool.net" target="_blank">pgpool-general@pgpool.net</a>&gt;<br>
&gt;&gt;&gt; Subject: [pgpool-general: 6863] watchdog fails to start pgpool-4.1.0<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; I?m trying to get watchdog to start using pgpool-4.1.0 but fails to<br>
&gt;&gt;&gt;start. I have been using pgpool-4.0.5 with watchdog no issues.<br>
&gt;&gt;&gt; Has something changed in version 4.1.0 for watchdog?<br>
&gt;&gt;&gt; Hosts&nbsp; - Ubuntu 18.0.4<br>
&gt;&gt;&gt; PostgreSQL 11<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; I?ve been using pgpool for a long time on each new release I have<br>
&gt;&gt;&gt;always just done ./configure, make, make install<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; This is my start command<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; /usr/local/bin/pgpool -n -D -f /usr/local/etc/pgpool.conf &gt;<br>
&gt;&gt;&gt;/var/log/pgpool/pgpool.log 2&gt;&amp;1 &amp;<br>
&gt;&gt;&gt; In pgpool.log it would always show if acquired the delegate ip<br>
&gt;&gt;&gt; Version 4.0.5 start up watchdog<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:05: pid 2195: LOG:&nbsp; pgpool-II successfully started.<br>
&gt;&gt;&gt;version 4.0.5 (torokiboshi)<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:05: pid 2195: LOG:&nbsp; node status[0]: 1<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:05: pid 2195: LOG:&nbsp; node status[1]: 2<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:06: pid 2228: LOG:&nbsp; creating socket for sending<br>
&gt;&gt;&gt;heartbeat<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:06: pid 2228: DETAIL:&nbsp; bind send socket to device: eth0<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:06: pid 2228: LOG:&nbsp; set SO_REUSEPORT option to the<br>
&gt;&gt;&gt;socket<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:06: pid 2228: LOG:&nbsp; creating socket for sending<br>
&gt;&gt;&gt;heartbeat<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:06: pid 2228: DETAIL:&nbsp; set SO_REUSEPORT<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:06: pid 2227: LOG:&nbsp; createing watchdog heartbeat<br>
&gt;&gt;&gt;receive socket.<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:06: pid 2227: DETAIL:&nbsp; bind receive socket to device:<br>
&gt;&gt;&gt;&quot;eth0&quot;<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:06: pid 2227: LOG:&nbsp; set SO_REUSEPORT option to the<br>
&gt;&gt;&gt;socket<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:06: pid 2227: LOG:&nbsp; creating watchdog heartbeat<br>
&gt;&gt;&gt;receive socket.<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:06: pid 2227: DETAIL:&nbsp; set SO_REUSEPORT<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:12: pid 2200: LOG:&nbsp; successfully acquired the delegate<br>
&gt;&gt;&gt;IP:&quot;10.11.0.204&quot;<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:12: pid 2200: DETAIL:&nbsp; 'if_up_cmd' returned with<br>
&gt;&gt;&gt;success<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:13:12: pid 2197: LOG:&nbsp; watchdog escalation process with<br>
&gt;&gt;&gt;pid: 2200 exit with SUCCESS.<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; Version 4.1.0 fails to start watchdog<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:54: pid 8392: LOG:&nbsp; pgpool-II successfully started.<br>
&gt;&gt;&gt;version 4.1.0 (karasukiboshi)<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:54: pid 8392: LOG:&nbsp; node status[0]: 1<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:54: pid 8392: LOG:&nbsp; node status[1]: 2<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:55: pid 8425: LOG:&nbsp; creating socket for sending<br>
&gt;&gt;&gt;heartbeat<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:55: pid 8425: DETAIL:&nbsp; bind send socket to device: eth0<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:55: pid 8425: LOG:&nbsp; set SO_REUSEPORT option to the<br>
&gt;&gt;&gt;socket<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:55: pid 8425: LOG:&nbsp; creating socket for sending<br>
&gt;&gt;&gt;heartbeat<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:55: pid 8425: DETAIL:&nbsp; set SO_REUSEPORT<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:55: pid 8424: LOG:&nbsp; createing watchdog heartbeat<br>
&gt;&gt;&gt;receive socket.<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:55: pid 8424: DETAIL:&nbsp; bind receive socket to device:<br>
&gt;&gt;&gt;&quot;eth0&quot;<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:55: pid 8424: LOG:&nbsp; set SO_REUSEPORT option to the<br>
&gt;&gt;&gt;socket<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:55: pid 8424: LOG:&nbsp; creating watchdog heartbeat<br>
&gt;&gt;&gt;receive socket.<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; 2020-02-11 10:15:55: pid 8424: DETAIL:&nbsp; set SO_REUSEPORT<br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; <br>
&gt;&gt;&gt; Wolfgang Schwurack<br>
&gt;&gt;&gt; Database/System Administrator<br>
&gt;&gt;&gt; Utah Education Network<br>
&gt;&gt;&gt; 801-587-9444<br>
&gt;&gt;&gt; <a href="mailto:wolf@uen.org" target="_blank">wolf@uen.org</a>&lt;mailto:<a href="mailto:wolf@uen.org" target="_blank">wolf@uen.org</a>&gt;<br>
&gt;&gt;&gt; <br>
&gt; <o:p></o:p></p>
</blockquote>
</div>
</div>
</body>
</html>