背理法で証明する.与式を満たす有理数の組(𝑥,𝑦)が存在すると仮定する.𝑥を−1/𝑥に,または𝑦を−1/𝑦に置き換えても与式は変わらないので,𝑥 >0,𝑦 >0と仮定してよい.𝑢 =𝑥𝑦とおくと,
(𝑥+𝑦)(𝑥𝑦−1)=4𝑥𝑦,𝑥+𝑦=4𝑢𝑢−1
である.ここで,𝑢 >0,𝑢 ≠1である.𝑥,𝑦は
𝑇2−4𝑢𝑢−1𝑇+𝑢=0
の有理数解なので,判別式は有理数の平方である.したがって
𝑢(6𝑢−𝑢2−1)
も有理数の平方である.互いに素な正整数𝑝,𝑞を用いて𝑢 =𝑞/𝑝と書くと,
𝑢(6𝑢−𝑢2−1)=𝑝𝑞(6𝑝𝑞−𝑝2−𝑞2)𝑝4
であるから,𝑝𝑞(6𝑝𝑞 −𝑝2 −𝑞2)は整数の平方である.また𝑝,𝑞,6𝑝𝑞 −𝑝2 −𝑞2はどの2つも互いに素であるため,正整数𝑠,𝑡,𝑤が存在して
𝑝=𝑠2,𝑞=𝑡2,6𝑝𝑞−𝑝2−𝑞2=𝑤2
と書ける.よって
𝑤2=6𝑠2𝑡2−𝑠4−𝑡4=(2𝑠𝑡)2−(𝑠2−𝑡2)2
を得る.𝑠,𝑡を入れ替えて𝑠 >𝑡 >0とし,この形の正整数解のうち𝑠 +𝑡が最小のものをとる.
三平方の関係𝑤2 +(𝑠2 −𝑡2)2 =(2𝑠𝑡)2を考えると,𝑠,𝑡はともに奇数,𝑤は偶数であり,
(𝑤2)2+(𝑠2−𝑡22)2=(𝑠𝑡)2
は原始ピタゴラス数を与える.したがって互いに素な正整数𝑚,𝑛が存在し,一方を偶数,他方を奇数として
𝑠2−𝑡2=4𝑚𝑛,𝑠𝑡=𝑚2+𝑛2
と書ける.𝑚を偶数,𝑛を奇数としてよい.(𝑠 +𝑡)(𝑠 −𝑡) =4𝑚𝑛と互いに素性から,どの2つも互いに素な正整数𝐴,𝐵,𝐶,𝐷が存在して
𝑠+𝑡=2𝐴𝐵,𝑠−𝑡=2𝐶𝐷,𝑚=𝐴𝐶,𝑛=𝐵𝐷
と書ける.これらを𝑠𝑡 =𝑚2 +𝑛2に代入すると
2𝐴2𝐵2=(𝐴2+𝐷2)(𝐵2+𝐶2)
を得る.また,𝑚が偶数であることから𝐶は偶数,𝐴,𝐵,𝐷は奇数であり,互いに素性を用いて
𝐴2=𝐵2+𝐶2,2𝐵2=𝐴2+𝐷2
となる.さらに𝐴2 =𝐵2 +𝐶2を原始ピタゴラス数として表せば,互いに素な正整数𝑎 >𝑏が存在して
𝐴=𝑎2+𝑏2,𝐵=𝑎2−𝑏2,𝐶=2𝑎𝑏
である.これを2𝐵2 =𝐴2 +𝐷2に代入すると
𝐷2=𝑎4+𝑏4−6𝑎2𝑏2
であり,したがって
(2𝐷)2=6(𝑎+𝑏)2(𝑎−𝑏)2−(𝑎+𝑏)4−(𝑎−𝑏)4
を得る.これは(𝑎 +𝑏,𝑎 −𝑏,2𝐷)が初めと同じ形の正整数解であることを示す.しかし
0<(𝑎+𝑏)+(𝑎−𝑏)=2𝑎<2𝐵(𝑎2+𝑏2)=𝑠+𝑡
であり,𝑠 +𝑡の最小性に反する.よって矛盾であり,与式を満たす有理数の組(𝑥,𝑦)は存在しない.