正の整数の組 $(x,y)$ であって,$\frac{x^2+y}{y^2-x}$ と $\frac{y^2+x}{x^2-y}$ がともに整数になるようなものをすべて見つける問題です.標準的な大学入試レベルの問題です. たとえば,$(x,y)=(1,2)$ とすると,$\frac{x^2+y}{y^2-x}=\frac{3}{4-1}=1,\ \frac{y^2+x}{x^2-y}=\frac{3}{1-4}=-1$ となり,条件を満たします.($x,y$ はともに正ですが,分数の方は負でもよいことに注意してください.)
条件を満たす $(x,y)$ をもれなく見つけるにはどうすればよいでしょうか.まずは,調べる範囲を制限することからはじめましょう.
解答例
$2$ つの分数はともに (分子) $> 0$ なので,この分数が整数であるためには,(分子) $\ge$ (分母) であることが必要です.したがって,$x^2+y\ge y^2-x,\ y^2+x\ge x^2-y$ が成り立ちます. $x^2+y\ge y^2-x$ を変形すると,$(x+y)(x-y+1)\ge 0$ となるので,$x\ge y-1$ を得ます.同様に $y^2+x\ge x^2-y$ より,$y \ge x-1$ を得ます.これらより, $x-1\le y \le x+1$ を得ます,$x,y$ はともに整数なので,結局 $$y=x-1,x,x+1$$ であることがわかります.
Case $1$: $y=x$ のとき
このとき,$2$ つの分数はともに, $$\frac{x^2+x}{x^2-x}=\frac{x+1}{x-1}=1+\frac{2}{x-1}$$ となります.$x$ は正の整数なので,この式が整数であるためには,$x=2,3$ であることが必要十分です.したがって,$(x,y)=(2,2),(3,3)$ を得ます.
Case $2$: $y=x-1$ のとき
まず,$y^2+x=(x-1)^2+x=x^2-x+1=x^2-y$ なので,$\frac{y^2+x}{x^2-y}=1$ です. したがって,$\frac{x^2+y}{y^2-x}$ が整数かどうかを調べれば良いです. $$\frac{x^2+y}{y^2-x}=\frac{x^2+(x-1)}{(x-1)^2-x}=\frac{x^2+x-1}{x^2-3x+1}=1+\frac{4x-2}{x^2-3x+1}$$ です.また,簡単な計算により,$x\ge 7$ のとき,$x^2-3x+1> 4x-2$ であることが確かめられます.したがって,$x\in \{1,2,3,4,5,6\}$ であることが必要です.これらを代入して計算すると,$x=1,2,3$ のときのみ,$\frac{4x-2}{x^2-3x+1}$ が整数となることがわかります.ところが $x=1$ のときは,$y=0$ となり,$y$ が正の整数であることに反するので,結局 $(x,y)=(2,1),(3,2)$ を得ます.
Case $3$: $y=x+1$ のとき
このときは,$x=y-1$ であり,問題の $2$ つの分数は $x,y$ に関して対称な式なので,Case $2$ の場合の $x,y$ をいれかえたものがそのまま答えになります.したがって,$(x,y)=(1,2),(2,3)$ を得ます.
以上,Case $1,2,3$ より,$(x,y)=(2,2),(3,3),(2,1),(3,2),(1,2),(2,3)$ が答えです.