$x,y$ は有理数であることに注意してください．$x^2+y^2=3$ を満たす整数 $x,y$ は存在しないことはすぐにわかります．では，有理数の場合はどうでしょうか，という問題です．問題文が「〜は存在しないことを示せ」と否定の形になっているので，背理法を用いましょう．
解説
$x^2+y^2=3$ を満たす有理数 $x,y$ が存在すると仮定します．(背理法)
互いに素な整数 $p,q$ を用いて，$x=\frac{p}{q}$ とおきます． $$\left( \frac{p}{q} \right)^2+y^2=3$$ より， $$p^2+(yq)^2=3q^2$$ 移項して， $$(yq)^2=3q^2-p^2$$ となります．この右辺は整数なので，左辺も整数です．したがって，$yq$ は整数です．いま，整数 $m$ を用いて，$yq=m$ とおくと， $$p^2+m^2=3q^2$$ 右辺は $3$ の倍数なので，左辺も $3$ の倍数です．「$p^2+m^2$ が $3$ の倍数⇔$p,m$ がどちらも $3$ の倍数」なので，左辺は $9$ の倍数ということになります．よって，右辺も $9$ の倍数ですから，$q$ は $3$ の倍数でなければなりません．ところがこれは $p,q$ が互いに素であることに矛盾します．よって，$x^2+y^2=3$ を満たす有理数 $x,y$ が存在しないことが示されました．
