数学オリンピックでは頻出の平方数ではないことの証明です.その中でも割と素直に解ける問題です.ただし,初見では方針が見つからず,難しいと思います.問題文の意味は,いかなる正整数$n$に対しても,$n^4+2n^3+2n^2+n+2$は平方数でないということです.
今回は$2$通りの解き方を紹介します.
平方剰余を用いる
最も簡単な方法は,平方剰余を用いる方法です.つまり,平方数の余りに注目するということです.この観点は数学オリンピックではよく使われます.たとえば,自然数$n$を$3$で割った余りを考えると, \begin{array}{c|c|c} n (mod3)& n^2 (mod3) \\ \hline 0 & 0 \\ 1 & 1 \\ 2 & 1 \end{array} となって,$n^2$を$3$で割った余りは$0,1$の$2$通りしかありません.このことが整数問題では答えの条件を絞ることに使われます.また,$4$で割った余り等も使われることが多いです. \begin{array}{c|c|c} n (mod4)& n^2 (mod4) \\ \hline 0 & 0 \\ 1 & 1 \\ 2 & 0 \\ 3 & 1 \end{array} さて,元の問題にもどりましょう.試しに$3$で割った余りを考えてみます. \begin{array}{c|c|c} n (mod3) & n^4+2n^3+2n^2+n+2 (mod3) \\ \hline 0 & 2 \\ 1 & 2 \\ 2 & 2 \end{array} なんと$n$がいかなる自然数であっても,偶然にも$n^4+2n^3+2n^2+n+2$を$3$で割った余りは常に$2$です!!(そうなるように作問したのですが)
他方,平方数を$3$で割った余りは$0,1$の$2$通りしかなかったので,$n^4+2n^3+2n^2+n+2$は平方数でないことがわかります.
$つの平方数で挟む
別の解き方を紹介しましょう.与えられた整式が平方数でないことを示すのに役立つ方法があります.それは,連続する$2$つの平方数で整式を挟む方法です. たとえば,$a$を正整数とするとき,$a^2$の次に小さい平方数はなんでしょうか.それは$(a+1)^2$です.$(a+1)^2=a^2+2a+1$なので,$a^2$と$(a+1)^2$の間にある$2a$個の自然数は平方数ではありません.
この原理を元の問題に用いてみましょう.与えられた整式は, $$(n^2+n)^2 < n^4+2n^3+2n^2+n+2
数学オリンピックではさらに捻りが加えられていることが多いです.