$△ABC$ が直角三角形となるための同値条件を示す問題です． ここでは簡単のために，$A,B,C$ という記号でそれぞれ，$\angle A,\angle B,\angle C$ を表すこととします．
$\sin^2 x + \cos^2 x=1$ という関係式はいつでも成り立つので，(2) ⇔ (3) が成り立つことはほとんど明らかです．問題は (1) ⇔ (2) を示すことです．(もちろん (1) ⇔ (3) を示してもよい) つまり，(1) ⇒ (2) が成り立つことと，(2) ⇒ (1) が成り立つことの両方を示さなければなりません．特に，(2) ⇒ (1) を示すことが最大の難所です．
ヒント
(1) ⇒ (2) は素直に示せます． (2) ⇒ (1) を示す部分が難しいです．
結論の『$△ABC$ は直角三角形である』，という条件は言い換えれば，『$A,B,C$ のいずれかは $\frac{\pi}{2}$』となります．これをコサインと絡めて考えると，$0 < A,B,C 『$A,B,C$ のいずれかは $\frac{\pi}{2}$』⇔『$\cos A \cos B \cos C=0$』
となります．これは，『実数 $x,y,z$ のいずれか $1$ つは $0$』⇔ 『$xyz=0$』が成り立つことと同じようなことです．よって，$\cos^2 A+\cos^2 B+\cos^2 C=1$ という条件から $\cos A \cos B \cos C=0$ をどうにかして示せればよいです．
解答例
(1) ⇔ (2) を示します．すなわち，(1) ⇒ (2) かつ (2) ⇒ (1) が成り立つことを示します． まず，(1) ⇒ (2) が成り立つことを示します． $△ABC$ が直角三角形ならば，$A,B,C$ のいずれかは $\frac{\pi}{2}$ です．そこで，$A=\frac{\pi}{2}$ としても一般性を失いません．すると，$\cos A=0$, $B+C=\frac{\pi}{2}$ が成り立ちます．よって， $$\cos^2 A+\cos^2 B+\cos^2 C=\cos^2 B+\cos^2 C \\ =\cos^2 B+\cos^2 \left(\frac{\pi}{2}-B \right)=\cos^2 B+\sin^2 B=1$$ となるので，(1) ⇒ (2) が成り立ちます． 次に，(2) ⇒ (1) が成り立つことを示します．
仮定より， $\cos^2 A+\cos^2 B+\cos^2 C=1$ が成り立つので，この等式の両辺 $2$ 倍すると， $$2\cos^2 A-1+2\cos^2 B-1+2\cos^2 C=0$$ となります．倍角の公式より，$\cos 2A=2\cos^2 A-1$, $\cos 2B=2\cos^2 B-1$ が成り立つので， $$\cos 2A+\cos 2B+2\cos^2 C=0$$ となります．さらに，積和公式から， $$2\cos (A+B)\cos (A-B)+2\cos^2 C=0$$ です．$A+B=\pi-C$ なので， $$2\cos (\pi-C)\cos (A-B)+2\cos^2 C= \\ -2\cos C\cos (A-B)-2\cos C\cos (A+B)=0$$ すなわち， $$\cos C \big(\cos(A+B)+\cos (A-B)\big)=0$$ 再び積和公式を用いると， $$\cos C \cos A \cos B=0$$ が成り立ちます．これより，$\cos A=0$ または $\cos B=0$ または $\cos C=0$ となるので，結局，$A,B,C$ のいずれかは $\frac{\pi}{2}$ となります．
以上より，(1) ⇔ (2) が示せました．
直角三角形という条件がきれいな数式で表されています．
