cot² (π/7) + cot² (2π/7) + cot² (3π/7) = ...

Trigonometri Analitik.

csc² (π/7) + csc² (2π/7) + csc² (3π/7) =
1 / sin² (π/7) + 1 / sin² (2π/7) + 1 / sin² (3π/7)
= [sin² (2π/7) sin² (3π/7) + sin² (π/7) sin² (3π/7) + sin (π/7) sin (2π/7)] / [sin (π/7) sin (2π/7) sin (3π/7)]²
Penyelesaian menggunakan polinomial Chebysev atau membawanya ke akar-akar polinomial berderajat tiga (persamaan kubik). Kita gunakan cara yang ke-2 tetapi cara ini harus bisa menggunakan rumus-rumus trigonometri yang dapat membawa ke persamaan kubik.

sin 4x = sin 3x dengan x = π/7
2 sin 2x cos 2x = 3 sin x - 4 sin³ x
2(2 sin x cos x)(1 - 2 sin² x) = sin x (3 - 4 sin² x)
4 cos x (1 - 2 sin² x) = 3 - 4 sin² x
Kuadratkan kedua ruas dan operasikan menjadi:
16 cos² x (1 - 4 sin² x + 4 sin⁴ x) = 9 - 24 sin² x + 16 sin⁴ x
16(1 - sin² x)(1 - 4 sin² x + 4 sin⁴ x) = 9 - 24 sin² x + 16 sin⁴ x
16(1 - 5 sin² x + 8 sin⁴ x + 4 sin⁶ x) - 9 + 24 sin² x - 16 sin⁴ x = 0
64 sin⁶ x + 112 sin⁴ x - 56 sin² x + 7 = 0
64 (sin² x)³ + 112 (sin² x)² - 56 sin² x + 7 = 0
64u³ + 112u² - 56u + 7 = 0 ← Bentuk au³ + bu² + cu + d = 0 

Sudah dalam bentuk persamaan kubik. Kita akan gunakan teorema akar-akar Vieta untuk menyelesaikan ini.
u₁ + u₂ + u₃ = -b/a
u₁u₂ + u₁u₃ + u₂u₃ = c/a
u₁u₂u₃ = -d/a

Perhatikan!
[sin² (2π/7) sin² (3π/7) + sin² (π/7) sin² (3π/7) + sin (π/7) sin (2π/7)] / [sin (π/7) sin (2π/7) sin (3π/7)]²
= (u₂u₃ + u₁u₃ + u₁u₂) / (u₁u₂u₃)
= c/a / -d/a
= -c/d
= -(-56)/7 = 8
csc² (π/7) + csc² (2π/7) + csc² (3π/7) = 8

cot² x = csc² x - 1
Jadi:
cot² (π/7) + cot² (2π/7) + cot² (3π/7)
= csc² (π/7) - 1 + csc² (2π/7) - 1 + csc² (3π/7) - 1
= 8 - 3
= 5