Sin^2 х - 6 * sinx*cosx + 5cos^2 x > 0

1. Разделим обе части на cos^2x, сведя к приведенному квадратному неравенству:

sin^2 х - 6sinx * cosx + 5cos^2x > 0; tg^2 х - 6tgx + 5 > 0. (1)

2. Обозначим tgx через t и найдем корни трехчлена:

t^2 - 6t + 5 > 0; (2) D/4 = 3^2 - 5 = 9 - 5 = 4; t = 3 ± √4 = 3 ± 2;

1) t = 3 - 2 = 1;

tgx = 1; x = π/4 + πk, k ∈ Z;

2) t = 3 + 2 = 5.

tgx = 5; x = arctg5 + πk, k ∈ Z.

3. Решения неравенств (2) и (1):

t ∈ (-∞; 1) ∪ (5; ∞); x ∈ (-π/2 + πk; π/4 + πk) ∪ (arctg5 + πk; π/2 + πk), k ∈ Z.

Ответ: (-π/2 + πk; π/4 + πk) ∪ (arctg5 + πk; π/2 + πk), k ∈ Z.