Sin^2x - 3cos^2x + 2sinxcosx = 0

Разделим уравнение на cos^2 (x):

sin^2 (x) / cos^2 (x) - 3 + 2sin (x) / cos (x) = 0;

tg^2 (x) + 2tg (x) - 3 = 0.

Произведем замену t = tg (x):

t^2 + 2t - 3 = 0.

Корни квадратного уравнения вида ax^2 + bx + c = 0 определяются по формуле: x12 = (-b + - √ (b^2 - 4 * a * c) / 2 * a.

t12 = (-2 + - √ (4 - 4 * 1 * (-3)) / 2 * 1 = (-2 + - 4) / 2;

t1 = (-2 - 4) / 2 = - 3; t2 = (-2 + 4) / 2 = 1.

Обратная замена:

tg (x) = - 3 - уравнение не имеет корней.

tg (x) = 1;

x = arctg (1) + - π * n, где n натуральное число;

x = π/4 + - π * n.