3cos^2x=4sinxcosx-sin^2x

3cos² 2x = 4sin x ⋅ cos x - sin ² 2x.

3cos² 2x = 2sin 2x - sin ² 2x;

3 - 3sin² 2x = 2sin 2x - sin² 2x.

Перенесём всё в правую часть:

2sin² 2x + 2sin 2x - 3 = 0.

Сделаем замену sin 2x = y ∈ [-1, 1]:

2y² + 2y - 3 = 0;

D = 4 - 4 ⋅ 2 ⋅ (-3) = 4 + 24 = 28; √D = 2√7;

y₁ = (-2 + 2√7) / 4 = - 1/2 + √7/2;

y₂ = (-2 - 2√7) / 4 = - 1/2 - √7/2 < - 1 - не подходит.

sin 2x = - 1/2 + √7/2;

2x = (-1) ⁿ arcsin (-1/2 + √7/2) + πn, n целое;

x = (-1) ⁿ/2 ⋅ arcsin (-1/2 + √7/2) + πn/2, n целое.