2sinxcosx+3cos^2x-sin^2x=0

2sin (x) cos (x) + 3cos^2 (x) - sin^2 (x) = 0;

Разделим на cos^2 (x) ≠ 0;

2tg (x) + 3 - tg^2 (x) = 0;

tg^2 (x) - 2tg (x) - 3 = 0;

Сделаем замену переменной.

tg (x) = t;

t^2 - 2t - 3 = 0;

D = 16;

t1 = (2 + 4) / 2 = 3;

t2 = (2 - 4) / 2 = - 1.

Сделаем обратную замену переменных:

1) tg (x) = 3 = => x = arctg3 + пk, k∈Z.

tg (x) = - 1 = => x = - п/4 + пn, n∈Z.

Ответ: x = arctg3 + пk, k∈Z; x = - п/4 + пn, n∈Z.