3cos^2x-sin^2x+2sinx*cosx=0

Разделим тригонометрическое квадратно уравнение на cos²x ≠ 0;

3cos²x - sin²x + 2sinxcosx = 0;

3cos²x/cos²x - sin²x/cos²x + 2sinxcosx/cos²x = 0;

3 - tg²x + 2tgx = 0;

Заменим tgx = b:

3 - b² + 2b = 0;

b² - 2b - 3 = 0;

Найдем дискриминант:

D = ( - 2) ² - 4 * 1 * ( - 3) = 4 + 12 = 16;

b1 = ( - b - √D) / 2a = (2 - √16) / 2 * 1 = (2 - 4) / 2 = - 2 / 2 = - 1;

b2 = ( - b + √D) / 2a = (2 + √16) / 2 * 1 = (2 + 4) / 2 = 6 / 2 = 3;

Если b1 = - 1:

tgx = - 1;

х = arctg ( - 1) + πk, k ∈ Z;

х = - arctg (1) + πk, k ∈ Z;

х1 = - π/4 + πk, k ∈ Z;

Если b2 = 3:

tgx = 3;

х2 = arctg 3 + πm, m ∈ Z;

Ответ: х1 = - π/4 + πk, k ∈ Z, х2 = arctg 3 + πm, m ∈ Z.