2cos^2x+sin2x-8cos2x=0

Задействуем формулы двойного аргумента для косинуса и синуса. Изначальное уравнение примет вид:

2cos^2 (x) - 2sin^2 (x) + 2sin (x) cos (x) - 8cos^ (x) = 0;

-2sin^2 (x) + 2sin (x) cos (x) - 6cos^2 (x) = 0.

Разделим уравнение на cos^2 (x):

-2tg^2 (x) + 2tg (x) - 6 = 0;

Произведем замену t = tg (x):

t^2 - t + 3 = 0.

t12 = (-1 + -√13) / 2.

Производим обратную замену:

tg (x) = (-1 - √13) / 2;

x1 = arctg ((-1 - √13) / 2) + - π * n, где n натуральное число.

tg (x) = (-1 + √13) / 2;

x2 = arctg ((-1 + √13) / 2) + - π * n.