6sin²x + sinxcosx - cos²x = 0

6sin^2x + sinxcosx - cos^2x = 0

Разделим обе части на cos^2x, получим

6tg^2x + tgx - 1 = 0

Замена: tgx = t. Решим квадратное уравнение

6t^2 + t - 1 = 0;

D = 1 + 4*6 = 25 = 5^2

t1 = (-1 + 5) / 6 = 2/3

t2 = (-1-5) / 6 = - 1

1) tgx = 2/3

x = arctg (2/3) + pi*n, n - целое число

2) tgx = - 1

x = - pi/4 + pi*k, k - целое число

Ответ: arctg (2/3) + pi*n; - pi/4 + pi*k, n, k - целые числа