Tg 5x - tg 3x / 1+tg 5x * tg 3 x = минус корень из 3

Используем формулу для тангенса разности двух аргументов, тогда изначальное уравнение приобретает следующий вид:

tg (5x - 3x) = - √3;

tg (2x) = - √3.

Корни уравнения вида tg (x) = a определяет формула:

x = arcstg (a) + - π * n, где n натуральное число.

2x = arctg (-√3) + - π * n;

2x = 4π/3 + - π * n;

x = 2π/3 + - π/2 * n.

Ответ: x принадлежит {2π/3 + - π/2 * n}, где n натуральное число.