A) tg^2x-6tgx+5=0 б) tg^2x-2tgx-3=0

а) Производим замену переменных t = tg (x):

t^2 - 6t + 5 = 0.

Корни квадратного уравнения вида ax^2 + bx + c = 0 определяются

по формуле: x12 = (-b + - √ (b^2 - 4 * a * c) / 2 * a.

t12 = (6 + - √ (36 - 4 * 1 * 5)) / 2 * 1 = (6 + - 5) / 2.

t1 = (6 - 5) / 2 = 1/2; t2 = (6 + 5) / 2 = 11/2.

Производим обратную замену:

tg (x) = 1/2;

x1 = arctg (1/2) + - 2 * π * n, где n натуральное число.

tg (x) = 11/2;

x2 = arctg (11/2) + - 2 * π * n.

б) После замены:

t^2 - 2t - 3 = 0;

t1 = - 1; t2 = 3.

x1 = - π/4 + - π * n;

x2 = π/3 + - π * n.