3sin² (3x) + 10sin (3x) cos (3x) + 3cos² (3x) = 0

Разделим равенство на cos²3x ≠ 0;

3sin²3x + 10sin3xcos3x + 3cos²3x = 0;

3sin²3x/cos²3x + 10sin3xcos3x/cos²3x + 3cos²3x/cos²3x = 0;

3tg²3x + 10tg3x + 3 = 0;

Выполним замену tg3x = t:

3t² + 10t + 3 = 0;

Определим дискриминант квадратного уравнения:

D = b² - 4ac = (10) ² - 4 * 3 * 3 = 100 + 36 = 64;

t1 = ( - b - √D) / 2a = ( - 10 - √64) / 2 * 3 = ( - 10 - 8) / 6 = - 18 / 6 = - 3;

t2 = ( - b + √D) / 2a = ( - 10 + √64) / 2 * 3 = ( - 10 + 8) / 6 = - 2 / 6 = - 1/3;

Eсли t1 = - 3:

tg3x = - 3;

3 х = arctg ( - 3) + πn, n ∈ Z;

3 х = - arctg (3) + πn, n ∈ Z;

х1 = - arctg (3) / 3 + π/3 * n, n ∈ Z;

Eсли t2 = - 1/3:

3 х = arctg ( - 1/3) + πn, n ∈ Z;

3 х = - arctg (1/3) + πn, n ∈ Z;

х2 = - arctg (1/3) / 3 + π/3 * n, n ∈ Z;

Ответ: х1 = - arctg (3) / 3 + π/3 * n, n ∈ Z, х2 = - arctg (1/3) / 3 + π/3 * n, n ∈ Z.