4sin2x - 3sinxcosx + 5cos2x = 3

Давайте заметим, что, будь в правой части ноль, такое уравнение было бы однородным и мы точно знали как его решить, по этому давайте проведем преобразование и сделаем его вот таким:

sin2x - 3sinxcosx + 2cos2 + 3 (sin2x + cos2x) = 3;

sin2x - 3sinxcosx + 2cos2x = 0.

В вот это уравнение уже является однородным, потому надо разделить обе его части на sin2x ≠ 0 (потому что, если sinx = 0, то и cosx = 0, а это одновременно не возможно).

1 - 3ctgx + 2ctg2x = 0;

2ctg2x - 3ctgx + 1 = 0.

Теперь мы можем использовать такую вещь, как замену переменной, а именно ctgx = t и решать квадратное уравнение относительно t:

2t2 - 3t + 1 = 0.

Уравнение имеет такие корни: t1 = 1, t2 = 1/2.

Возвращаемся к неизвестному x и получаем:

из t1: ctgx = 1, откуда x = π/4 + πn (n ∈ Z);

из t2: ctgx = 1/2, откуда x = arcctg (1/2) + πm (m ∈ Z).

Ответ: x = π/4 + πn или x = arcctg (1/2) + πm.