Sin^2*x+9cos^2*x=5sin2x

sin^2 (x) + 9cos^2 (x) = 5sin2x.

sin^2 (x) + 9cos^2 (x) - 5sinx * cosx = 0.

Это уравнение однородное. Для его решения необходимо все уравнение разделить на cos^2 (x).

sin^2 (x) / cos^2 (x) + 9cos^2 (x) / cos^2 (x) - 5sinx * cosx / cos^2 (x) = 0.

tg^2 (x) + 9 - 5tg (x) = 0.

Сделаем замену tg (x) = t.

t^2 - 5t + 9 = 0.

D = (-5) ^2 - 4 * 1 * 9 = 25 - 36 = - 11.

Т. к. D<0, то решений нет.