5a (в квадрате) + 10ab+5b (в квадрате)

Перепишем заданное выражение в математической форме, и используя формулу сокращённого умножения, упростим исходное выражение. Ещё перед этим вынесем за скобки общий сомножитель, равный 5.

5 * a ^ 2 + 10 * a * b + 5 * b ^ 2 = 5 * (a ^ 2 + 2 * a * b + b ^ 2) =

5 * (a + b) ^ 2.