a^2+b^2+2ab+5a+5b=

Сгруппируем первое, третье и второе слагаемые, и сгруппируем последние два слагаемых.

(a² + 2ab + b²) + (5a + 5b).

Выражение в первой скобке свернем по формуле квадрата суммы двух выражений a² + 2ab + b² = (a + b) ². Из второй скобки вынесем общий множитель 5.

(a + b) ² + 5 (a + b) = (a + b) (a + b) + 5 (a + b).

Вынесем за скобку общий множитель (a + b).

(a + b) ((a + b) + 5) = (a + b) (a + b + 5).

Ответ. (a + b) (a + b + 5).