упрастить вырожение a (a+2b) - (b+a) ²

Сначала раскроем первую скобку и преобразуем квадрат суммы во второй скобке:

a (a + 2b) - (b + a) ^2 = a^2 + 2ab - (b^2 + 2ab + a^2) = ... далее раскроем скобку согласно знакам ... = a ^2 + 2 ab - b^2 - 2 ab - a ^2 = ... сокращаем подобные члены с противоположными знаками ... = - b^2.

Ответ: a (a + 2b) - (b + a) ^2 = - b^2.