Упростить выражение b (3a - b) - (a - b) (a + b)

При упрощении используем формулу разности квадратов двух чисел:

(х - у) * (х + у) = х * х - у * у.

Раскроем скобки и упростим:

b * (3 * a - b) - (a - b) * (a + b) = (3 * a * b - b * b) - (a * a - b * b) =

= 3 * a * b - b * b - a * a + b * b = 3 * a * b - a * a = a * (3 * b - a) = a * (3b - a).

Ответ: a * (3b - a).