можно ли из квадратной скобки вынести общий множитель за скобку например, из скобки (3a-3b) ^2 вынести 3?

Чтобы вынести общий множитель за скобки у линейного двухчленна, возведённого в квадрат, необходимо воспользоваться определением понятия степени:

(3 ∙ a - 3 ∙ b) ² = (3 ∙ a - 3 ∙ b) ∙ (3 ∙ a - 3 ∙ b) = 3 ∙ (a - b) ∙ 3 ∙ (a - b) = 3 ∙ 3 ∙ (a - b) ∙ (a - b) = 3² ∙ (a - b) ² = 9 ∙ (a - b) ².

Или можно использовать свойство возведения в степень произведения двух выражений:

(3 ∙ a - 3 ∙ b) ² = (3 ∙ (a - b)) ² = 3² ∙ (a - b) ² = 9 ∙ (a - b) ².