10x² - (7ax+5x²+8a²) + (6ax-6a²)

1) Для того, чтобы сократить данное нам выражение нужно раскрыть скобки (при минусе с плюсом - раскрываем скобку с минусом):

10x^2 - (7ax + 5x^2 + 8a^2) + (6ax - 6a^2) = 10x^2 - 7ax - 5x^2 - 8a^2 + 6ax - 6a^2;

2) Сократим подобные слагаемые и получим следующее выражение:

5x^2 - a * x - 2a^2;

Ответ: 5x^2 - a * x - 2a^2.