je cherche à résoudre cette équation f(x)=-66 sachant que la fonction f(x) = (2x-5) (x+6) - (x+6)²

Tu sais que f(x) = (2x - 5)(x + 6) - (x + 6)²
Et tu cherches à résoudre f(x) = - 66

Donc il faut résoudre 
(2x - 5)(x + 6) - (x + 6)² = - 66            => On factorise.
(x + 6)(2x - 5 - x - 6) = - 66
(x + 6)(x - 11) = - 66
(x + 6)(x - 11) + 66 = 0
x² - 11x + 6x - 66 + 66 = 0
x² - 5x = 0                            => On factorise.
x * x - 5 * x = 0
x(x - 5) = 0
Un produit est nul si un de ses facteur est nul.
x = 0                    ou              x - 5 = 0
                                             x = 5

S= {0 ; 5}