Răspuns:
[tex](f\circ g)(x)=f(x^2-x)=a(x^2-x)+b=ax^2-ax+b\\(g\circ f)(x)=g(ax+b)=(ax+b)^2-(ax+b)=a^2x^2+(2ab-a)x+b^2-b[/tex]
Identificând coeficienții se obține sistemul:
[tex]\begin{cases}a^2=a\\2ab-a=-a\\b^2-b=b\end{array}[/tex]
Din prima ecuație rezultă [tex]a=0[/tex] sau [tex]a=1[/tex], iar din ultima [tex]b=0[/tex] sau [tex]b=2[/tex].
Valorile care verifică și ecuația din mijloc sunt
[tex]a=0,b=0\\a=0,b=2\\a=1,b=0[/tex]
Explicație pas cu pas: