Daca este intr-adevar vorba de o lege de compozitie, uite cum ar trebui sa rezolvi:
Rescriem legea incat sa ne fie mai usor la inlocuit:
x°y=2x(y-3)-6(y-3)-18+21=(y-3)(2x-6)+3=2(x-3)(y-3)+3
Rezulta ca:
x°x=2(x-3)^2+3
Dar nu au cum sa iti ceara sa demonstrezi ca x*x=11 fiindca nu ai suficiente date
Poate ai scris gresit.