Totul este spus deja, doresc doar sa accentuez faptul ca trebuie folosit esential ordinul 2 al matricilor A si B. Fara a folosi acest lucru (facandu-ne mainile murdare si luand undeva intrarile a,b,c,d in matricea...) nu prea putem arata nimic.
Cum s-a spus si mai sus,
Trace(A) = Trace( Comutatorul [A,B] = AB-BA ) = 0 .
Apoi, pentru anularea determinantului putem o vreme sa scriem.
AB = A + BA = (B+I)A si
BA = AB - A = A(B-I) .
Aplicam determinantul si dam de
det(A) det(B) = det(A) det(B+I) = det(A) det(B-I) .
Putem avea det(A) nenul?
In acest caz dam de det(B) = det(B-I) = det(B+I) .
Vine punctul in care trebuie sa folosim forma 2x2 a lui B. Sa zicem ca B are intrarile
[ a b ]
[ c d ] .
Rezulta de aici ad - bc = (a-1)(d-1) - bc = (a+1)(d+1) - bc, de unde
0 = -a-d +1 = a+d +1 .
Mai greu.
Presupunerea facuta este falsa. Rezulta det(A) = 0 .
Folosind Cayley-Hamilton rezulta deja AA = 0 .
Dar si altfel, daca stim Trace(A) = det(A) = 0 , rezulta ca A este o matrice de forma
[ a b ]
[ c -a ]
unde aa+bc = 0. Calculam atunci AA si dam de matricea care are pe diagonala aa+bc si in rest 0. Matricea nula.
Nota: Problema a insitat in enunt sa nu ne ajute sa o rezolvam excluzand acel n=0 drept putere a lui B. (Cu conventia ca B la puterea 0 este I.)