Question

dada a matriz A= [a 0 / -1 b ] quais devem ser os valores de a e b

Answer 1

Se a matriz é essa mesmo, vamos lá:
seja a matriz
 a     0
-1     b
a multiplicação da matriz A é igual:
 a     0              a     0                 a²   0
-1     b      x     -1     b       =      -a-b   b²
Para que A² = A, é necessário que:
a²=a      b²=b    e -a-b=-1
Os únicos valores que atendem às necessidades são 0 e 1
Aí, tanto faz ser "a" ou "b", um tem que ser igual a 0 e outro igual a 1

0² = 0         1²=1         -1-0 = -1