Question

qual a fórmula para responder ambas?

Answer 1

Isso são sistemas matemáticos, não tem fórmula, a resolução dá-se por operações algébricas normais.
um exemplo na letra C
x-y=8
x+y²=14

1°
x-y=8
x=8+y

2° substituição 
x+y²=14
8+y+y²=14
y+y²=14-8
y+y²=6
y+y²-6=0
(se organizar vira uma equação do 2° grau)
y²+y-6=0

soma e produto:
x'+x''=-b/a = -1/1 = -1
x'.x''=c/a = -6/1 = -6

logo x'= -3  e  x''= 2

substitui no sistema o valor de x da equação do segundo grau que no caso representa o valor y no sistema:
com o -3

x-y=8                             x+y²=14                
x-3=8                              x-3²=14            
x=8+3                             x+9=14               
x=11                                x=14-9 = 5

tem que dar o mesmo valor de x na equação de cima e de baixo, logo não é -3

agora com o 2

x-2=8            x+2²=14
x=10             x+4=14
                     x=14-4 = 10

logo Y=2 e X=10