Question

x(ao quadrado)-13x+80=0

Answer 1

Tem que usar Baskhara
a=1
b=-13
c=80
169-4.1.80
169-320
∆=-151
Solução não existe

Answer 2

Vamos lá.

Bem, você não falou o que quer que façamos com a sua expressão dada, que é:

x² - 13x + 80 = 0

Se for para encontrar as raízes, note que a expressão dada não TEM raízes reais, pois o seu Δ (b²-4ac)  é menor do que zero. Veja:

Δ = (-13)² - 4*1*80
Δ = 169 - 320
Δ = - 151 <---- Note que o delta é negativo (menor do que zero).

Logo, a função NÃO terá raízes reais, mas apenas raízes complexas.

E, para encontrar as raízes complexas, se quiser, você aplica Bháskara e as encontrará da seguinte forma:

x = [-b+-√(b²-4ac)]/2a ----- fazendo as devidas substituições, teremos:
x = [-(-13)+-√((-13)² - 4*1*80)]/2*1
x = [13+-√(169-320)]/2
x = [13+-√(-151)]/2 ---- veja que √(-151) = √(151)*√(-1). Assim:
x = [13+-√(151)*√(-1)]/2 ---- note que √(-1) = i. Assim, teremos:
x = [13+-√(151)*i]/2 ---- ou, o que é a mesma coisa:
x = [13+-i√(151)]/2  ---- ou seja, daqui você conclui que:
 
x' = (13-i√151)/2
x''  (13+i√151)/2

Portanto, as raízes complexas seriam as duas acima encontradas, que demos apenas para você ver  a forma de encontrá-las, se fosse pedido isso. isso.

Deu pra entender bem?

OK?
Adjemir.