Secara umum, diberikan kurva $y=a_1x^2+b_1x+c_1$ dan garis $y=b_2x+c_2$. Jika persamaan garis disubstitusi ke persamaan kurva menjadi

$a_1x^2+b_1x+c_1=b_2x+c_2$

$\Leftrightarrow a_1x^2+b_1x+c_1-b_2x-c_2=0$

$\Leftrightarrow a_1x^2+b_1x-b_2x+c_1-c_2=0$

$\Leftrightarrow a_1x^2+\left(b_1-b_2\right)x+\left(c_1-c_2\right)=0$

$\Leftrightarrow ax^2+bx+c=0$ . . . (*),

dengan $a=a_1,\ b=b_1-b_2,\ c=c_1-c_2$,

dan diskriminan persamaan (*) adalah $D=b^2-4ac$, maka kedudukan kurva dan garis sebagai berikut:

1. Memotong sumbu $X$ di dua titik jika diskriminannya lebih dari nol ($D>0$).
2. Menyinggung sumbu $X$ (memotong sumbu $X$ di satu titik) jika diskriminannya sama dengan nol ($D=0$).
3. Tidak memotong sumbu $X$ jika diskriminannya kurang dari nol ($D<0$).

Pada soal diketahui parabola $y=x^2-3x+9$ tidak memotong garis $y=mx+5$, sehingga didapat

$x^2-3x+9=mx+5$

$\Leftrightarrow x^2-3x+9-mx-5=0$

$\Leftrightarrow x^2-3x-mx+9-5=0$

$\Leftrightarrow x^2+(-3-m)x+4=0$

Artinya, $a=1,\ b=-3-m=-(3+m),\ c=4$

Karena parabola tidak memotong garis, maka $D<0$. Diperoleh

$D<0$

$\Leftrightarrow b^2-4ac<0$

$\Leftrightarrow(-(3+m))^2-4.1.4<0$

$\Leftrightarrow(3+m)^2-16<0$

$\Leftrightarrow 9+6m+m^2-16<0$

$\Leftrightarrow m^2+6m+9-16<0$

$\Leftrightarrow m^2+6m-7<0$ . . . (1)

Pertidaksamaan (1) merupakan pertidaksamaan kuadrat. Perlu diingat bahwa pertidaksamaan kuadrat mempunyai bentuk umum

$ax^2+bx+c<0,\ ax^2+bx+c\le0,\ ax^2+bx+c>0,\text{ atau}\ ax^2+bx+c\ge0$

dengan $a,\ b,\ c$ merupakan konstanta dan $a\ne0$.

Cara menyelesaikan pertidaksamaan kuadrat adalah

1. Mencari harga nol dari pertidaksamaan tersebut, dengan mengganti tanda pertidaksamaan menjadi tanda sama dengan (=), kemudian memfaktorkan ruas kiri.
2. Mencari nilai $x$ yang sesuai dengan tanda pertidaksamaannya.

Harga nol dari pertidaksamaan (1) adalah

$m^2+6m-7=0$ . . . (2)

Nilai $a,\ b$ sehingga $a+b=6$ dan $ab=-7$ adalah $a=7$ dan $b=-1$.

Akibatnya persamaan (2) dapat difaktorkan menjadi

$\left(m+a\right)\left(m+b\right)=0$

$\Leftrightarrow\left(m+7\right)\left(m-1\right)=0$ . . . (3)

Artinya,

$m+7=0\Leftrightarrow m=-7$ atau

$m-1=0\Leftrightarrow m=1$.

Untuk $m<-7$, diambil sebagai sampel $m=-8$ (dapat dipilih yang lain). Berdasarkan persamaan (3) diperoleh

$\left(-8+7\right)\left(-8-1\right)=\left(-1\right)\left(-9\right)=9>0$ (bernilai positif).

Untuk $-7<m<1$, diambil sebagai sampel $m=0$ (dapat dipilih yang lain). Berdasarkan persamaan (3) diperoleh

$\left(0+7\right)\left(0-1\right)=7\left(-1\right)=-7<0$ (bernilai negatif).

Untuk $m>1$, diambil sebagai sampel $m=2$ (dapat dipilih yang lain). Berdasarkan persamaan (3) diperoleh

$\left(2+7\right)\left(2-1\right)=9.1=9>0$ (bernilai positif).

Pengecekan ketiga kemungkinan tersebut dapat disajikan dalam garis bilangan berikut:

Pertidaksamaan (1) memiliki tanda $<$. Artinya nilai $m$ yang sesuai adalah yang menghasilkan nilai negatif.

Karena pertidaksamaan (1) tidak memuat sama dengan, maka $m=-7$ dan $m=1$ tidak memenuhi pertidaksamaan (1). Jadi nilai $m$ yang memenuhi adalah $-7<m<1$