Lo que dice gnzsoloyo es muy cierto. Pero lo raro es que si se resta 10-10 y ambos son double, mysql devuelve un cero. así que el problema no necesariamente lo estés teniendo mysql.
Código MySQL:
Ver originalQuery OK, 0 rows affected (0.02 sec)
Query OK, 1 row affected (0.02 sec)
+-----------+
| num1-num2 |
+-----------+
| 0 |
+-----------+
me consta que si haces operaciones un poco mas complejas, la precisión se pierde para este tipo de datos.
saludos