Hola
Si ya has capturado en MPEG2 y ese archivo es compatible con el estandar DVD, no debería hacer una nueva codificación

Como no conozco ese programa sólo puedo sugerirte que uses uno de estos dos, que seguro que no hacen codificación:
www.mundodivx.com/dvd/tda.php www.mundodivx.com/dvd/dvdlabpro.php
Un saludo