Lo de motor de grabacion es para cuando vas a grabar el DVD con el propio programa, indica quién va a ser el que accede al disco para grabarlo: el motor de Nero Burning ROM, el que trae incluido clonedvd, o el de vso que no sé cual es. Yo muy pocas veces hago copias de DVD pero cuando lo hago eligo hacerlo en una imagen ISO, así luego puedo grabarla con cualquier otro programa (me fío más): Alcohol 120%, DVD Decrypter, Nero, etc...
No se me ocurre nada de por qué no te deja
Prueba comprimiendo la pelicula, al menos para darle salida de una vez... Que calidad se pierde poca