Holas
Prueba algo, justo en el momento de poner el nombre a la peli, ponle otro nombre que no coincida con el de la peli, pero sin olvidarte de la extensión .mpg
Por ejemplo, si tienes el archivo
pelicula.asf a la hora de poner el nombre del archivo ponle por ejemplo
cualquiercosa.mpg
De esta forma te aseguras que (1) no se sobreescribe la pelicula y (2) no da error al faltarle la extensión del archivo.
De dar algún error, dará el de "Can not be used as external encoder", en tal caso el problema es que el tmpgenc no encuentra los filtros para decodificar el ASF, por eso si ya tienes hecha la configuración de TMPGEnc que está en el manual que te dejé (usando los filtros ffdshow), pues revisala a fondo y comentame el más minimo cambio que observes en la parte de VFAPI Plugin.
Sino mejor intenta con el Canopus procoder, no creo que éste te dé problemas para convertir el archivo.
Suerte