Seguramente será que te faltan los codec. Te dejo un par de manuales, el primero es para que hagas una configuración básica de TMPGEnc, y el segundo un manual sobre codecs para que sepas qué tienes que instalar y qué no:
www.mundodivx.com/aviavcd/tmpgenc.php (la configuración está en la hoja 2)
www.mundodivx.com/varios/codecs.php
Saludos
