Hola
Pregunta: ¿Tienes el tmpgenc configurado exactamente como se dice aquí?
www.mundodivx.com/mpeg/tmpgenc.php?p=2
Si la respuesta es SI, reinstala todos los codec y los ffdshow (los quitas desde el panel de control - agregar quitar..., reinicias, los vuelves a instalar) y los configuras. Si la respuesta es NO, configuralo.
Por cierto ¿qué datos de video y audio te da el GSpot sobre tu AVI?
Saludos