Pues pueden ser muchas cosas. Fijate lo primero que hayas configurado el tmpgenc como en el manual, con el ffdshow + lame. Si es así, luego fijate que no estés metiendo algún formato raro, como por ejemplo un audio en OGG o AC3 (puedes ver los datos de tu video con el programa GSpot).
Y si a pesar de todo crees hacerlo bien, el problema puede ser de codecs. Desinstala todos los codecs, packs de codecs y ffdshow desde el agregar/quitar programas, reinicia, e instalate los codec basicos por separado:
www.mundodivx.com/varios/codecs.php Luego obviamente vuelve a configurar tmpgenc con el ffdshow y el lame.
Saludos