Hola
Lo que podrías mirar es si es problema de temperatura, pq al codificar el VCD, el procesador pasa un buen rato al 100% de carga y se calienta, pudiendo llegar a bloquearse. La temperatura podrías mirarla con programas como Aida32 o Motherboard Monitor.
Por otro lado sería interesante saber si sólo pasa con ese video, o con todos. Y en caso de ser sólo con ese video, analizalo con GSpot (
www.headbands.com/gspot) y dame los datos de video y audio que te marque, luego renderiza el archivo (botón Render) y mira si da algún error.
Chao