Pues, el problema no es tanto del Nero, seguramente como no puede hacer la conversión al formato correcto por eso te pide actualizarlo, primero, debes pasar esos videos a un formato más estandar, y ya luego usar Nero para quemar el disco.
Te recomiendo que, primero, como los videos del Youtube son complicados de codificar por el audio, uses el SUPER de erigthsoft (revisa las faq's), y pasa los archivos a mpeg1 (en mi sitio web tengo un videotutorial que explica eso de los formatos y uso del SUPER), y ya en ese formato puedes usar el nero para pasar a VCD