Te lo dice porque no soporta el formato de archivo. En principio para los CD de video, si tienes los codec del AVI instalados, no te debería dar mayor problema. De todas formas lo que haces no te lo recomiendo, pq lo que estás haciendo es que el Nero te codifique los AVI a MPG, y el Nero falla mucho haciendo esto (luego salen cuadraditos en la imagen, se va el audio, se desincroniza, etc...) aparte de que no te deja configurar nada (por ejemplo filtros para mejorar la imagen o el sonido). Por eso lo mejor es que uses otro programa para pasar de AVI a MPG y que uses el Nero sólo para grabar.
Saludos