Lo haces todo bien hasta que llegas al paso del Nero. Si vas a grabar un DVD de vídeo, no puedes meterle directamente el archivo MPG que te ha generado el TMPGEnc

Precisamente dices que necesitas algo que te la divida en trozos de 1 GB, imagino que te refieres a los típicos archivos VOB, IFO y BUP que componen una estructura DVD estándar... eso sí que te lo aceptaría el Nero.
Bueno, pues te sugiero que uses el DVD-Lab Pro:
www.mundodivx.com/dvd/dvdlabpro.php (el manual es de la versión 1.6 pero ya está disponible la 2.1 en la web oficial). Este programa te deja crer menús bastante más completos. Además hace el proceso de "autoría" que mencionas (pasar de un archivo MPG a una estructura DVD con menús lista para grabar). Y no recomprime el vídeo (por eso antes lo tienes que pasar por el TMPGEnc o el convertidor que prefieras, dándole el tamaño definitivo que quieras que tenga).
Saludos