El problema no es lo que pongas DESPUES del header... usar exit lo unico que previene es que el script siga ejecutandose aun despues de haber enviado el navegador a otra direccion...
Lo que debes cuidar es que no tengas ANTES del header una salida al navegador, como puede ser:
un echo
un print
codigo html fuera de PHP
un include que haga cualquiera de esas cosas
espacios en blanco antes del inicio del script (antes de <?)
Eso es lo que puede estarte sucediendo