tendras que arrancar la base de datos sin montarla
y ver porque te esta dando fallos; generalmente se debe a al init<sid>.ora y/o alguno de los control files que modificaste ctl<sid>.ora
verifica tambien los procesos batch de background.
Si todo esto esta bien intenta alterar la base de datos montandola
Aqui deberas ver si se produce algun error