Hola, el onsubmit debe ir en el form, no en un imput.
Yo creo que así te funcionaría:
Código:
<form name="form1" method="post" action="pagina2.asp" onSubmit="popup(this.action, '_blank',600,860); return false">
<input type="submit" name="Submit" value="Enviar" tabindex="89" />
</form>
Te traslado al foro javascirpt