Creo que lo que necesitas es un ventana Modal
Ahi te va el codigo
En el lado de HTML, pon esta función
function OpenModal()
{
//Estas son las configuraciones de la ventana
var WinSettings = "status:no;center:yes;resizable:no;dialogHeight:55 0px;dialogWidth:800px"
var url ="http://localhost/ventana.aspx";
var MyArgs = window.showModalDialog(url, MyArgs, WinSettings);
}
Y en el lado del servidor agregas el atributo al boton
this.txtBoton.Attributes.Add("onClick","javascript : OpenModal()");
Espero te haya servido,
Saludos,