Se envia el formulario cuando abro un popup

[zerokilled]

sucede que el valor predeterminado de un HTMLButton es de tipo submit. por tanto, tienes que hacer que tu boton sea tipo button.

Código html:

<button type="button">contenido</button>
 

por ultimo, un detalle interesante.

The default type for Internet Explorer is "button", while in other browsers (and in the W3C specification) it is "submit".

traduccion. en internet explorer el valor predeterminado es 'button', mienstra que en otros navegadores (y el estandar W3C) es 'submit'.