Hola:
Redimensionar la ventana después de abrirla, tiene ese problema, ya que dimensiona la ventana y no el contenido (suma bordes...)
Si sabes las medidas, es mejor ponerlas al abrir la ventana (en los parámetros del window.open)... Un sistema que funciona es precargar la imagen para obtener el tamaño:
Pop-up del tamaño de la imagen automaticamente
Saludos
