Gracias por ayudarme claray, te cuento que lo hice andar, a duras penas pero anda, lo modifique un poco, ahora solo hay dos paginas, aca dejo el codigo por si alguien lo necesita:
formulario.htm:
<html>
<head>
<script language="JavaScript">
function abrirpopup(){
open("popup.php");
}
</script>
</head>
<body>
<form name="frm">
<img src="imagen.gif" name="foto" width="139" height="188">
<input type="button" value="cambiar" onclick="abrirpopup()"><br>
</form>
</body>
</html>
popup.php
<html>
<? if(isset($_FILES['imagen']['tmp_name'])){
move_uploaded_file($_FILES['imagen']['tmp_name'] , "imagen.gif");
?>
<script>
window.opener.location.reload();
close();
</script>
<? }
?>
<body>
<form method="post" action="popup.php" name="frm2" enctype="multipart/form-data">
<input type="hidden" value="kjjkjk" name="oculto" >
<input type="file" name="imagen">
<input type="submit" name="enviar" value="subir">
</form>
</body>
</html>