Para descargarlo .. debes de generar las cabeceras HTTP y enviarselo al navegador ...
fget() .. envia el fichero al archivo abierto en el instante .. por eso lo deja ahi donde te sale a ti.
Aquí puedes ver el codigo completo de un cliente FTP:
<a href='ir.asp?http://inebria.com/phpftp/ftp.phps' target='_blank'>http://inebria.com/phpftp/ftp.phps...</a>
Presta atencion a la seccion de codigo que usa
header("Content-Type: " . $file_mime_type);
header("Content-Disposition: attachment; filename=" . $select_file);
readfile($tmpfile);
Un saludo,