Para hacer esto no te hace falta javascript para nada, simplemente con un anchor y CSS lo resuelves...
Código HTML:
<!-- aqui pondrias la imagen de la flecha -->
<div id="fija" style="position: fixed;left: 20px;top: 20px;z-index:10;background: silver">
<a href="#inicio">arriba</a>
</div>
<!-- este anchor en el sitio donde quieres que vaya la pagina al hacer click -->
<a id="inicio">Inicio</a>
<!-- aqui el resto del contenido... -->
...