container.appendChild(new_element, container.firstChild);
Creo que te estas armando un pequeño lio.
cada vez que recargas la página creas un nuevo elemento (p), debes cargar la página en un solo elemento, en un div.
en lugar de
var new_element = document.createElement('p');
new_element.innerHTML =element;
container.appendChild(new_element, container.firstChild);
algo así como
Código:
document.getElementById('display').innerHTML = element;
<body...>
<div id="display"...>
y los ('p') los pones en la página a la que llamas