ok, es sencillo
el apartado de codigo lo pones dentro de un archivo PHP, supongamos "
apartado.php". Hasta ahi, perfecto.
Despues renombras todos tus archivos
.html a
.php.
Ahora, vas archivo por archivo y reemplazas el código común a todos por esto:
apartado.php lo dejas en la raíz del sitio, y listo el pollo...un solo archivo en un millon de paginas

cualquier duda chifla!