Particularmente el problema no es de PHP sino del HTML. Y se resuelve justamente como indica sism82.
Pero, en general, cuando quieres que el HTML muestre los signos ">" y "<" deberás hacer lo siguiente:
En lugar de
< poner
<
En lugar de
> poner
>
Saludos