Una alternativa para páginas web no hay, o por lo menos no una que sea factible usar en producción. Esto es por cuestiones de estandarización.
Hay varios subconjuntos de HTML, la mayoría usados para presentar páginas en dispositivos móviles, que se usaron alguna vez pero han quedado obsoletos. En esa categoría entrarían WML, iHTML, cHTML y HDML. Pero al fin y al cabo siguen siendo más o menos versiones de HTML.
Sobre SGML, no es que HTML sea "hijo" de éste, si no que HTML es un lenguaje de documento definido con SGML.
Ahora,
Zen Coding es una opción que te permite escribir HTML (también XML y CSS entre otras cosas) de una manera más rápida con una sintaxis similar a los selectores de algunos frameworks Javascript. Pero no es una alternativa a HTML solo una forma diferente de escribirla. Otra opción es similar es
Sparkup (esta no la he probado aún).
@gildus: Solo para aclarar, el truco que pones, realmente es una simulación ya que de hecho sí se genera HTML por defecto, el navegador inserta las etiquetas <html> y <body>, con lo cual ya puedes agregarles estilos y utilizar la pseudoclase :after para agregar texto.
Saludos
