Si aun es tiempo, te comparto un poco de lo que he aprendido para que decidas. XHTML es una versión mejor diseñada de HTML4, ambos son, en general, lo mismo, y no debería haber problemas mayores con que decidas una u otra. Personalmente prefiero XHTML.
Ahora, HTML5 es casi el nuevo estándar, lo será dentro de poco, y los navegadores actuales lo soportan sin problemas. Si quieres entrar desde ahora a la carrera de lo innovador, puedes entrar directo en HTML5, que aunque aun está dispuesto a cambios, hoy día ya serían pocos y menores.
Sobre lo que preguntas de IE. Aunque ya la versión 8 estuvo bien diseñada, y la 9 soporta los nuevos estándares que están en camino, las versiones anteriores tenían muchos problemas, ya que no hacían caso de los estándares puestos por la W3C.
Hablamos principalmente de IE6, que venía preinstalado con Windows XP, y muchos usuarios ignorantes de lo que es un navegador, siguen usando el mismo sin saber que pueden cambiarlo o cuando menos actualizarse; por eso muchos diseñadores aun se preocupan que su página se vea en él. Pero la mayoría ha optado por olvidarse de darle mantenimiento y (si aun hay compasión), mostrar un letrero para que actualizen el navegador. Es por eso que aparece esa notificación en la página