Mira, aquí creo que explican el problema que estás viendo:
http://personal.franchu.net/2008/01/...b-pixel-en-css
Lo que sucede es que 0.1% da, dependiendo de la resolución de tu monitor, un número fraccionario, sin embargo para los navegadores es imposible mostrar una fracción de px, por lo tanto tienen que redondear... y cada navegador redondea como se le da la gana.