Debes agrupar los caracteres, por ahí eliminaste un
] y de ahí vienen todos los demás errores, podría ser algo como:
/^([0-9][\.]{0,1}[\-]{0,1}[_]{0,1}){5,10}$/
Aclaro que no soy muy bueno con expresiones regulares, pero por ahí debe ir la cosa.
Edito:
Creo que no va por ahí, porque sería válido sólo para cosas que no son lo que necesitas, como:
123.
123-_
123._
Pero no para
123_-
