Problema con , o . para numeros

[Highlander]

Hola el asunto es que tengo un campo float el cual funciona bien pero en otros casos tengo problemas:

- Si ingreso cualquier numero con , da error. EJ: 3,56
- Si ingreso cualquier numero con . funciona. EJ: 3.56

Entonces pensando en eso no habria problema si siempre ingreso usando como separar el .

Pero cuando yo cargo un valor ya ingresado en la base de datos me lo muestra con separador ,

He revisado la base de datos directamente y están ingresados con separador ,

Como puedo solucionar o de alguna manera estandarizar esto, ya sea que el usuario pueda usar e. . o la , como separador sin problemas?

Gracias por cualquier sugerencia.

PD: estoy trabajando con VB NET en winforms con SQL SERVER EXPRESS 2008 R2