El código que pones es ASP.NET (VB.NET), MD5CryptoServiceProvider, es una clase de .NET para CODIFICAR un string en un array de bytes (de ahí el método Byte() te crea un arreglo de bytes).
Si ves la documentación oficial de MD5CryptoServiceProvider, puedes ver que te regresa un arreglo de 16 bytes, para pasarlo a una cadena de 32 caracteres como la mayoría de las librerías de MD5 lo hacen debes de transformarlo a Hexadecimal y a un arreglo, algo así:
Código:
Dim sBuilder As New StringBuilder()
Dim i As Integer
For i = 0 To hashedDataBytes.Length - 1
sBuilder.Append(hashedDataBytes(i).ToString("x2"))
Next i
Return sBuilder.ToString()
Saludos.
PD Tema trasladado a .NET.