La dll como te dijeron primero tienes que compilarla..con eso se registra..
tb debes saber los nombres de las clases de la dll y las funciones que hay dentro de cada clase...
desde asp la llamas asi
Código:
Dim Objeto,Entrada,Salida
Entrada=Request.Form("dato")
Set Objeto = Server.CreateObject("Nombre_dll.Nombre_clase")
'supongamos que tu funcion arroja una salida true o false segun la entrada
Salida=Objeto.Tu_Funcion(Entrada)
response.write Salida
;)