Hola,
Creo que es el tipo de datos, es demasiado pequeño para esa operación
Modifica lo que te he puesto en rojo para que quede así y creo que funcionará
Código:
Function SUMA_CUAD(A As Double, B As Double)
Dim i As Integer
Dim Suma As Double
Suma = 0
If A < B Then
For i = A To B
Suma = Suma + i ^ 2
Next i
ElseIf A > B Then
For i = B To A
Suma = Suma + i ^2
Next i
Else
Suma = A * B
End If
SUMA_CUAD = Suma
End Function
Un saludo