hola necesito que me ayuden encontrar mi error

[gnzsoloyo]

¿Por qué no has usado estructuras de control para localizarlo?
Un simple Try/Catch te evitaría hacer preguntas abstractas y pedirle a otros que hagan tu tarea...
Algo tan simple como poner:

Código vb.net:

Sub CambiarRes(ByVal Ancho As Integer, ByVal Alto As Integer, ByVal Bits As Integer)
        Try
            Dim noCambio As Integer
            DevMod.dmSize = CType(Marshal.SizeOf(DevMod), Short)
            If DevMod.dmFields = pantalla.DM_PELSDWITH Or pantalla.DM_PELSHEIGHT Or pantalla.DM_BITSPERPEL Then
                DevMod.dmPELSDWITH = Ancho
                DevMod.dmPELSHEIGHT = Alto
                DevMod.dmBITSPERPEL = Bits
                If (noCambio = pantalla.ChangeDisplaySettings(DevMod, 0) <> pantalla.DISP_CHANGE_SUCCESFUL) Then MessageBox.Show("Error: " & noCambio.ToString() & "al cambiar la resolucion de pantalla", "Error") Else 
                resCambio = True
            End If
        Catch ex As Exception
            MessageBox.Show("Excepción en ()" & vbNewLine & ex.Message & vbNewLine & ex.StackTrace.ToString, "Error encontrado", MessageBoxButtons.OK, MessageBoxIcon.Error)
        End Try
    End Sub