Lo que pasa es que como estas usando paginación y al borrar un registro es posible que ese numero de página ya no sea válido.
puedes hacer lo siguiente:
Cita: Try
DataGrid1.DataBind()
Catch
DataGrid1.CurrentPageIndex = 0
DataGrid1.DataBind()
End Try
Saludos