Es simple:
Código:
IF NOT EXISTS(SELECT 1 FROM ESTUDIANTE WHERE APE_PAT=@APE_PAT AND APE_MAT=@APE_MAT AND NOMBRES=@NOMBRES)
INSERT INTO ESTUDIANTE (los campos...)
VALUES (los valores...)
Puedes cambiar el criterio de busqueda por algun documento de identidad, depende de ti.
Suerte!