¿como se pued evitar que se inserte en la BD?

[Tanddy]

Bueno para empezar tu tabla supongo que tiene llave verdad? ya sea por un ID o por ID,Titulo....bueno debes hacerte un stored procedure que valide si el titulo se encuentra o no.
Por ejemplo:
Create procedure verificar
@titulo as varchar
AS
BEGIN

SET NOCOUNT ON

DECLARE @tit as VARCHAR

SELECT @tit = titulo
FROM libro
WHERE titulo=@titulo

IF @tit =""
return true
else
return false
end

SET NOCOUNT OFF


END