...
Primero decir que lo que se trata (como dice la FAQ) es
buscar antes de insertar, así de simple, sin tanta lógica. Lo que inténto decir es que el proceso de busqueda es antes de hacer el INSERT y este iria dentro del "else" en tu condicional (donde ahora tienes un enlace de retroceso). Nada de eso queda claro en tu código.
Por otra parte, el error te esta diciendo que no es posible usar la función pués el parámetro no es válido. Antes de utilizar las funciones de MySQL es necesario verifiques
la conexión se realize con éxito y, en su caso, lo mismo con la selección de la BD a trabajar (visita la FAQ sobre cómo trabajar con MySQL)... digo esto porque no aparece eso en tu código (creo tampoco en la FAQ y es porque "es asunto aparte"; se indica en comentarios). Además, como es una función lo que estás creando, debes considerar el alcanse de las variables... necesitas acceder al "resourse" de conexión (ó realizar la conexión dentro de la función, pero quizá esta misma conexión la ocuparás en otra parte de tu código).
Bien puedes pasarlo como parámetro como te indican (¿por referencia?) ó acceder de manera global. Además, si tu función es exclusivamente para "ver si el dato existe" el retorno de "true o false" sería indicado.
www.php.net/language.variables.scope www.php.net/functions 
PD: Si isertas código procura utilizar las etiquetas correspondientes
http://www.forosdelweb.com/misc.php?do=bbcode#code