Para comparar cadenas de caracteres puedes usar la funcion strcmp(). Te devolvera 0 cuando sean iguales, y 1 ó -1 (valores que se usan para ordenar) cuando sean distintas.
Código:
int buscar_por_nombre(char aux[30], struct contacto *estructura)
{
int posicion = -1; // Valor especial para cuando no se encuentra
for(int i=0; i<5; i++)
{
if ( strcmp(estructura[i].nombre,aux)==0 )
{
posicion = i;
break; // Para no seguir buscando, pues ya lo he encontrado
}
}
return posicion;
}
NOTA: Tambien existe la funcion strncmp() para comparar un numero máximo de caracteres.