Hola flaviovich: lo que necesitas es algo com esto:
Código:
int estaDentro(int x, int y){
int estaDentro = 0;
if(sqrt(pow(x-X0,2)+pow(y-Y0,2))<=R)
estaDentro = 1;
return estaDentro;
}
te retorna 0, cuando el punto esta fuera del circulo, y te retorna 1, cuando esta dentro del circulo.
Para que funcione, tenes queimportar la biblioteca math.h.
Saludos