Esto lo puedes realizar con esta función que calcula la distancia entre dos puntos geograficos, como la curvatura de la tierra hace que no se pueda calcular como si estuviera en un plano se muestra la forma en coordenadas esfericas
http://snipplr.com/view/42204/calcul...os-geogrficos/
Si la distancia es menor al radio significa que dicho punto se encuentra dentro de la circunferencia. Es asi de sencillo.
Igual si usas PostGis de Postgres sql puedes hacer lo mismo con funciones.
De igual forma coloco este post que tiene la teoria un poco mas explicada al detalle
http://www.juanjosemartinez.com.mx/g...planas_new.pdf