Hola.
Eso que comentas es muy fácil. Suponemos que sabes realizar consultas a la base de datos y en la variable $user_image obtienes el valor del campo de la BBDD donde se guarda el nombre de la imagen del usuario SI este ha subido alguna. Si no la ha subido, ese campo contendrá en valor NULL.
Dicho esto, sólo te queda hacer un
Código PHP:
$image = (empty($user_image)) ? 'http://misitio.com/default.png' : $user_image;
Eso es un operador ternario. Evalúa lo que hay a la izquierda del ? y si es verdadero asigna a la variable image la evaluación de lo que existe a la derecha de ?. Si es falso, asigna a image la evaluación de lo que hay a la derecha de :.
Ya luego puedes imprimirla con algo así:
Código PHP:
echo "<img src=\"$image\" />";
Saludos.