Puedes poner el siguiente código donde tienes: <img src="img/user.png" />
Código PHP:
$default_images = Array ("image1.jpg","photo3.jpg","colors.png");
$rand_image = rand ( 0 , count( $default_images ) - 1 );
echo "<img src=\"" . $default_images[$rand_image] . "\" />";
En el array pon la dirección de cada imagen que vas a usar; Otra cosa recuerda que esto solo escoge imágenes al azar, no toma en cuenta si el usuario tiene o no una imagen pre-establecida.