Como te dice Keysher,
Ese limite tu lo programas, antes de subir la foto haces un SELECT y cuentas cuantas fotos tiene, si tiene mas de 10, entonces muestras el mensaje de error.
La base de datos no va a ser ese trabajo por ti ya que es responsabilidad del programa, la base de datos es, pues una base de datos, no un programa
.
Saludos.