¿miles de archivos en un solo directorio, o en cientos?

[juan-raro]

supongamos las imagenes de una tienda con miles de productos... y cada uno con 10 imagenes + miniaturas...
¿qué es mas eficiente y veloz: todas las imagenes en un mismo directorio o mejor dividirlas por secciones, subsecciones y productos, incluso dentro del producto: normales, thumbnails, y grandes...

no se que es mas eficiente tanto para la base de datos como del servidor... en cada pedido que se le haga buscar en un solo directorio entre miles de archivos o buscar en jerarquías entre cientos de directorios..

Tal vez el tema este superado y no tiene demasiada importancia pero tengo esta duda... ya que cuando empiezas a gestionar miles de archivos parece que la cosa se enlentece...