No exactamente.
Puedes poner un fichero .htaccess en diferentes directorios, pero normalmente no es necesario. Lo normal es utilizar un único fichero .htaccess.
Dicho fichero es un fichero de configuración que le indica a Apache como comportarse en muchos aspectos.
Las reglas RewriteRule se utilizan para que Apache envie la peticion a un determinado "servicio" al recibir una determinada URL que cumpla la sintaxis indicada en la "regla".
Lo normal es que las reglas de las URLs se indiquen con expresiones regulares, por lo que normalmente no hace falta poner una regla para cada fichero.
Por ejemplo las dos últimas reglas podrían sustituirse por una sola con una expresión regular diferente:
Código:
RewriteRule ^index\.(php|html)$ /PHP/index.php [L]