Estuve probando un poco (no directamente en el httaccess si no con la funcion eregi) y esta deberia funcionar bien:
Código PHP:
^cat([0-9]{1,4}).htm$
El tema es que ahi no estas "tomando" el parametro necesario, que son los numeros, entonces deberias hacer algo así:
Código PHP:
RewriteEngine on
RewriteBase /galeria/
RewriteRule ^cat(.*).htm categories.php?cat_id=$1
Fijate si te sirve...
PD: Ya que estas pasando las URL utiliza .html en lugar de .htm...