En realidad, si todos los servlets van a usar la misma información, el sitio adecuado para guardar esa información no es la sesión, si no el contexto (Servlet Context). El contexto puede ser accedido desde cualquier servlet o filtro, asi que en un ContextListener se pueden inicializar esas listas cuando arranca la aplicacion y luego todos los servlets o JPS que necesiten esa información la tienen ahí.
De todas formas, si vas a hacer un uso extensivo de esa tecnica, hay cosas que tendras que tener en cuenta como cuando caducar la caches, si hace falta, por que una aplicacion web podria tirarse semanas sin reiniciarse, que si consumen demasiada memoria no te tiren el servidor para abajo etc. etc. Por eso hay implementaciones de "caches" ya hechas que tienen estas cosas ya pensadas, como por ejemplo OSCache:
http://www.opensymphony.com/oscache/
De todas formas, si es por aprender puedes ir haciendo cosas tu, pero a medidad que se complica el diseño, acabas con algo como la librería esta, así que usarlas hechas no es mala elección.
S!