La verdad es que las JSP se usarian solo para presentar informacion, de cualquier tipo, peor nunca tener la logica de como obtienes o calculas dicha informaicon ahi. Ojala en las JPS evistaras los Scriplets.
Que son los Scriplets?
Son pedasos de codigo en Java dentro de las etiquestas <% y %>
Lo idel es que en los JSP soslo uses JSTL que son librerias que arman la informacion que pongas en contexto para presentarla.
Los Servlets como controladores quiere decir que estariamos trabajando bajo el patron MVC (Modelo Vista Controlador) donde la vista son las JSP, el controlador serian los sevlets y el modelo seria toda la lofica de negocio.
Esto quiere decir que en los Servlets solo tienes llamadas a servicios, en ningun caso accesos directos a la base de datos o logica de negocio, visto de otra manera los Servlets solo saben el QUE HACER nunca el COMO HACERLO
Finalemnte en el Modelo tenememos los JavaBeans o en el caso de una aplicacion mas robusta los Enterprise JavaBeans (EJB) donde tenemos todos los servicios (EL COMO SE HACE), aqui dentro podemos tener una capa intermedia entre la base de datos y el modelo que serian los DAO que son interfaces e implementaciones de clases que se preocupen de todo el acceso a datos, de esta forma separamos completamente el modelo de la base de datos (la idea es que cualquier cambio que debamos realizar en una capa no afecte las demas), en los EJB o JavaBeans tendriamos toda la logica de procesamiento de datos y logica de negocios, restricciones, etc. Si quicieras hacer de tu aplicaicon aun mas robusta podrias usar un ORM (Object Relational Mapping) como Hibernate, que se encargaria de hacer el trabajo de transportar la data entre Java y la base de datos y de hacer los mapeos de informacion correspondientes a cada tabla, tanto de ida como de vuelta.
Ya mas abajo en nuestras capas tenemos lo que seria la base de datos u archivos planos o lo que sea que estimes conveniente para almacenar tu informacion.
Espero haberte aclarado mas el panorama y a la vez haberte generado miles de insertifumbres, pues si te pones a investigar tus dudas podras ir creciendo en conocimiento
Saludos