buenas...
el primer codigo es erroneo. no se puede definir un tag <script> en el contexto donde debe haber un string que represente un valor valido para una propiedad css. el segundo codigo tambien es erroneo porque se entiende que estas invocando una funcion de definida en jsp cuando en realidad la funcion esta definida en javascript. en este caso, el codigo jsp no tiene relevancia alguna. simplemente lo que debes hacer es invocar la funcion desde javascript y el valor devuelto por este asignarlo a la propiedad css.
Código:
...style.backgroundColor = color();
