Hola,
Para eliminar un elemento de un array es:
Código PHP:
unset($_SESSION['language']);
eso si, esto iria despues del session_start().
Lo que pasa es que en este caso no veo la necesidad de borrar la variable de sesion, ya que estas pisando su valor.
Saludos.