El "||" es el operador binario "or condicional" pero a diferencia de "|" que es el "or logico" que se ejecutan todas las condiciones en paralelo y luego se evalua, en el "||" se va evaluando de izquieda a derecha (puede haber mas de dos condiciones), continuandose evaluando las condiciones, si el operador aun no dio un resultado.
Entonces en tu ejemplo, la segunda condicion, la de remover la clase "ui-selected" solo se ejecutará ese pedazo de código si $(this) es is('.ui-selected').
Es una forma de lograr un if reducido, pero conceptualmente no lo es.
Además en javascript, si las condiciones no son valores booleanas el operador devuelve sus resultados:
Mas info:
https://developer.mozilla.org/es/Gu%...s_l%c3%b3gicos