¿Pero entonces como piensas realizar el agregado de la flechita?
En cuanto al error solamente debes agregar <ul> antes de <li class="cat-item cat-item-1">
y cerrarlo al final de todo.
Para la flechita, una posibilidad es meter una imagen dentro de un <li> o un div con position:absolute. Es decir que es posible que tengas que cambiar el html.
Saludos