tienes que colocar la transicion en el objeto que quieres animar
si quieres animar ul submenu tienes que poner
Código CSS:
Ver original.submenu{
opacity:0;
transition:all 1s ease-in-out 0s;
}
por ejemplo
y cuando hagas un hover a su padre li
muestranos lo que intentaste y podremos decirte en que te equivocaste