No hace falta que uses un "complejo algoritmo", basta con que el menú cambie su forma en pantallas de dimensiones cortas. Por ejemplo, mira
el menú de la página de la RAE; míralo en una desktop y luego en un móvil o si lo ves en una desktop o notebook, restaura la ventana del navegador y hazla pequeña para que veas la forma que adopta el menú.
Es una buena opción que creo que puedes considerar.
Saludos