Hola:
Ya has hecho todo el razonamiento... y ya has llegado a tu solución. Sólo te faltó ponerla en variables.
$inicio_del_limit = ($pagina_actual - 1 ) * $registros_por_pagina;
Así en la página 1 tendrás como resultado de la operación CERO, en la página dos tendrás VEINTE, en la tres tendrás CUARENTA.... etc... que es lo que quieres.
Es así como lo hago en Paginator.
Un saludo
