getcolors() es una función que regresa una lista de tuplas (sin ordenar), con la siguiente información: (numero_de_pixeles_con_ese_color, color_en_formato_RGB), por default tiene 256 colores maximos que puede tener, si hay mas tienes que especificarlo.
Si necesitas las 5 mas usadas, entonces necesitas ordenar la lista y obtener los primeros 5. Pero se me hace una operación muy pesada, sin mencionar que el uso de memoria se dispara.
Te recomendaría, checar este
post y
este otro.
Como veras no es una tarea sencilla o simple.