Algoritmo de relleno de imagenes a C

[Anvil]

Prueba utilizando una librería para procesamiento de imágenes, como OpenCV. Si aún quieres hacerlo a manita, entonces tendrías que leer los pixeles de una imagen, después que los lees tendrías que pasarla a escala de grises, ya que está en escala de grises realizas la operación morfólogica que te interese.