Lo que estás buscando es proceso de imagen. El proceso de imagen supone un campo muy extenso, y los procedimientos a utilizar dependen de lo que estés buscando.
Para proceso de imagen, puedes encontrar librerías (tanto gratuitas como de pago) en Internet, usualmente para C/C++ y/o FORTRAN.
También puedes encontrar toolboxes de proceso de imagen para MATLAB (pagando licencia, claro), SCILAB (similar a MATLAB pero gratis), y (supongo) para algún otro programa de ese estilo.
Si lo que buscas es trabajar en la línea del ejemplo que has puesto... Bueno, para empezar necesitarías conocimientos de Química, Biología, Geología, Física...
Visita esta web:
http://speclab.cr.usgs.gov/
así te harás una idea de por dónde van los tiros. Espero te sirva de ayuda.
Saludos,