Hola, no hace mucho que estoy trabajando con JMF, por lo que entiendo el error que te está marcando es que no encuentra el dispositivo de captura, en este caso la camara web, verifica con JMStudio si aparece en la lista de sipositivos de captura encontrados tu camara web.
El error también podría venir si tu S.O. es de 64 bits, el framework no lo soporta muy bien que digamos, hasta donde sé está diseñado para soportar 32 bits solamente.
Espero que esta información haya servido de algo, para programar lo que quieres puedes conultar el código que está en la página de Sun.
Saludos.