Pues lo más adecuado es usar una base de datos.
Puedes usar Sql Server Express que es gratuito.
Hay mucha información de eso en la web, aunque ahora será dificil encontrar ejemplos de eso ya que está de "moda" usar un ORM para acceso a datos.
Quizá este link te ayude, es algo antiguo, pero para tener una idea de como empezar puede servirte:
http://www.elguille.info/NET/ADONET/...sql_server.htm