Com um software de e-mail como o Windows Live Mail você pode baixar suas mensagens e guardá-las em sua máquina
Concordo plenamente com o Vitor D.
Eu acho mais interessante usar IMAP ao invés de POP. Com IMAP eu posso selecionar quais marcadores do Gmail eu quero baixar, ao invés de baixar todas as milhões de mensagens que muitas vezes não precisam de cópia de segurança. Eu separo as mensagens em marcadores no Gmail segundo minha necessidade e faço cópia apenas dos marcadores importantes. Normalmente os gerenciadores de email têm suporte para IMAP também. Eu uso o ThunderBird.