Si tu ne veux pas te fatiguer, la solution la plus simple est d'utiliser rsync et ses nombreux GUI. Elle permet de synchroniser rapidement un repertoire source avec un repertoire cible (disque amovible) ou reseau (autre machine) en ne transferant que les donnees qui ont ete modifiees.
La premiere fois c'est donc un peu long, mais les fois suivantes, ca devient tres cool a utiliser, surtout que tu peux utiliser les options backup et delete pour avoir une image conforme a tout moment MAIS en conservant les fichiers qui ont disparu d'une sauvegarde a l'autre...
Unison peut aussi s'averer plus facile a utiliser...
Ensuite, si tu veux t'amuser avec des images binaires, tu peux zieuter les commandes dd et fdisk. Mais a ce niveau la, l'erreur de manipulation ne pardonne pas.
Cote Linux, sauvegarde le /home (donnees des utilisateurs), le /root (administrateur), le /etc (configuration des principaux programmes - ca peut toujours servir et ca pese par bien lourd), et le /var (mais pour ce dernier, tout n'est pas utile)... En terme de donnees, normalement, c'est tout.