元好问目睹亲历金朝的衰亡和蒙古灭金的全过程，又从政多年，强烈的忧国忧民的社会责任感，使他时刻关注着金国的命运和金国史迹的保存。当金如败亡前夕，他就向当政者建议用女真文小字写一部金史，但未能如愿，他就私下编撰了一部《壬辰杂编》。金灭亡后，他抱着“国亡史兴，己所当任”的爱国信念，决心以自己一人之力修一部金史，并为此付出了艰苦的努力和沉重的代价。他拒不应聘作蒙古国的官，以表明自己的遗民身份和对故国的忠忱。但为了写金史，又不得不与出仕蒙古国的中上层官员相周旋，以便取得他们的协助和必要的资料；也正因如此，而引起许多人对他的不谅解，“百谤百骂，嬉笑姗侮，上累祖弥，下辱子孙”。为了完成自己修金史的宏愿，元好问忍辱负重2O多年，直到去世，并为修金史，在自己家的院子里建了一座“野史亭”，作为存放有关资料和编辑写作的地方。多年的奔波，使他积累了金朝君臣遗言往行的资料上百万字，后称“金源君臣言行录”。他又抱着“以诗存史”的目的，编辑成了《中州集》。这是一部金代诗歌总集，里面不仅收录了他所知道的金期一代已故或未仕于蒙古国的诗人词客、包括金朝两位皇帝及诸大臣以至布衣百姓的诗词2116首（其中诗2001首，词115首），而且为每位作者共250余人写了小传，给中国文学史填补了空白。《金史·艺文传》就是以它为蓝本写成的，后来的《全金诗》自然也是在它的基础上增补而成的。同时，《中州集》也为金代历史提供了丰富的资料。可惜，正当他满怀信心地说只需破费三数月功夫，查阅抄录了《金实录》上的有关内容，即可着手《金史》的著述时，他的一个朋友却从中作梗，未能得在蒙古万户、汉军首领张柔处见到金实录，以致功亏一篑，使他抱恨以殁。元好问生前虽然未能实现自己修成金史的愿望，但他所收集的这些资料，却为元代修宋、辽、金史，以至明朝修元史，提供了大量的第一手资料，特别是为修金史奠定了基础。元好问尊重史实，不阿时俗，秉笔直书，所以后代学者一致认为，《金史》与元好问关系密切，《四库全书总目》称“多本其所著”。元好问这种国亡修史的作法，也为后人所仿效。如明朝遗老万斯同拒绝应清政府的博学宏词科的征召，也坚决不要清朝给的七品俸的纂修官官衔，却以“布衣”参与修《明史》。民国三年（1914年）创清史馆，也有不少清朝遗老为报故主来参与《清史稿》的编撰。