三代武清侯李铭诚的儿子。第四代武清侯李国瑞是他叔父，第五代武清候李存善是他的堂弟。

他父亲李国臣是崇祯的曾祖母孝定太后哥哥的孙子，第一代武清侯是李伟，李伟的女儿是明神宗万历皇帝的生母，明穆宗隆庆皇帝的贵妃。万历登基后封生母李氏为太后，封外祖父李伟为武清伯，后来晋封为侯。

传到崇祯时已经五代。

不过李存义的父亲李国臣曾经和兄弟李国瑞争过产。因为李国瑞继承了侯爵，成为第四代武清侯，李存义的父亲李国臣没有争过李国瑞。

争家产失败后，李国臣曾经一气之下，向当时正缺钱的崇祯告发，说自己父亲有遗产四十万两，其中有一半指明是给他的。现在他愿意把这一半捐献给朝廷。

此举无疑就是报复李国瑞，既然你不给我，那我直接给朝廷，谁也别想得。

当时崇祯正为军饷的事情焦头烂额。听说李国臣愿意捐献二十万两给朝廷，当然很高兴。马上给李国瑞下旨，结果李国瑞是个只进不出的主。

李国瑞是只铁公鸡。一毛不拔。

为了抵制皇帝的旨意，他不仅到处哭穷，还拆毁房屋，把家中的家具拿到京城大街上出售以示清贫。

这个举动让崇祯十分没有面子，便下旨削夺了李国瑞的侯爵，结果李国瑞在狱中惊惧而死，皇亲国戚们趁机造谣，说什么定皇太后己化身为九莲菩萨，对崇祯刻薄对待外戚的做法十分生气。诸位皇子将会夭折，第一个就是皇五子。

不久。皇五子朱慈焕果然死去，崇祯十分恐惧。立即封李国瑞七岁的儿子李存善为武清侯，并将李家己经交纳的钱物返还。

这件事情就如同一场闹剧。

最后皇帝丢了面子，李国瑞丢了命，但对李国臣来说，也没什么好结果。皇帝恼怒事情因他而起，侯府恨他向皇帝告状，结果李国臣以后便跟侯府断绝来往。