抓大放小。总之，后晋建立，李从义就改名为“郭从义”，帮他的亡父改名为“郭绍古”，以示与沙陀李氏宗族撇清关系。
即便如此，郭从义在后晋仍然不受待见，受到排挤，先是被贬出朝廷，外放为宿州团练副使，不久之后解职回老家丁母忧，丁忧期满，不见朝廷召还，他的丧葬假是终身长假。他被后晋抛弃了。
塞翁失马焉知非福。他是沙陀人，他的老家在河东太原府，当时坐镇河东的，是刘知远。刘知远久闻其名，于是将他纳入麾下，任命他为马步军都虞候。当契丹灭晋时，郭从义第一个表态，表示坚决拥护刘知远称帝，成为刘知远的重要心腹。
刘知远称帝后，立即提拔郭从义为郑州防御使。讨杜重威有功，成为镇宁军节度使；讨赵思绾（三镇连叛）有功，提拔为长安永兴军节度使、加同平章事。
在后周时，郭从义的超高情商和敏锐的政治头脑再次为他赢得了命运的垂青，当时柴荣新即位，缺乏嫡系力量的支持，而郭从义在这时候主动离镇入朝，向新主子表忠心，当听说柴荣打算御驾亲征北汉时，郭从义立刻表示愿意随驾扈从，结果“世宗甚悦”，当即改命为郓州天平军节度使，奉命与符彦卿在山东一带阻击契丹，事后论功行赏，加兼中书令。
“三征淮南”时，移镇徐州；柴宗训即位后，加开府仪同三司。
宋初，加守中书令，赵匡胤亲征扬州李重进时，郭从义又匍匐恭迎在路边，主动请求随驾扈从，赵匡胤优诏不允。后移镇河中。
开宝元年（968）因病到京师疗养，正好赶上第二年的饭局。
在开宝二年“杯酒释兵权”2.0上，郭从义也紧随武行德之后，面红耳赤地诉说自己的革命家史，妄图最后一搏，抓住功名不放。
