李嗣源称帝后，提拔他为陕州保义军节度使。
李从珂叛乱时，康思立手下只有五百士兵，却仍要据城坚守，无奈士兵们纷纷出城投降，康思立无力阻止，于是不得不开城投降。恰恰是因他“初无降意”，受到了李从珂的冷落，给他贬官罢职，最终丢进禁军序列，光荣“内退”。
直到张敬达失利，被反包围在晋安寨，李从珂手下实在无将可遣，这才不得不启用了一批像康思立这样的老将。
康思立虽然遭李从珂的猜忌和压迫，却仍然怀有一颗忠君报国之心，以63岁高龄率领骑兵部队北上支援，在听到杨光远杀害张敬达投降契丹的消息后，忧愤成疾，旧病复发，病逝于军中。
晋安寨陷落之后，李从珂失去了反抗的力量和谈判的筹码，等待他的将是无情的鞭挞。