金铁霖老师一生结过三次婚。他的第一任妻子名叫马秋华，是他的大学同学，两人于1956年结婚。婚后，他们育有一子一女。然而，由于种种原因，这段婚姻在1980年宣告结束。

金铁霖的第二任妻子是李谷一，著名歌唱家。两人于1982年相识，并于次年结婚。这段婚姻持续了20多年，但最终在2005年以离婚收场。

金铁霖的第三任妻子名叫马秋华，是一位音乐系教授。两人于2007年结婚，至今感情稳定。