山西汾阳人。1920年赴日本留学,1922年考入东京美术学校(现东京艺术大学)西洋画科,受业于日本著名油画家藤岛武二,1928年回国。受蔡元培先生之聘任北平大学造型艺术研究会导师,后来该会改为西画系,卫天霖也升为主任。40年代曾在国立北平艺专,华北大学文艺学院和北平私立女子西洋画学校任教。1949年以后先后任北师大教授、北京艺术师范学院副院长、北京艺术学院副院长、北京中央工艺美院教授。中国美术家协会会员。1980年在中国美术馆举办「卫天霖油画回顾展」,1998年在北京国际艺苑美术馆举办「卫天霖诞辰100周年画展」。