生於四川，少年時就讀上海美術學校，1919年至日本留學，1921年轉赴法國留學，成為中國最早期的留法學生之一，之後留居巴黎。1925年起，其作品屢見於巴黎的沙龍美展及各大畫廊。二次大戰前曾回到中國，後轉至紐約生活兩年。1948年，紐約現代美術館替他舉辦個展。在其1966年於巴黎逝世後，台北國立歷史博物館曾分別於1978、1984、1990年共舉辦三次他的回顧展，2001年常玉百歲冥誕時，歷史博物館又展出常玉百歲紀念大展，2004年6月巴黎國立居美東方美術館舉辦常玉回顧展，展出60餘件作品。足見其作為海外華人藝術家在中國畫壇的重要性。主要收藏機構有：台北國立歷史博物館、中國美術館等。