出身書香世家，自幼資質聰穎，五歲即入小學，導師張春霖贈與《芥子園畫譜》，成為接觸書畫領域的啟蒙。1921年就讀開封第二中學，得美術老師魏復乾在鉛筆、炭筆素描與速寫的指導，接觸西方技法與理論。1925年考進北京大學中文系，在胡適、錢穆、錢玄同、顧頡剛等帶領下，積累國學深厚根基；隔年參加「造型美術研究會」，獲得胡佩衡賞識，親授中西繪畫理論和技法，奠定日後繪畫基礎。1928年參加「中日美術展覽會」。

1949年渡海來臺後，1955年與鄭曼青等友人合組「七友畫會」，開啟臺灣具有組織性、切磋性等藝文雅集的風氣，對提升當時臺灣藝術環境的推動與人文素養，產生正面影響。

劉氏以「詩中有畫，畫中有詩，詩以書法傳」之詩書畫三絕享譽藝壇。繪畫以山水為主，兼及四君子與少數人物畫，且受清初四僧、宋元文人書畫影響，尤其鍾愛石濤和八大山人，作畫表現多用墨筆造形畫山水，筆墨清逸、講究意境涵養，一派文人風骨；書法以兩漢、魏碑為基礎，出入晉唐，後期得于右任啟導，由帖學基礎轉為標準草書，流露出清潤雅逸特質；題畫詩多出自於個人心境而書，以畫寄情，將詩境與書藝融於畫中，展現個人思想與人格，洋溢在字裡行間，與張大千、鄭曼青並稱「畫壇三髯」。