胡佩衡幼喜绘事，早年得西陵山水画家李静斋指点，大量临摹明清绘画。20岁后开始与北京名画家如姜颖生、林琴南、金城、陈师曾、陈半丁、萧谦中、汤定之、贺履之相往来，并得到他们的指导。1918年，胡佩衡加入蔡元培创办的北京大学画法研究会，从比利时画家盖大士学西画，1919年被聘为北京大学画法研究会导师，并主编《绘学杂志》 。1920年北大画法研究会更名为“造型美术研究所”，年轻的胡佩衡被聘为导师。同一年，金城、周肇祥等在北京创办中国画学研究会，胡佩衡成为第一批研究员（学员），在金城等的指导下进一步学习传统绘画，两年后，相继升为该会助教、评议。