歸元寺的主體建筑并不呈中軸對稱結(jié)構(gòu)，而是分為內(nèi)外二個院落，整個平面布局呈“袈裟”形狀，外院主要由門樓、庭院、池塘組成;內(nèi)院由北院藏經(jīng)閣、中院大雄寶殿及南院羅漢堂三個主體建筑，以及天王殿、地藏王殿等組成。

  正院前有放生池，左右兩側(cè)聳立鐘鼓二樓，正中為韋馱殿，匾額上書“歸元古剎”四個金字，系民國總統(tǒng)黎元洪所題。

  大雄寶殿是歸元寺的主體建筑，大殿正中供奉著釋迦牟尼坐像，兩側(cè)為其弟子阿難和迦葉像。大雄寶殿南北兩廂為客堂和齋堂，其后為禪堂。

  歸元寺南院中羅漢堂始建于清朝道光年間，咸豐二年（1852年），毀于兵燹，1902年完成重建，至今有近二百年歷史。羅漢堂布局成“田”字型格局，供奉有500尊以脫塑工藝制作的羅漢塑像，形態(tài)各異，栩栩如生。為全國保存最好的五百羅漢。

  藏經(jīng)閣是歸元寺北院的主體建筑，是收藏佛教經(jīng)典和藝術(shù)珍品的地方。始建于清康熙八年（1669年），后遭戰(zhàn)火所毀。現(xiàn)存的藏經(jīng)閣復(fù)建于1920年，高約25米，共兩層五間，為磚木結(jié)構(gòu)的樓式建筑。

  廣場上矗立著觀音菩薩像，雕像為雙面造型，黃銅鑄造，周圍是漢白玉欄桿，像高18.8米，立于一個3米高的蓮臺之上，重達(dá)20噸，雙面觀音為二臂正觀音基本形，也稱為圣觀音像。

  圓通閣高51米，總建筑面積4840平方米，為三層方形，石構(gòu)基座、主體為全木結(jié)構(gòu)的仿明清風(fēng)格建筑。圓通閣由基座、樓閣和周圍環(huán)廊、門廡、角亭組成，設(shè)計構(gòu)思取材于佛教傳統(tǒng)的金剛寶座塔。它以其氣勢宏偉、工藝復(fù)雜、仿古程度高在我國寺廟建筑史上創(chuàng)下多個第一。