它應該是五年級的台北人最有回憶的一間圖書館，在70年代聯考季前夕，每天早上八點不到，長長的人龍就在門口排隊準備進入館內自習。有趣的是，男女的自習區是分開的，男的一層、女的一層，三十幾年過去了，這項全國唯一的「男女分層自修」仍是行天宮圖書館最大的特色。男女同學相約去圖書館，終需要在樓梯間「分別」，在當年沒有行動電話的年代，只能約定幾點幾分時，利用出來上洗手間的片刻，見面「分享讀書心得」。在館方的一份資料說明寫著:「男女分座為特色，管理妥善，是學子、家長放心好去處」。
行天宮圖書館館史註記:「玄空師父之子黃忠臣先生於高中時代，常去王氏圖書館看書，有感於圖書資料的不足及讀書空間的缺乏，對當時的學子是無比的奢求，因此向玄空師父建議，三宮業已建成，除了社會慈善之外，是否可以考慮興建圖書館，為有心向上的學生提供一處清幽的環境讀書。並於民國五十八年成立「圖書館籌建委員會」，開始規劃圖書館的興建。民國五十九年玄空師父歸真，這一項志業持續推動。民國六十七年元旦落成開放，四樓加地下室，使用坪數1500坪，閱覽座位1071席，全部冷氣開放，在那個年代，算是全台北市最舒適的圖書館。由於管理良好，分別設男女生閱覽室，至今仍為使用過的各界人士所懷念。圖書館以服務學生、上班族和社區民眾為主，讀者群相當年輕，因此除了藏書二十二萬冊之外，也辦了許多推廣活動，讀書會、電影欣賞、系列講座、社教成果展、圖書館出走…等活動，並塑造以讀者為尊的服務氣氛，以推展終身教育，建立學習社會。」
行天宮圖書館目前有總館(敦化北路巷內)、中山區、北投區設有三處分館。行天宮圖書館總館地下一樓是兒童圖書區、閱覽室和藏書豐富的漫畫小站; 一樓是期刊室和閱覽室，二樓是男生自修室、參考室，三樓是女生自修室、多媒體中心;四樓則有提供社會大學的社教教室與行天宮的文物區，詳盡介紹行天宮的建設人玄空師父的理念，與紀念性文物、獎狀、獎牌、圖書館沿革等。
總館的室內燈光與書架桌椅，都以溫暖不刺眼的黃色、原本色以主，靠窗的書架上也擺設有希臘神祇的雕像。另外，在一樓期刊設有新聞、影片播放區，不過，中午十二點的新聞播放，只有台視、中視、華視、民視、公視五台可選擇。在圖書館內播放新聞，也應該是全國唯一。
最後，與時俱進的館方也在門口貼出告示:「為維護每個人的權益與安全，切勿在館內玩精靈寶可夢ＧＯ遊戲」。
