郡山市中央図書館は、市民会館（解体済）、公会堂、NHK放送会館などが集中した場所に位置し、すぐ北側には隣接して麓山公園が設置され、郡山の文化ゾーンの一角を占める土地に建築された。そのため、これら環境の中に同化していくような建築を主要なテーマとして建築されている。
郡山市には第二次世界大戦後、いち早く図書館が建設された。1958年、市の文教地区である公会堂に隣接して、鉄筋コンクリート造3階建て、延面積884㎡という当時としては堂々たる図書館が竣工した。この旧図書館が手狭となり、またその老朽化に伴い、市民からの新図書館建設の期待の高まりの中、1978年から新図書館の建設計画がスタートした。当初から市民参加の図書館建設懇話会が組織されるなど、広く市民層の意見を反映した計画が立案され、郡山市図書館（当初名）は地上3階、地下1階の鉄筋コンクリート造、延床面積5,888㎡の建物として、建設当時、東北一の規模と資料の構成、運営機能の面で地方の時代にふさわしい特色をもった近代図書館として1981年7月にオープンした。1階には1,300㎡に及ぶ10万冊開架コーナーが用意された。ここでは従来の日本分類法（Ｎ.Ｄ.Ｃ.）に代わって、テーマ別に書棚にカラーカードを貼って、即座に検索できる方法がとられている。
この建物ではアイレベルの1、2階部分を柱が林立するだけのガラス張りの開放的な空間とし、建物越しに向こうの風景が見られる工夫がなされている。メイン・アプローチのある街路側からは、建物背後の公園のモールを見透かすことができる。あるいは建物左手の公会堂からは、読書する人たちのシルエットの向こうに麓山公園の緑を眺めることができ、公園の中での読書をイメージすることができる。一方、1、2階の開放的な空間とは対照的に、3階は基本的に壁でとじられ、下階にある柱梁の架構の透明な大空間と強いコントラストを成し、空間に浮かぶ量塊のようになっていて、全体としては不思議な存在感が建物に与えられている。機能的な理由からか、1、2階と3階ではスパンが異なり、これを解決するために柱から斜めに方杖が出ており、この柱列の樹林に隣接公園とのつながりを感じさせられる。また、身障者のための配慮が随所に施されていて、2階には視聴覚ホール、スタジオ、語学演習室などが完備されている点は、その後の公共図書館のあり方に示唆を与えている。
2011年3月11日の東日本大震災、2021年2月13日の福島県沖地震と2度の震災に会い、耐震補強工事により鋼製耐震ブレースが外部に設置され、外部形象に変更が加わっているが、外部空間とのつながりは損なわれてはいない。（蔭山寿一）
