조선 건국 후 국가최고회의기관인 도평의사사(都評議使司)의 권한이 너무 강대하므로 태조는 도평의사사의 병권(兵權)을 분리하여 삼군부를 설치하고 태조가 가장 신임하는 정도전(鄭道傳)을 판삼군부사(判三軍府事)에 임명하여 병권을 맡기고 한양 천도 후 경복궁을 창건하고 광화문 앞 동쪽 첫머리에 문직 최고기관인 도평의사사를 짓고, 서쪽 첫머리에 삼군부를 지었다. 태종 대에 도평의사사를 의정부(議政府)로 개칭하고 삼군부를 폐지하자, 도평의사사 건물을 의정부가 그대로 사용하고, 삼군부의 건물을 예조가 사용했다.
흥선헌의대원왕(興宣獻懿大院王)은 1864년 2월 비변사(備邊司)의 권한을 줄이기 위하여 비변사를 의정부(議政府)와 비변사로 나누어 비변사는 국방과 치안만 관장하게 하였고 1865년 3월 비변사(備邊司)를 폐지하고 이것을 의정부(議政府)에 합하였다가 1865년 5월 다시 군(軍) · 정(政)을 분리하여 삼군부(三軍府)를 설치하였다. 삼군부(三軍府)를 복설(復設)하자 국초(國初)와 같이 예조 청사를 삼군부 청사로 삼고, 예조는 광화문 앞 동쪽 이조와 호조 중간에 있던 한성부(漢城府)로 옮기고 한성부는 훈국신영(訓局新營)으로 옮겼다.
삼군부의 직제는 영삼군부사(領三軍府事) · 판삼군부사(判三軍府事)로 조직하고 삼군(三軍) 시원임장신(時原任將臣) 중에서 대광보국숭록대부(大匡補國崇祿大夫), 의정(議政)에 한하여 수여하는 관계(官階)는 영삼군부사(領三軍府事), 상보국(上輔國) 또는 보국숭록대부(輔國崇祿大夫)는 판삼사사(判三司事), 숭록대부와 숭정대부(崇政大夫)는 행지삼군부사(行知三軍府事), 정헌대부(正憲大夫)와 자헌대부(資憲大夫)는 지삼군부사(知三軍府事)에 임명하여 의정부(議政府)와 동등한 정1품 아문으로 삼고 군사와 치안을 관장했다.
| 
군사와 치안을 관장한 삼군부
