1948년 8월 15일 대한민국 정부가 수립되고 헌법 제75조에 근거를 둔 정부조직법이 공포되자 이에 따라 국무원과 행정부가 조직되었다. 국방부는 정부조직법 제14조에 의하여 설치되었는데, 국방부장관의 직무는 육 · 해 · 공군의 군정을 장리(掌理)하는 것이었다. 정부조직법에 의해 국방부의 설치에 관한 법적 근거가 마련되었고, 이어 11월 30일 국회에서 국군조직법이 법률 제9호로 통과되어 국방조직이 보다 구체적으로 편성되었다.
제1대 국방부장관이범석 (1900-1972)
1948년 11월 30일 법률 제9호로 공포된 국군조직법은 전문 24조로 되어 있었다. 국군조직법 은 제1장 총칙, 제2장 국방부, 제3장 육군, 제4장 해군, 제5장 군인의 신분, 제6장 기타, 그리고 제7장 부칙으로 이루어졌다.
국군조직법에 의하면, 국방기구와 조직상으로는 대통령이 국군의 최고통수권자가 되며, 대한민국 헌법과 법률에 의하여 국군통수상 필요한 명령을 발할 권한을 보유하고 있다. 대통령은 통수권자로서 법률에 규정한 통수범위내에서 최고국방위원회(最高國防委員會)와 그 소속 중앙정보국(中央情報局), 국방자원관리위원회(國防資源管理委員會), 그리고 군사참의원(軍事參議院)을 설치할 수 있었다. 국군조직법에는 국방부와 육군본부․해군본부의 편성 및 임무에 대해 규정하고 있다. 국방부에는 국방장관, 국방차관, 국군참모총장 및 참모차장을 두도록 규정하고 있다. 그리고 국군참모총장과 참모차장 밑에 육군본부와 해군본부를 두어 통할하도록 하였다.

이범석 장관과 육군 수뇌들이 초도 순시를 위해 용산역으로 향하는 모습
국방부장관은 군정을 장리하는 외에 군령에 관하여 대통령이 부여하는 직무를 수행하고, 국방부차관은 국방부장관을 보좌하고 국방부장관이 사고가 있을 때에는 그 직무를 대리하도록 하였다. 정부수립 이후 초대 국방부 장관에는 국무총리를 겸직한 광복군 출신의 이범석(李範奭) 장군이 임명되었고, 국방부 차관에는 중국 공군 출신으로 광복군에서 활동한 최용덕(崔用德) 장군이 임명되었다.
국군참모총장과 참모차장은 국군 현역장교 중에서 국무회의 의결을 거쳐서 대통령이 임면(任免)하였다. 국군참모총장은 국군의 현역 최고 장교로서 대통령 또는 국방부장관의 지시를 받아 국방 및 용병 등에 관하여 육․해군을 지휘통할(指揮統轄)하였다. 국군참모차장은 국군참모총장을 보좌하며 참모총장이 사고가 있을 때에는 그 직무를 대리하였다.184) 정부수립 이후 국군참모총장 후보로 채병덕 · 이응준 · 김석원 장군 등이 거론되었으나, 채병덕 장군으로 낙착됨에 따라 육군총참모장에는 이응준 장군이 임명되었다. 해군총참모장에는 손원일 제독이 임명되었다. 다음은 정부수립 이후 대한민국 국방기구의 편성을 나타내고 있다.

대한민국 국방기구 편성 (1948. 11. 30 현재)
국방기구의 편성에 이어서 1948년 12월 7일 국방부직제령(國防部職制令)이 대통령령 제37호로 공포되어 국방부 본부와 육군본부 및 해군본부의 편제를 규정하였다. 국방부직제령에 의하면, 국방부 본부에 비서실, 제1국(군무국), 제2국(정훈국), 제3국(관리국), 제4국(정보국), 그리고 별도로 항공국을 두었다.
특히 적극적인 대북 첩보활동과 탐색공작을 위해 설치된 특수정보국인 제4국의 설치는 이범석 국방부장관의 강력한 의지로 실현을 보게 되었다. 그밖에 국방부는 육군․해군의 작전용병과 훈련에 관한 중요한 사항을 심의하기 위한 연합참모회의를 설치하였다. 연합참모회의에는 국군참모총장이 의장이 되고, 참석대상은 국군참모차장, 육군․해군 총참모장과 참모부장, 국방부 제1국장 · 제2국장 · 항공국장, 그리고 국방부장관이 지정하는 육 · 해군 장교가 참석대상이었다. 그러나 국방부의 기구편성은 1949년 5월 9일 기구간소화 작업으로 국군참모총장제와 연합참모회의가 폐지됨으로써 국방부 장관으로부터 육․해군 총참모장으로 직접 연결되는 군령체제로 바뀌게 되었다.
한편 1948년 12월 10일 정부는 이응준 · 채병덕 · 송호성 육군 대령과 손원일 해군 대령을 준장으로 진급시켰다. 곧 이어 정부 수립 이후 뒤늦게 귀국한 김홍일도 특별임관 형식을 거쳐 곧바로 준장으로 임관시켰다. 그리고 이들 5명의 준장(准將) 진급자에 대한 승진식이 1948년 12월 22일 중앙청 광장에서 이승만 대통령의 주관하에 실시되었다. 또한 1949년 2월 24일에는 송호성 준장을 제외한 이응준 · 채병덕 · 김홍일․손원일 준장 등 4명의 장성(將星)이 소장으로 진급하였다. 이때 육군에서는 정일권․이형근․원용덕 대령이 준장으로 진급하였다. 정부 수립 이후 초대 공군 총참모장으로 임명된 김정렬 대령은 전쟁 불과 1개월을 앞둔 1950년 5월 준장으로 진급하여 전쟁을 맞이하게 되었다. 따라서 전쟁 직전 해병대사령관 신현준 대령을 제외한 육 · 해 · 공군 총참모장은 모두 장성급으로 보직되었다.