정부수립과 동시에 조선해안경비대는 대한민국 해군으로 발족하여 해안경비와 해상수호의 임무를 완수하기 위한 체제정비를 단행하였다. 해안경비대가 해군으로 재출발한 법적 근거는 육군과 마찬가지로 국군조직법에 규정되어 있다.
해군의 개편은 1948년 11월 30일 공포된 법률 제9호(국군조직법)에 이어 12월 7일 대통령령 제37호(국방부 직제령)에 의거하여 해군 기구의 강화로 나타났다. 해군 총참모장은 국방부장관의 지시를 받아 해군의 용병작전인 해상작전을 통할하고, 예하부대․학교․함대를 지휘 감독하며 군무에 관하여 국방부장관을 보좌하는 것이 임무였다.
초대 해군총참모장으로는 해군 준장 손원일(孫元一) 제독이 임명되었다. 이와 더불어 해안경비대총사령부는 해군총사령부(海軍總司令部)로 개칭되었고, 다시 12월 15일 해군본부로 기구 개편을 단행하였다. 당시 해군본부의 편성은 다음과 같다.

해군본부 편성 (1948. 12 현재)
해군본부의 조직편성은 1948년 8월 31일 인사교육국 신편으로부터 시작되어 1949년 4월 1일 호군국(護軍局)과 헌병감실을 편성함으로써 완료되었다. 해군총참모장 밑에 참모부장을 두고 인사교육국, 작전국, 경리국, 함정국(艦政局), 호군국과 병기․의무․헌병․법무․감찰감실 등 5개 감실(監室)로 편성되었다. 그리고 해군본부 예하부대에 대한 편성은 해안경비대의 기구 및 편제를 그대로 계승하였다. 인사교육국은 해군의 군인과 군속의 보임, 상훈과 기타 인사 및 교육에 관한 사항을 담당하였고, 작전국은 해군의 작전 · 정보 · 통신 · 수로(水路) · 보도, 기타 해군 행정에 관한 사항을 분장하여 수행하였다. 경리국은 해군의 재정, 군수, 의류 및 의량(衣糧), 재산관리, 기타 경리에 관한 사항을, 함정국은 해군 소속의 함정, 선박과 항만시설에 관한 기획과 운영에 관한 사항을 분장하였다. 그리고 호군국에서는 해군 호국군에 관한 사항을 분장하였으며, 그밖에 감찰감실을 비롯한 5개 감실은 별도로 기능을 분장하여 운용하였다.
그 후 해군본부는 조직을 일부 신설하거나 개편하여 운용하였다. 총참모장 밑에 작전참모부장과 행정참모부장을 두고, 작전참모부장 밑에는 작전국, 함정국, 정보감실, 병기감실을 두었고, 행정참모부장 밑에는 인사국, 경리국, 호군국, 교육감실, 법무감실, 감찰감실, 헌병감실, 정훈감실, 시설감실, 의무감실, 총무실을 두었다. 결과적으로 한 명으로 된 참모부장을 2명의 참모부장으로 증원하고, 인사교육국은 인사국과 교육감실로 분리했으며, 정훈감실, 시설감실, 총무실, 통신감실을 신설하였다.