해방 직후 북한에는 치안유지를 자처하면서 자생적인 무장단체들이 조직되었다. 즉, 민족주의 계열의 ‘자위대’(自衛隊), 국내파 공산주의자들이 조직한 ‘치안대’(治安隊), 소련군 진주 후 각 도청 소재지 중심으로 결성 된 ‘적위대’(赤衛隊) 등 3계파의 무장 세력이 난립하면서 자파의 세력 확장과 주도권 쟁탈을 벌여나갔다. 각 지역의 무장력은 해당지역의 정치적 역학관계를 반영하고 있었다. 소련군은 북한에 진주하자마자 북한에 공산주의를 정착시키기 위해 강력한 무장력이 필요하다는 공산당의 기본 정책노선에 따라 무장조직에 착수하게 된다. 2년 6개월간의 짧은 기간에 소련의 지원과 지도로 대규모의 북한 정규군을 창설하였다. 소련군은 친소세력을 위주로 치안을 담당하면서 38도선 경비임무에도 큰 관심을 기울였으며, 북한 무장병력의 정비와 무기, 훈련 등을 지원하기 시작하였다.
소련군의 지지를 받고 있던 김일성 등의 빨치산파는 북한의 권력을 장악하면서 군대 장악에 집착하였다. 따라서 북한군은 정권과 국경을 유지한다는 임무외에 정권장악에서도 결정적 역할을 수행하였다. 북한의 군대는 김일성을 중심으로 하는 정치체계의 주요 기반이었으며 소비에트식 사회주의 국가로 변모하는데 중요한 역할을 하였다.
소련 군정이 체제를 갖추기 전까지는 조만식(曺晩植)을 비롯한 민족주의자들이 북한 지방에서 일본으로부터 주권을 되찾고, 사회 질서와 치안 확보를 위하여 자위대를 조직하였다. 또한 현준혁(玄俊赫)을 비롯한 국내 공산주의자들도 소련군에 호응하여 공산당의 조직 활동을 활발히 전개하면서 치안대를 조직하였다.
민족진영의 활동은 해방 초기부터 좌익계인 치안대 세력과 충돌하게 되었고 소련군정의 직접적인 방해 공작에 부딪치게 되었다. 무장단체들은 서로 대립하여 주도권 쟁탈을 야기하는 등 정국은 극도로 혼란해졌다.
소련 군정은 자생 무장단체의 활동을 억제하기 시작하였으며, 김일성(金日成)이 소련에서 각 도청 소재지마다 적위대를 편성하여 무장조직을 확대시키면서 소련군정을 대리하여 경찰의 역할을 수행하였다. 이들은 소련군 정치사령부의 지령에 따라 북한 전역에서 경찰관서를 접수하여 일본 경찰의 무기를 소지하고, 각 도․시․군․면․리에 인민위원회를 조직하면서 우익계의 활동에 압력을 가하여 짧은 기간 안에 북한 전역을 장악하였다. 적위대는 소련군 정치사령부의 지시아래 소련파 공산세력을 확대하자 모든 민족주의 우익세력은 약화되어갔다.
김일성 등 빨치산파는 소련군과 함께 평양에 등장하였다. 김일성은 국내 공산주의자들보다도 소련에 우호적이고 긍정적인 인물로 평가 받고 있었다. 그는 하바로프스크(Khabarovsk) 시절 제1극동전선군 사령관 메레츠코프(Meretskov, M.A.), 군사위원 스티코프(Shtykov, T.F.)와 자주 만났으며, 제25군사령관 치스챠코프(Ivan M. Chistiakov)나 집단군 레베제프(Nikolai. G. Lebedev)와도 친분관계를 맺고 있었다. 김일성은 소련공산당 중앙위원회 정치국 비서 쥬다노프와의 토론에서 “우리가 기대하는 것은 우리나라에 대한 소련의 정치적 지지이다. 소련이 앞으로 국제무대에서 우리를 적극적으로 지지해 주고 조선문제가 조선인민의 이익과 의사에 맞게 해결되도록 힘써 주기 바란다”고 하였다.
소련군사령부는 소련군이 점령한 38도선 이북지역에 새로운 당 중앙 지도기관과 정규군을 구성하여 한반도 공산주의 운동에 근거지로 삼았기 때문에, 여기서 김일성 등 빨치산파들이 ‘공산주의의 핵심’을 자처하며 급부상 하였다. 그들은 해방 직후 북한사회에 등장하였던 공산주의자들 가운데 가장 결속력과 응집력이 강한 단체이었다.
국내파 세력은 1945년 9월 28일 현준혁이 적위대원에게 암살되면서 급격히 약화되었다. 소련 정치사령부의 조종과 국내파 공산당 지도자 장시우(張時雨)의 사주를 받은 적위대원에 의해 피살된 것이었다. 당시 그는 공산당을 조직하는 한편 민족진영과 합작하여 조만식을 지도자로 추대하였고 자신은 배후로 물러나있는 편이었다. 이러한 점에서 김일성 일파가 입국하기 전에까지 그의 국내 지지기반은 비교적 큰 편이었다.
당시 현준혁의 정세인식은 다음의 성명에서 잘 나타나고 있다. 즉, 그는 “현재한국의 정치적 상황하에서는 아무런 지식과 능력이 없는 노동자나 빈농들이 정치적 주도권을 장악하는 프롤레타리아 혁명을 주창하는 것은 비현실적이므로 건국 초기 단계에 있어서는 민족문제 해결과 독립국가 건설에 유용한 식견과 경륜을 가진 인사들에 의하여 계급과 당파를 초월한 정치세력을 형성하여 독립국가 건설을 하는 것이 우선 과제이고 다음 단계에서 공산당이 주도권을 장악해야 한다”고 강조하고 있었다.
현준혁은 초당파적 연합전선을 형성하여 혼란된 북한정국을 바로 잡고 독립국가 건설을 추진해 나가야 한다는 것이었다. 그러나 소련군 정치사령부에서는 현준혁의 대중적인 인기가 소련 군정에 방해가 된다고 판단하여 그의 주변의 국내 공산주의 세력을 분열시키는 공작을 기도하였다. 즉, 그에게서 국내파 공산주의자들 중에서 지명도가 있는 김용범(金容範)․장시우(張時雨)․박정애(朴正愛)․최경덕(崔璟德)․이주연(李周淵)․장종식(張鍾植) 등을 분리시켜 김일성에게 연결시키고자 한 것이었다.
이리하여 김일성과 연결된 국내파들은 현준혁 살해를 모의하였고 당시 평안남도 사법국장 장시우 수하의 적위대원으로 하여금 그를 암살토록 한 것이다. 1945년 9월 28일 그는 조만식과 함께 소련 점령군 정치사령관인 로마넨코(Andrei A. Romanenko) 소장을 만나고 같은 차로 돌아오는 도중, 평양 시청앞 백주 대로상에서 적위대에 의해 저격당하여 조만식의 가슴에 안긴 채 목숨을 거두었다. 이로써 국내파 공산주의자들과 치안대는 김일성과 함께 입북한 소련파에 흡수되거나 약화되고 말았다.
한편 해방직후 북한에는 김두봉(金枓奉)을 비롯한 중국 조선의용군(朝鮮義勇軍) 출신들이 9월 중순경 입북(入北)하여 활동하고 있었다. 중국 연안(延安)에서 입북한 김두봉은 자기 수하의 조선의용군(중공군에 종군한 한인부대) 약 4,000명을 입북시키기 위해 신의주(新義州) 맞은편 안동(安東: 지금의 丹東)에 이들을 대기시켜 놓고 소련 군정 당국과 이들의 입국 교섭을 하였다. 이들 조선의용군은 당시 중공군 예하의 한인 공산주의자들이었으며 중국 내 한인 공산주의자들을 규합하여 조선독립동맹(朝鮮獨立同盟)이라는 정치결사대를 조직하고 모택동(毛澤東)의 비호를 받으면서 중국 연안에 그 거점을 마련하고 있었다.
이들은 군정학교를 설립하여 정치군사 간부를 양성하였으며, 간도(間島)와 남북 만주(滿洲) 일대에 공작원을 보내 모병과 아울러 지하조직에 착수하고 있었다. 일본이 패망하자 중국공산당은 이들을 정치적으로 이용하기 위해 이들과 협의하였고 결과적으로 김두봉(金枓奉), 최창익(崔昌益), 무정(武亭), 김창만(金昌滿), 윤공흠(尹公欽) 등이 입북하게 되었다. 여기에 더하여 중공 당국은 일본군과의 항일전투를 통해서 잘 알려진 한인 간부들을 기간으로 하는 조선의용군의 조직을 적극 지원하였다. 이것은 어디까지나 정치적 성격을 띤 무장 세력이었다.
이들은 소련군사령부의 보류로 입북하지 못하고 있었으나 여러 가지 정치적인 고려로 동년 11월 중순 소련군 제25군 참모장 밴꼬프스키 중장의 입국허가를 통해 입북하게 되었다. 그는 평안북도 위수사령관과 정치사령관 그라꼬프 대령에 게 “조선의용군을 입국시키되 신의주(新義州)에서 한 걸음도 더 남쪽으로 나가지 못하게 하고 도강 당일 무장해제 시켜라”고 지시를 하달하였다. 정치사령관 그라꼬프 대령은 공산당 평북도당 제1비서실에서 김일성 일파인 김일(金一), 이희준(李熙俊) 등과 더불어 조선의용군 무장해제에 관하여 논의하였다. 당시는 이미 국내파는 소련파에게 실권을 완전히 빼앗긴 뒤였고 소련파 김일성 일당이 실권을 장악하기 시작하였다.
이러한 분위기 속에서 입북한 조선의용군은 공산당 평북도당이 지정하는 신의주 중학교에 숙소를 정하고 각계각층의 환영도 받았으나 그날 밤 평안북도 보안부장 한웅이 지휘하는 보안대에 의해 기습적으로 무장해제를 당하고 다시 안동으로 축출되고 말았다.
이러한 일련의 과정은 소련이 김일성으로 하여금 북한을 장악하게 하여 그들의 목적을 실현하기 위해 사전 정치공작이 계획되어 있었음을 보여주는 것이었다. 이로써 김일성은 단시일 내에 국내파 연안파를 각기 흡수하여 소련파가 적위대의 무장조직으로 실권을 장악하기에 이르렀다.