Komunalna milicija je prvi put uvedena pod imenom komunalne policije, na osnovu Zakona o komunalnoj policiji usvojenog sredinom 2009. godine; tada su tu službu mogli imati samo gradovi, organizovanu kao unutrašnju organizacionu jedinicu gradske uprave. Umesto tog zakona, početkom jula 2019. donet je ZKM, kojim je omogućeno da ovu službu, pored gradova, imaju i opštine — uz uslov da u njoj bude najmanje tri komunalna milicionara.
Dve ili više jedinica lokalne samouprave (JLS) mogu sporazumom obrazovati zajedničku službu komunalne milicije. Moguće je i da jedna ili više opština ustupi drugoj opštini ili gradu obavljanje poslova komunalne milicije na svojoj teritoriji (uz naknadu i sporazum).
Komunalna milicija se obrazuje da bi obavljala određene, za nju specifične poslove utvrđene zakonom — komunalno-milicijske poslove. Osnovni cilj (osnovna misija, „mandat“) jeste pružanje doprinosa obezbeđenju efikasnijeg i nesmetanog izvršavanja nadležnosti opština i gradova.