Деятельность первых охранных отделений оказалась, по мнению властей, успешной. В связи с разраставшимся революционным движением и слабостью губернских жандармских управлений власти всё больше задумываются над тем, как усовершенствовать политический сыск, сделать его более организованным и гибким. В городах, где всё чаще происходили выступления рабочих и учащейся молодёжи, по инициативе Департамента полиции стали создаваться розыскные пункты (отделения). С августа 1902 года они открываются в Вильно, Екатеринославе, Казани, Киеве, Одессе, Саратове, Тифлисе, Харькове, Перми, Симферополе (Таврическое), Нижнем Новгороде.
Эти учреждения должны были осуществлять политический розыск, вести наружное наблюдение и руководить секретной агентурой. В Положении о начальниках розыскных отделений, утверждённом 12 августа 1902 года министром внутренних дел В.К. Плеве, указывалось, что «на обязанности начальников отделений лежит приобретение секретных агентов, руководство их деятельностью, а также выбор и обучение наблюдательных агентов»[3]. В том же году циркулярно рассылается «Свод правил» для начальников охранных отделений, в котором говорится, что задачей этих отделений является розыск по политическим делам, осуществляемый через секретную агентуру и филерское наблюдение. В обязанности начальников отделений вошла и вербовка внутренней агентуры. Они должны были хорошо знать историю революционного движения, следить за революционной литературой, а также по возможности знакомить с ней своих секретных сотрудников, развивая в последних «сознательное отношение к делу службы»[4]. Начальники розыскных и охранных отделений подчинялись непосредственно Департаменту полиции, который давал общее направление их деятельности, распоряжался личным составом.
Создание сети новых охранных отделений произошло во многом в результате инициативы, проявленной начальником Московского охранного отделения, затем заведующим Особым отделом Департамента полиции С.В. Зубатовым. Однако отставка осенью 1903 года помешала ему реализовать свои планы в полном объёме.
По мере роста числа охранных отделений возникает и усиливается соперничество между губернскими жандармскими управлениями и охранными отделениями. В своих циркулярах Департамент неоднократно призывает их к «взаимопомощи», обмену сведениями. Во многом эти конфликтные ситуации возникали в связи с тем, что, хотя функции ГЖУ и охранных отделений были разделены, в действительности розыскная деятельность (за которую отвечали охранные отделения) и деятельность наблюдательная, а также проведение дознаний (которыми занимались ГЖУ) тесно переплетались. На практике отделить одно от другого порой было невозможно. Те руководители охранных отделений, которые проходили по штабу Корпуса жандармов, в строевом отношении были подчинены начальнику ГЖУ. Последний, как правило, был в чине полковника или генерал-майора. Но в отношении служебном ему приходилось порой подчиняться младшему по чину начальнику охранного отделения.
В 1906–1907 годах по инициативе директора Департамента М.И. Трусевича проводится работа по созданию новых охранных отделений, розыскных частей, расширяется вся сеть учреждений политического розыска. В декабре 1907 года насчитывалось уже 27 охранных отделений.
9 февраля 1907 года Столыпин утверждает «Положение об охранных отделениях»[5]. В Положение вошли и пункты, касающиеся взаимоотношений с ГЖУ, обмена информацией между охранными отделениями. Жандармские и политические органы, получая сведения, относящиеся к роду деятельности охранных отделений, должны были сообщать их охранному отделению для разработки, обысков, выемок и арестов, которые не могли производиться без ведома начальника охранного отделения. В свою очередь начальники охранных отделений должны были осведомлять ГЖУ об обстоятельствах, интересующих последних в процессе производимых ими дознаний.
В 1906–1907 годах возникают охранные пункты. Они организуются прежде всего в местах, отдалённых от центра, там, где в тот период наблюдался рост «боевых» настроений среди населения. Первые охранные пункты были учреждены в Хабаровске, Пензе, Гомеле, Владикавказе, Екатеринодаре, Житомире, Костроме, Полтаве, Курске и ряде других городов.
Одновременно с работой по созданию охранных пунктов по предложению всё того же Трусевича в системе политического сыска создаются совершенно новые учреждения — районные охранные отделения. 14 декабря 1906 года Столыпин утверждает специальное Положение о районных охранных отделениях. Создавались они в «целях успешной борьбы с революционным движением, выражающимся в целом ряде непрерывно продолжающихся террористических актов, аграрных беспорядков, усиленной пропаганды среди крестьян, в войсках и во флоте»[6]. Положением о районных охранных отделениях на них возлагалась задача объединения всех функционирующих в пределах района (охватывающего несколько губерний) органов политического розыска. Большое внимание придавалось принятию быстрых решений, слаженной совместной работе охранных отделений и жандармских управлений, «чтобы деятельность носила более живой и планомерный характер». В одной из записок, датированной 1913 годом, директор Департамента полиции назвал районные охранные отделения «филиальным отделением» своего Департамента. Примечательно, что районные отделения организовывались так, чтобы сфера их деятельности совпадала (или почти совпадала) с районами действия окружных партийных комитетов РСДРП и других революционных партий.
Начальники местных охранных отделений непосредственно подчинялись начальнику районного охранного отделения. Губернские и уездные ЖУ и ЖПУ ж.д. в вопросах розыска также должны были руководствоваться указаниями начальника районного охранного отделения.
К числу основных задач районных охранных отделений принадлежали организация внутренней агентуры для «разработки» всех местных партийных организаций и руководство деятельностью агентуры и розыска в границах района. С этой целью начальники районных охранных отделений имели право созывать совещания офицеров, непосредственно ведущих политический розыск. Они также должны были информировать высшие розыскные учреждения о положении дел в революционном движении района, помогать в деле политического розыска соответствующим учреждениям других районов. Офицеры районных охранных отделений могли пользоваться всеми следственными и агентурными материалами жандармских управлений и охранных отделений. В случае необходимости им должны были быть известны и секретные сотрудники — агенты, находящиеся в ведении того или иного офицера жандармского управления и охранного отделения.