Низовые казаки, вытесненные из Азова и Таврии, тоже укреплялись на занятых ими землях и, чтобы обеспечить свое существование — вели войну против Крымского ханства и Турции, гарнизонами которой был занят Азов, откуда велось военное руководство и организация походов против московских владений и казачьих городков; опасным соседом для казаков были и части Малой ногайской орды, кочевавшие в. пределах Северного Кавказа, между Азовским и Каспийскими морями.
В первой половине XVI века «верховые» и «низовые» казаки не были объединены под властью одного атамана и имели каждая своего. Препятствием, объединению в то время были их ближайшие цели по укреплению своих земель, требовавшие усилий в разных направлениях. Военные усилия «верховых» казаков направлялись в сторону Низовьев Волги, против Астрахани и Большой ногайской орды; «низовое» — главные усилия направляло в сторону Азова и Крыма, где находилась для них главная угроза, и, кроме того, казаки не покидали надежды занять покинутый ими свой прежний культурный центр — Азов, превращенный теперь в турецкую крепость.
Связь казаков с Москвой не прерывалась. Они в церковном отношении подчинялись епископу Сарско–Подонскому, перенесшему свою кафедру в Москву, откуда они получали все церковные книги и где назначалось для их церквей духовенство. Москва, с своей стороны, нуждалась в помощи казаков и поддерживала с ними сношения. Кроме того, Москву связывали с казачьими поселениями общие цели — борьба с азиатскими ордами и защита от их нападений. Задачей казаков было защитить и отстоять занимаемые ими земли от нападений окружающих их орд, задача Москвы состояла в том, чтобы обеспечить границы своих владений от тех же азиатских орд. Казаки нуждались в материальной помощи Москвы, Москва — в военной помощи казаков. Эта общие цели служили той связью, которая ни при каких обстоятельствах между Москвой и донскими казаками не прерывалась. Общая цель, борьба с азиатскими ордами, велась различно. Казаки вели активную борьбу против: Крыма и Астрахани, все время нападая на противника, — Москва. вела против них войну оборонительного характера. Исключение составила только Казань. Безопасности границ Москва старалась достигнуть путем мирных переговоров. Выходя на путь самостоятельного государства, Москва устанавливала дипломатические связи с соседями, в том числе с Турцией и Крымом, хотя эти переговоры сводились в большинстве случаев к тому, какую денежную сумму Москва должна была уплачивать ежегодно Крыму, чтобы ее орды не нападали на московские владения. Нападения казаков сдерживали крымские орды от походов на московские земли, но вызывали страх и недовольство Москвы, что часто приводило к размолвкам с Доном.
Тем временем Москва обстраивалась. «Пушечная изба» развертывалась и превращена была в «Литейный Двор». Расширен был и «Зеленый» погреб. Выделка огнестрельного оружия продолжалась русскими мастерами, в числе которых сохранились имена: Яков и его ученики Ваня и Васюк, а также другие. Развивалась выделка ручного огнестрельного оружия. Вокруг Москвы, вместо устаревших стен, были построены новые с бойницами и рвом, наполнявшимся водой.
С началом выделки ручного огнестрельного оружия, или «пищалей», начали формироваться специальные войска «пищальников», на вооружении которых, кроме холодного оружия, были «пищали». Под названием «пищальников» зарождались пехотные и конные войска, вооруженные ручным огнестрельным оружием. Формирование этих войск производилось не из «посошного», а вольного, городского люда, т.е. по определению историков, «безземельной и бездомной голытьбы», наполнявшей города русских княжеств, нахлынувшего из пределов Золотой Орды казачьего населения. Служба «пищальников» была наследственной и пожизненной. Части пищальников делились на статьи или сотни, во главе которых ставились сотники, и высшими начальниками назначались «Головы». Части пищальников получали участки земли, на которых селились семьями и составляли обыкновенно вблизи городов «стрелецкие слободы». Кроме земельных участков, служивших им вознаграждением за службу, пищальники получали жалованье — 4 рубля в год, и имели право льготной торговли и кустарного ремесла. Пищальники составляли части, называвшиеся «казенными» и «городскими». Казенные содержались на средства Казны, а городские — на средства городов. По назначению пищальники распределялись различно: часть их составляла охрану царя и расселялась в предместьях Москвы, остальные части расселялись по городам, на содержании которых они состояли. Они получали от городов земельные наделы, селились «слободами» в пригородах, и население города, с расчетом 3 - 5 дворов, должно было содержать одного пищальника.
Одежда пищальника была однообразна и состояла из однорядки или «серьмяги»; каждый имел по ручной пищали, запас пороха, свинца и необходимое продовольствие. Части пищальников быстро увеличивались и количество их в царствование Василия III для больших городов, как Москва, Новгород и Псков, исчислялось уже тысячами. Зарождение постоянных войск, вооруженных ручным огнестрельным оружием, составило один из важных этапов в развитии вооруженных сил Московского государства, и в этом отношении Русь ставилась на уровень других западноевропейских стран.
В царствование Василия III во внешней политике произошли сильные изменения. Турция не оставляла претензий на покровительство всех мусульманских народов и вмешивалась в отношения Москвы с Казанью и Астраханью, в результате чего Москве не удалось сохранить союзные отношения с Крымом. Польско–литовские короли также все время склоняли Турцию к войне с Москвой. Крымский хан Менгли-Гирей перешел на сторону Литвы и с тех пор стал угрожать московским границам. Борьба с Крымом и стоящей за ней Турцией велась за Казанское ханство. Казанский хан, ставленник Москвы, был изгнан и на его место был поставлен сторонник Крыма. Царь Василий III в 1506 году предпринял поход под Казань, но войска его потерпели поражение. Московские владения стали подвергаться постоянной угрозе нападений со стороны Казани.
В Литве создавались политические условия, требовавшие вмешательства Москвы. Влияние Польши и католичества ставили русский народ, входивший в состав польско–литовских владений, в условия, при которых он должен был принимать христианство католического обряда, и связанное с ним новое крещение, так как за церковью восточного обряда католиками никакой божественной благодати не признавалось и христианство восточного обряда считалось почти язычеством. Вся родовитая знать, принадлежавшая к церковному исповеданию восточного обряда, лишалась гражданских прав и права государственной службы. Требовалась помощь Москвы, что и послужило причиной длительных войн между Москвой и литовско–польскими княжествами.
В назревавших военных конфликтах с западными соседями московское правительство состояло в дружественных отношениях с германским императором Максимилианом, который не только был враждебен польскому королю Сигизмунду, но даже, по сведениям польских историков, предлагал московскому царю произвести «раздел» Польши. В 1514 году между Москвой и Польшей началась война. Московские войска подошли к Смоленску и осадили его. Штурмом взять город не могли, но после месячной осады Смоленск был взят, и войска двинулись дальше на запад, к Орше. По сведениям летописцев, в составе московских войск было 80000 человек. Подойдя к Орше, они были встречены литовскими войсками численностью в 35000 человек. Благодаря неспособности русских воевод Челяднина и Голицына они оказались не в состоянии противодействовать маневрам литовской конницы, переправившейся вплавь через Днепр и атаковавшей русские войска. Несмотря на противодействия конницы московских войск, литовскими войсками было нанесено решительное поражение московским войскам, и последние должны были с большими потерями отступить. В результате продолжавшейся еще несколько лет войны, после заключенного перемирия, Смоленск все же остался за Москвой. Занятие Смоленска было важным политическим событием для Москвы, так как крепость Смоленск находилась на прямом пути, ведущим из Литвы к Москве, и владение им создавало прочную пограничную базу, прикрывавшую путь на Москву.
Новгород и Псков входили в состав московского княжества и в них находились сильные гарнизоны, в составе которых находились по 1000 пищальников, состоявших на содержании городов.
Несмотря на установившуюся посольскую связь между Москвой, Турцией и Крымом, в 1516 году крымский хан с 20 000 войск подошел к границам московских владений и осадил Тулу. Против него были высланы войска под начальством «детей боярских», но одновременно пешие и конные части вышли в тылы татар и «засекли им дороги» и «многих татар побиша». Вскоре подошли войска больших воевод и «начаша татар топтати и по дорогам их и по бродам бити, и иных многих живых изимаша».