Начало 1936 года "Адмирал Шеер" провел в немецких водах, а 6 июня отправился в первый заграничный поход — в гости к будущему противнику, обойдя Британские острова. Затем последовал визит в Швецию и возвращение на родину. Далее началась уже настоящая служба. В конце июля 1936 года в составе германской эскадры, включавшей и «Дойчланд», отправился в Испанию. После короткой стоянки в Малаге он оперировал в средиземноморских водах. 1 августа на обеих башнях главного калибра появились опознавательные знаки — черно-бело-красные полосы. Отбыв на родину в конце августа вместе с «Дойчландом», "Шеер" вновь вернулся с ним же в Испанию в октябре, но уже с новым командиром. Им с 22 сентября стал будущий вице-адмирал, а тогда капитан цур зее Отто Цилиакс.
В третьем походе в мае 1937 года на долю второго "карманного линкора" выпала малопочетная роль морского террориста. После воздушной атаки «Дойчланда» 29 мая он получил из Германии приказ бомбардировать Альмерию и уничтожить якобы находившийся там испанский республиканский линкор "Хайме I". Хотя Цилиакс знал, что устаревший линейный корабль в действительности базировался в Картахене (прикрытой весьма солидными береговыми батареями), он предпочел выполнить приказ, выпустив рано утром по беззащитному городу в течение 15 минут 91 снаряд главного калибра, 100 «промежуточных» 150-мм и 48 зенитных 88-мм снарядов.
Этот «подвиг» осудили все державы мира, и в результате Германия и Италия оказались в изоляции. Им пришлось вывести свои боевые суда из состава международных патрульных сил и окончательно покончить с политикой невмешательства. Тем не менее, "Адмирал Шеер" продолжал оставаться в испанских водах в течение всего июня, только 1 июля возвратившись в Вильгельмсхафен. А менее чем через месяц он опять прибыл в Испанию, совершив туда уже четвертый поход и надолго задержавшись в качестве флагманского корабля адмирала Карлса, которого затем сменил фон Фишель. 11 октября корабль вернулся в Вильгельмсхафен для планового ремонта. Командование отметило слишком быструю и большую ротацию личного состава и по завершении работ отправило «Шеера» на Балтийское море для тренировочных походов и упражнений, которые затянулись до февраля 1938 года. Теперь уже полностью боеготовый «броненосец» отправился в свой 6-й поход в Испанию. Поход оказался относительно коротким (чуть менее месяца), но по возвращении практически сразу же состоялся следующий, 7-й, уже последний. 29 июня «Шеер» наконец покинул испанские воды, совершив туда наибольшее число походов среди крупных германских кораблей.
По возвращении его ждали большие маневры флота, плавно перешедшие в индивидуальную программу упражнений и тренировки. О повышенном внимании командования Кригсмарине к боевой подготовке свидетельствует их продолжительность — с начал июля 1938 по февраль 1939 года. В марте под флагом своего первого командира, ставшего теперь командующим отрядом «броненосцев», контр-адмирала Маршаля, «Шеер» возглавил почетный эскорт, сопровождавший Гитлера, с большой помпой прибывшего в Мемель (Клайпеду) для празднования «воссоединения» с Рейхом. В следующем месяце состоялся двухнедельный поход в Атлантику (к побережью Португалии). А затем — вновь учения и ремонты. Все лето 1939 года в его моторных отсеках проводились работы; в частности, была осуществлена полная переборка его дизелей.
В результате в момент начала Второй мировой войны "Адмирал Шеер" являлся единственным "карманным линкором", находившимся в Германии и одним из трех больших боевых кораблей, готовых к действиям (двумя другими были быстроходные линкоры «Шарнхорст» и "Гнейзенау"). Все они находились в распоряжении командования группы «Запад», базируясь на Вильгельмсхафен и составляя ядро сил, предназначенных для парирования возможных действий англичан. Экипаж «Шеера» находился в хорошей форме, поэтому неудивительно, что 2 сентября последовал приказ находиться в получасовой готовности дать 10-узловый ход, что для дизельного судна не составляло больших трудностей. А в 13.25 на следующий день руководство флота официально объявило о начале военных действий против Британии.
Вопреки сложившемуся представления о "странной войне", англичане с самого начала предприняло довольно активные меры против германского флота, который в любых условиях — шаткого мира или вялой войны — оставался важным потенциальным противником, которого следовало уничтожить при первой же возможности. Поэтому британская авиация тут же совершила налет на то, что представлялось в этот момент главными силами ВМФ Германии — на корабли, сосредоточенные в Вильгельмсхафене.
"Шарнхорст" и «Гнейзенау», находившиеся на якорной стоянке в Брюнсбюттеле, подверглись атаке 14 «веллингтонов» 9-й и 149-й эскадрилий Королевских ВВС, тогда как трем эскадрильям «бленхеймов» (107-й, 110-й и 139-й) было приказано бомбардировать корабли, стоявшие непосредственно в Вильгельмсхафене, наиболее крупным из которых и был "Адмирал Шеер".
Стоявшая в этот осенний вечер дождливая погода скрыла первую тройку самолетов 107-й эскадрильи, летевших на малой высоте и принятых на "карманном линкоре" за свои «хейнкели». Англичане прошли необстрелянными над самой целью и без помех сбросили бомбы почти в идеальных условиях. Но полная неподготовленность к бомбометанию по малоразмерным целям с большой скорости и малой высоты не позволила им добиться ни одного попадания. Четвертый «Бленхейм» попал под сильный огонь и был сбит. Такая же участь постигла и следующий самолет. Еще 2 попытались выйти на цель на пределе дальности стрельбы автоматов, но пока они разбирались с курсом, 88-мм зенитки сбили ведущего, а ведомый предпочел скрыться в облаках. Атака последнего самолета эскадрильи оказалась крайне неприятной для «карманника». "Бленхейм" шел на малой высоте прямо с носа, в секторе, в котором большинство 37-мм автоматов не могли вести огонь. Но 20-миллиметровки взяли его под прицел; всего в 200 м от корабля снаряд попал в левый двигатель, и самолет загорелся. Однако из сброшенных с него бомб три весом по 227 кг поразили цель. На счастье немцев, из-за малой высоты их взрыватели не успели прийти в рабочее состояние и взрывов не последовало, однако «Шеер» все же несколько пострадал. Другие эскадрильи целей не нашли и вернулись восвояси. Атака стоила англичанам 4 сбитых самолетов, но разошедшиеся артиллеристы сбили "на всякий случай" один из своих истребителей, а позже, когда атака давно завершилась, еще и транспортный «Юнкерс-52», который забыл подать опознавательный, хотя этот трехмоторный самолет просто невозможно было спутать с каким либо «англичанином».
Повреждения «Шеера» ограничились до", поврежденными катапультой и одной из 88-мм установок. Его тут же поставили на временный ремонт, и спустя 20 дней он вышел в Киль, сменив своего командира (теперь им командовал капитан цур зее Кранке). Пребывание на Балтике не затянулось: 18 декабря "карманный линкор" (а точнее, по новой классификации уже тяжелый крейсер) вернулся в Вильгельмсхафен, на который как раз вновь налетела британская авиация, на этот раз без всякого результата. После еще одного непродолжительного похода в Балтийское море "Адмирал Шеер" надолго задержался в Вильгельмсхафене, где его поставили на окончательный ремонт повреждений и модернизацию. Несмотря на прошлогодний ремонт, дизели довольно часто отказывали, что в военное время являлось совершенно неприемлемым. К 1 февраля 1940 года с корабля сняли всю артиллерию, включая стволы орудий главного калибра, а команда почти в полном составе проследовала на плавучую казарму «Гравенштайн», оставив на разоруженном корабле лишь вахтенных и расчеты зенитных орудий.
Заметно изменилось вооружение: вместо 88-мм зенитных орудий на корабле появились 105-мм пушки SКС/33, исчезли 20-мм автоматы с платформ по бокам от трубы, а вместо них появились два четырехствольных «фирлинга» армейского образца (без стабилизации), один из которых разместился на крыше носовой башни, а второй — сразу за кормовой, за изломом полубака.
Модернизация «Шеера» формально завершилась весной 1940 года и не позволила ему участвовать в рейдерских действиях начала мировой войны и "Учениях на Везере". В конце апреля на корабль вновь установили артиллерию, но реально он вошел в состав флота еще 3 месяца спустя, после заводских испытаний, проведенных 20 июля на реке Яде. До этого, с февраля по июль, продолжались работы по укреплению фундаментов дизелей и переоборудованию моторных отделений. Инженеры полагали, что предпринятые меры смогут хотя бы отчасти устранить сильную вибрацию на больших ходах. В ходе работ сильно изменился и внешний облик корабля. Наиболее существенным стало исчезновение башенноподобной надстройки, большая высота и характерный вид которой позволяли обнаруживать два последних корабля серии на большой дистанции и довольно легко опознавать их. (Многие специалисты считали «башню» одной из причин раннего обнаружения и идентификации «Шпее» в бою с английскими крейсерами). Ее место заняла трубчатая мачта по типу «Дойчланда», однако с иным расположением мостиков и платформ, более многочисленных по сравнению с головным кораблем. С судна сняли часть не оправдавших себя в эксплуатации устройств — посадочный тент для приема гидросамолетов, который был сдан на берег, и успокоители качки, помещения которых приспособили в качестве дополнительных топливных цистерн и кладовок. Только в июле "карманный линкор" мог вновь считаться боеспособным.