С 1937 г. – преподаватель Военной академии. Издал курс лекций «Пехота наступает». Книга привлекла внимание А. Гитлера. Одно время был руководителем военной подготовки гитлерюгенда. С 1938 г. – начальник военного училища в Винер-Нейштадте. Во время Судетского кризиса командовал батальоном сопровождения Гитлера (его личной охраной). Во время Польской кампании – комендант его полевой ставки.
В феврале 1940 г. Эрвин Роммель получает в командование 7-ю танковую дивизию. Во время Французской кампании на реке Маас разбил две дивизии противника – бронетанковую и пехотную, отбил контрудар англичан у Арраса. За кампанию его дивизия потеряла 2,5 тысячи человек, но при этом взяла около 100 тысяч пленных (в том числе 22 генерала и адмирала), захватила 458 танков и бронемашин, 341 орудие и 15 самолетов.
В событиях во Франции в мае – июне 1940 г. генерал Роммель показал себя блестящим танковым тактиком. Он рвался вперед на предельной скорости, шел на риск, умело использовал фактор внезапности и огневую поддержку. Для прорыва линии неприятельской обороны сосредоточивал танки на узком участке фронта. Эрвин Роммель в форме танкиста лично участвовал в боях.
Гитлер был доволен им. В феврале 1941 г. назначается командиром Африканского корпуса, отправляемого на выручку разбитой на южном побережье Средиземного моря итальянской армии. Не ожидая прибытия своей второй дивизии, он в условиях пустыни перешел в наступление, разбил английскую бронетанковую дивизию, взял город Бенгази и блокировал в Тобруке австралийскую пехотную дивизию. В середине июня Роммель нанес новое поражение англичанам, попытавшихся было перейти в контрнаступление.
В августе под командованием Роммеля формируется танковая группа «Африка», в которую вошли 4 немецкие и 7 итальянских дивизий, в том числе 2 танковые. При этом итальянцы, отличавшиеся низкой боеспособностью, на главных направлениях не использовались. Немцы и итальянцы испытывали острую нужду в горючем и провианте: авиация и флот союзников срывали поставки по Средиземному морю.
Англичане в ноябре 1941 г. решили взять реванш над Лисом пустыни (так прозвали Эрвина Роммеля к тому времени). Имея двухкратное превосходство танков, их 8-я армия атаковала его войска и вынудила снять блокаду с Тобрука и отойти от границы с Египтом в Киренаику. Однако британцы рано праздновали победу.
Роммель, как тактик танковой войны, умело подготовил ответный удар. В конце января 1942 г. он нанес англичанам сильное поражение, вновь взял город Бенгази и отбросил неприятеля к линии Газала. Однако отсутствие топлива и боеприпасов заставило немцев и их союзников прекратить успешно начатое наступление. В том же январе группа «Африка» переформировывается в танковую армию «Африка».
В мае Роммель вновь переходит в наступление, имея 333 немецких и 228 итальянских танков. Англичане, прикрывавшие направление на Египет, имели 900 танков и почти 5-кратное превосходство в авиации. На этот раз войска Роммеля прорвали линию Газала и едва не уничтожили английскую 8-ю армию. Был взят порт Тобрук, в котором наступающие взяли в плен около 32 тысяч человек. Эрвин Роммель, Лис пустыни, производится в генерал-фельдмаршалы.
Имея всего 44 исправных танка, генерал Роммель ворвался на территорию Египта, и у Эль-Аламейна (в 60 километрах от Александрии) натолкнулся на хорошо организованную оборону противника. Роммель сумел отразить атаку англичан, но она была прервана, когда в его войсках закончились боеприпасы. Он сделал еще одну попытку прорвать Эль-Аламейнскую позицию англичан, но безуспешно.
Роммелю пришлось по воздуху отбыть на лечение в Австрию. Когда в октябре британцы, имея подавляющий перевес в живой силе, танках, орудиях и в самолетах перешли в наступление, Эрвину Роммелю пришлось срочно возвращаться в Северную Африку. Атаки англичан были отбиты, но контрнаступление не удалось. Немцам и англичанам пришлось оставить Ливию и отступить в Тунис.
В ответ на просьбу Роммеля об эвакуации войск из Туниса Гитлер прислал ему 5-ю танковую армию генерала Ю. фон Арнима, которая вместе с 1-й немецко-итальянской армией составила группу армий «Африка».
Усилившись, генерал-фельдмаршал в конце февраля наносит поражение американцам на перевале Кассерин, но в бою при Меденине теряет 50 танков. С расстроенным здоровьем он покидает Африку. В Берлине его встретили наградой – Рыцарским крестом с дубовыми листьями, мечами и бриллиантами.
В июле 1943 г. Эрвин Роммель назначается командующим группой армий «Б» со штаб-квартирой в Мюнхене. В августе ее командование переводится в Северную Италию. В ноябре все войска в Италии передаются в состав группы армий «Ц». Роммель инспектирует войска в Северной Франции, Дании и Нидерландах: угроза десантирования союзников из Англии на материк стала вполне реальной.
Роммель добивается у Гитлера переброски из Италии командования его группы в Нидерланды. Ему подчиняются 7-я и 15-я армия. Лис пустыни смог предугадать место высадки неприятеля в Нормандии, укрепить там систему обороны. Когда он попытался создать маневренную танковую группу, то встретил противодействие генерал-фельдмаршала Г. фон Рундштедта. За два дня до начала высадки союзников Роммель уехал на лечение в Германию.
Генерал-фельдмаршалу пришлось срочно возвращаться в свой штаб. Его попытка танковой группой «Запад» восстановить линию фронта в Нормандии была сорвана авиацией противника. 15 июля Роммель, предвидя катастрофу в войне, направил Гитлеру послание, в котором в ультимативном тоне потребовал прекращения войны.
17 июля генерал-фельдмаршал был тяжело ранен осколком авиабомбы, и его эвакуировали в Германию. После провала покушения на Адольфа Гитлера гестапо получило сведения о причастности генерал-фельдмаршала к заговору.
14 октября к Роммелю прибыли два доверенных генерала от Гитлера и предложили ему выбор: самоубийство или народный трибунал. Он принял привезенный ему яд, скончавшись в военном госпитале. Официальной причиной смерти было объявлено кровоизлияние в мозг. Хоронили его со всеми подобающими его чину и заслугам почестями.