Перед Воронежским фронтом оборонялись 75, 68, 323, 57, 255, 332-я пехотные дивизии. В оперативном резерве находились 7, 11, 19-я танковые дивизии.
Перед Степным фронтом окопались 167, 168, 198, 106, 320, 282, 39, 161-я пехотные дивизии. В районе Редиловки располагалась 6-я танковая дивизия. Половина из них в составе 11-го армейского корпуса (корпус «Раус») принимала участие в операции «Цитадель» и понесла в июле большие потери. Численность личного состава сократилась до 40–50% от штатной.
Немецкие войска опирались на хорошо развитую, эшелонированную, заблаговременно подготовленную оборону, со всеми положенными «по штату» инженерными сооружениями и препятствиями. Ее тактическая зона, состоявшая из двух полос, достигала глубины 15–18 километров. В оперативной зоне были подготовлены промежуточные оборонительные рубежи, а населенные пункты превращены в мощные узлы сопротивления с круговой обороной. Особенно сильно были укреплены Харьков, Белгород, Сумы, Ахтырка, Лебедин, Богодухов, Чугуев. На подступах к Харькову было оборудовано пять последовательно оборудованных полос. Помимо этого, город опоясывали два кольцевых обвода, а сам он был подготовлен к ведению уличных боев. Bceгo на белгородско-харьковском направлении имелось семь оборонительных рубежей, достигавших глубины до 90 километров, ряд отсечных позиций и многочисленные водные преграды.
Неизменно во всех советских исследованиях сообщается, что в ходе сражения противник «подбросил на этот участок фронта еще 5 танковых, одну моторизованную и 4 пехотные дивизии». Неизменно не упоминается, что Ставка, в свою очередь, подбросила три общевойсковые армии (19 дивизий), танковый и механизированный корпуса.
Для Манштейна опять наступали интересные времена. Правое крыло группы армий «Юг» императивом фюрера было приковано к Донбассу, «удержание которого с оперативной точки зрения было ошибкой», левое — следовало удержать любой ценой ради избежания полного разгрома. При этом у Манштейна забирали лучшие дивизии, в то время как 17-я армия сидела на абсолютно бесперспективном Кубанском плацдарме, а силы русских восстанавливались с удивительной быстротой и их намерения были очевидны. Надежды на ослабление Красной Армии после, прямо скажем, сильного кровопускания не оправдались: «Мы, конечно, не ожидали от советской стороны таких больших организаторских способностей, которые она проявила в этом деле, а также в развертывании своей военной промышленности. Мы встретили поистине гидру, у которой на месте одной отрубленной головы вырастали две новые».
Манштейн, даже по признанию гордеца Г.К. Жукова, был «одним из способнейших и волевых полководцев немецко-фашистских войск», но все же — не Геракл.
Контрнаступление на белгородско-харьковском направлении началось 3 августа в 8 часов утра после мошной трехчасовой артиллерийской и авиационной подготовки. Как сообщает маршал Конев: «Это создает такой удар, что, по свидетельству пленных, немало уцелевших немецких солдат лишились рассудка». В боевом донесении командующего Степным фронтом отмечалось: «Противник оставил на поле боя большое количество трупов…»
Советская пехота и танки прорыва, следуя за огневым валом, ворвались в первые траншеи. На участке прорыва Воронежского фронта 5-я гвардейская армия (66, 97, 13, 6, 95, 9, 42-я гвардейские стрелковые, 13-я артиллерийская, 8-я гвардейская минометная, 29-я зенитно-артиллерийская дивизии) к 13 часам на шестикилометровом участке продвинулась на глубину 3–5 километров. Темп наступления стрелковых соединений, достигших третьей позиции, замедлился, и Ватутин немедленно ввел в сражение подвижную группу — 1-ю и 5-ю гвардейскую танковые армии (более 1000 танков), передовые бригады которых завершили прорыв тактической зоны обороны и начали развивать успех в оперативной глубине. Справа успешно продвигалась 6-я гвардейская армия (67, 71, 90, 51, 52-я гвардейские, 309-я стрелковая, 9-я зенитная дивизии, 5-й гвардейский Сталинградский танковый корпус). Слева преодолевала главную оборонительную полосу 53-я армия (28-я гвардейская, 252, 116, 233, 299, 214, 84-я стрелковые дивизии) и 48-й стрелковый корпус 69-й армии; для них оборону прорывал 1-й механизированный корпус.
«В памяти моей запечатлелось грандиозное движение советских танков, вошедших в прорыв, — пишет Катуков. — Мы шли по правой стороне пятикилометрового коридора двумя корпусными колоннами. Слева таким же порядком двигалась 5-я гвардейская армия. Нас прикрывала с воздуха эскадрилья «яков». Между колоннами сохранялась зрительная связь. За всю войну еще никто из нас не видел такого скопления советских танков на столь узком участке фронта».
Бронированный таран проломил оборону 332, 57-й и 167-й пехотных дивизий на стыке 4-й танковой армии и группы «Кемпф». К исходу дня армия Катукова, углубившись на 12 километров, перерезала шоссейную дорогу Томаровка — Белгород, а 5-я гвардейская танковая армия продвинулась на 26 километров и вышла к Бессоновке; 1-й мехкорпус прорвался на 15 километров. Стрелковые дивизии прошагали за танками 8–12 километров. Немецкое командование ввело в бой основную часть своих оперативных резервов.
4 августа ожесточенные бои продолжались по всей полосе наступления. Главные группировки, обтекая Томаровский и Белгородский узлы сопротивления, развивали удар в южном и юго-западном направлениях и за день прошли до 20 километров, точнее прошла армия Катукова, а чуть левее армию Ротмистрова «затормозила» 6-я танковая дивизия, имевшая в строю около 40 танков. Войска 53-й и 69-й армий прорвали второй и третий оборонительные рубежи, прикрывавшие Белгород с севера. 7-я гвардейская армия (15, 73, 78, 81, 72, 36-я гвардейские, 111, 213-я стрелковые дивизии) Шумилова ликвидировала Михайловский плацдарм на восточном берегу Северского Донца и форсировала реку сразу на нескольких участках. Тем не менее Ватутин ожидал большего. Темп наступления выбивался из графика. Огромная масса советских танков была неуправляема, примитивно пыталась давить опорные пункты лобовыми атаками и несла большие потери, в полном соответствии с военной наукой:
«Ранний ввод танковых армий в сражение приводил иногда к потере до 30–40% танков только за время тактического прорыва, что снижало их боевые возможности при его развитии в оперативный и выполнении основных задач операции».
По итогам дня командующий Воронежским фронтом издал приказ, в котором отмечал все те же, ставшие хроническими «крупные недочеты и ошибки»:
«1. Недопустим большой отрыв штабов 5-й гв. ТА от ее войск и штаба 1-й ТА, что приводило к незнанию командирами и штабами обстановки.
2. В 6-й гв. армии преобладали лобовые атаки и крайне мало применялся маневр для выхода в тыл противнику для его окружения и уничтожения. Этот крупный недочет допускался не только командирами стрелковых соединений, но даже командирами 5-го гв. ТК и 6-го ТК, которые настойчиво стремились атаковать Томаровку в лоб, вместо того чтобы смело обойти узел обороны противника в Томаровке.
3. Отсутствовала настойчивость и стремительность наступления и движения вперед под различными, совершенно необоснованными предлогами… Особенно это относится к 5-й гв. ТА, командование которой и командование корпусов этих армий совершенно не выполнили поставленной им задачи и ложно доносили о занятии ими пунктов Орловка и Бессоновка, которые к исходу дня удерживал противник».
Ватутин потребовал от танковых командармов «прекратить топтание на месте, наладить управление войсками, приблизить к войскам штабы корпусов и, перейдя в решительное наступление, во что бы то ни стало выполнить боевую задачу». 5-й гвардейский танковый корпус генерала А.Г. Кравченко по указанию Жукова был подчинен Катукову.
Манштейн начал переброску из Донбасса к Харькову 3-го танкового корпуса и 2-го корпуса СС, с намерением организовать удары по флангам советского клина.
С утра 5 августа к наступлению присоединились 27-я армия с двумя танковыми корпусами и ударная группировка 40-й армии (237, 206, 100-я стрелковые дивизий, 2-й танковый корпус) генерал-лейтенанта К.С. Москаленко. Прорвав на 26-километровом участке оборону 57-й пехотной дивизии, они в течение дня продвинулись на несколько километров. Пехота Чистякова и Жадова с помощью танкистов Катукова окружили и сутки спустя овладели Томаровкой. Танковые корпуса продвинулись на юго-запад еще на 15 километров.
Соединения 69-й армии (89, 93, 94-я гвардейские, 305, 375, 183, 107-я стрелковые дивизии) устремились к Белгороду и вышли на его северную окраину. 7-я гвардейская армия создала угрозу вражескому гарнизону с востока. Части 1-го механизированного корпуса, наступая западнее города, перерезали железную и шоссейную дороги Белгород — Харьков. Вокруг города немцами был создан мощный оборонительный обвод с разветвленной сетью долговременных оборонительных сооружений. Кварталы были приспособлены для ведения уличных боев. Приказ фюрера требовал защищать Белгород при любых обстоятельствах. Однако удержать город было уже невозможно. Генерал Раус вспоминает: