В юности готовился к профессии юриста, но ранняя смерть отца оставила семью без средств к существованию, и Бернадот был вынужден в 1780 году поступить в королевскую армию, начав службу рядовым солдатом в Брассакском пехотном полку. Участвовал в колониальных экспедициях, в одной из которых (в Индии) был тяжело ранен и попал в плен к англичанам (1783).
После освобождения из плена продолжал службу, и на пятом году ее был произведен в капралы. В 1788 году перешел в морскую пехоту.
К началу Великой французской революции (1789) дослужился до чина старшего сержанта. Революцию Бернадот принял восторженно, т. к. она открывала честолюбивому гасконцу возможности для военной карьеры. Во время первых народных волнений в Марселе Бернадот спас своего командира полка от самосуда разъяренной толпы, за что был произведен в офицеры (1791).
С началом Революционных войн Бернадот — в рядах Северной армии (1792). Выдающаяся личная храбрость, находчивость и решительность молодого офицера были замечены командованием уже в первых боях и способствовали его быстрому продвижению по службе.
В начале 1794 года он был назначен командиром батальона, через 2 месяца произведен в полковники и выдвинут на должность командира полубригады. В этот период Бернадот сражался под командованием знаменитого генерала Ж. Клебера, являясь одним из его ближайших сподвижников. За отличие в сражении при Флерюсе (26 июня 1794 года) произведен в бригадные генералы, а в октябре того же года — в дивизионные генералы (высшее воинское звание в армии Французской республики).
Командуя дивизией в Самбро-Мааской армии (генерал Ж. Журдан), отличился при взятии Маастрихта. Успешно действовал и в кампаниях 1795 и 1796 годов на Рейне. Проявил себя как один из выдающихся дивизионных командиров. В начале 1797 года во главе 20-тысячного корпуса направлен с Рейна на подкрепление в Итальянскую армию генерала Наполеона Бонапарта. Командуя дивизией, с отличием действовал в сражении на р. Тальяменто (16 марта 1797 года), при штурме Градиска (19 марта 1797 года), занял Триест.
Но уже в это время между своенравным гасконцем и главнокомандующим Бонапартом возникают серьезные разногласия, вскоре переросшие во взаимную неприязнь, сохранившуюся на все последующие годы, особенно со стороны Бернадота. После заключения перемирия с австрийцами (апрель 1797 года) Бонапарт под благовидным предлогом (доставка в Париж трофейных знамен, что считалось почетным поручением) удалил Бернадота из армии.
Во время пребывания Бернадота в Париже на юге Франции, главным образом в Марселе, вспыхнули спровоцированные роялистами волнения. Усмирить их Директория поручила Бернадоту. Это поручение он выполнил успешно, не прибегая к вооруженной силе.
Затем Бернадот вернулся в Итальянскую армию и снова вступил в командование своей дивизией. После заключения Кампоформийского мира (17 октября 1797 года), завершившего войну республиканской Франции с Австрией, Бернадот был переведен в армию, формировавшуюся на западном побережье Франции. Когда ее командующим был назначен Наполеон Бонапарт, то Бернадот демонстративно отказался служить под его командованием и просил для себя другого назначения. Директория просьбу Бернадота удовлетворила: он был возвращен обратно в Итальянскую армию, а затем назначен послом в Австрию (1798).
Дипломатическая деятельность Бернадота была короткой. Уже через несколько месяцев за бестактность в проявлении своих республиканских убеждений в монархической Вене он был отозван во Францию и назначен командующим Обсервационной армией на Верхнем Рейне (1798).
В ходе кампании 1799 году Бернадоту удалось не только сдержать натиск превосходящих сил противника, но и нанести ему ряд поражений, в том числе овладеть крепостью Мангейм.
С июля по сентябрь 1799 года Бернадот занимал пост военного министра Французской республики, проявив незаурядные административные способности. Однако его тесные связи с якобинцами, отстраненными от власти летом 1794 года, отдельные группы которых он вместе с генералом Ж. Журданом пытался объединить в партию и возглавить ее, вызвали подозрение Директории. В результате Бернадот был снят с должности и уволен в отставку.
Перевороту 18 брюмера (9 ноября 1799 года) Бернадот не сочувствовал, но и не осмелился открыто выступить против него, да и возможности такой он не имел, находясь не у дел. Тем не менее сторонники Наполеона Бонапарта, пришедшего в результате переворота к власти во Франции, учитывая нелояльность Бернадота, включили его в список лиц, подлежащих изгнанию. Но Бонапарт, несмотря на свое негативное отношение к Бернадоту, все же вычеркнул его из этого списка. Такая странная, на первый взгляд, снисходительность первого консула к своему явному противнику объяснялась, видимо, прежде всего его уважением к корсиканским нравам и обычаям с их патриархально-родовым менталитетом. Поэтому немаловажную роль в судьбе Бернадота сыграла, по всей вероятности, его косвенная принадлежность к клану Бонапартов, заступничество свояка Жозефа Бонапарта и его жены (сестры жены Бернадота), не угасшее чувство Наполеона к когда-то любимой им женщине, ставшей женой Бернадота, а также тайный расчет Наполеона привлечь на свою сторону, хотя и строптивого, но талантливого генерала.
Таким образом, фортуна в очередной раз улыбнулась Бернадоту. Отставной генерал благодаря счастливому для него стечению обстоятельств сумел не только избежать жалкого удела изгнанника, но и вернуться на военную службу, продолжить свою так блистательно начатую военную карьеру.
Первый консул Наполеон Бонапарт назначил Бернадота командующим Западной армией и членом Государственного совета.
В 1800—1801 годах Бернадот подавил последние очаги восстания в Вандее и восстановил мир и спокойствие в этой мятежной провинции, до предела опустошенной за несколько лет ожесточенной гражданской войны.
Заглушив свою былую неприязнь к Бернадоту, Наполеон предпринимает активные усилия для привлечения этого человека в число своих ближайших сподвижников. В 1804 году он назначает Бернадота генерал-губернатором Ганновера, награждает командорским крестом ордена Почетного легиона и производит в маршалы Франции.
В 1805 году Бернадот получает Большой крест ордена Почетного легиона (высшая награда в наполеоновской Франции). В 1806 году Наполеон делает его владетельным князем Понтекорво.
Однако все эти почести и награды не изменили отношения Бернадота к Наполеону. В начале 1805 года до императора доходят слухи о враждебных высказываниях Бернадота в его адрес. Он рассматривает возможность удаления неблагодарного родственника из Франции путем назначения его послом в США. Но начавшаяся вскоре война с Австрией заставила Наполеона отложить реализацию этого замысла. Бернадот назначается командиром 1-го корпуса Великой армии.