В 1955 году направлен по распределению в трест «Уралтяжтрубстрой», где за год освоил несколько строительных специальностей, затем работал на строительстве разных объектов мастером, начальником участка, главным инженером управления. В 1961 году вступил в КПСС. В 1963 году назначен главным инженером, а вскоре — начальником Свердловского домостроительного комбината.
В 1963 на XXIV конференции партийной организации Кировского района города Свердловска единогласно был избран делегатом на городскую конференцию КПСС. А на XXV районной конференции стал членом Кировского райкома КПСС и делегатом Свердловской областной конференции КПСС.
В 1968 году Ельцин перешел на партийную работу в Свердловский обком КПСС, где возглавил отдел строительства. В 1975 году он был избран секретарём Свердловского обкома КПСС, ответственным за промышленное развитие области.
В 1976 году по рекомендации Политбюро ЦК КПСС Б. Н. Ельцин избран первым секретарём Свердловского обкома КПСС (фактически руководителем Свердловской области), занимал эту должность до 1985 года. По распоряжению Ельцина в Свердловске было построено двадцатиэтажное, самое высокое в СССР здание обкома КПСС, получившее в народе прозвища «Белый Зуб» и «член КПСС». http://ru.wikipedia.org/wiki/. Организовал строительство автодороги, соединяющей Свердловск с севером области, а также переселение жителей из бараков в новые дома. Организовал исполнение решения Политбюро о сносе дома Ипатьевых (место расстрела царской семьи в 1918 году), которое не было выполнено его предшественником Н. Рябовым, добился принятия решения Политбюро о строительстве метрополитена в Свердловске.
С 1978 по 1989 гг. — депутат Верховного Совета СССР (член Совета Союза). С 1984 по 1985 гг. и с 1986 по 1988 гг. являлся членом Президиума ВС СССР. Кроме того, в 1981 году на XXVI съезде КПСС был избран членом ЦК КПСС и входил в него до выхода из партии в 1990 году.
В 1985 году, после избрания М. С. Горбачёва Генеральным секретарём ЦК КПСС, был переведён на работу в Москву (по рекомендации Е. К. Лигачёва), в апреле возглавил отдел строительства ЦК КПСС, а в июне 1985 избран секретарём ЦК КПСС (по вопросам строительства).
В декабре 1985 года Ельцин был рекомендован Политбюро ЦК КПСС на должность первого секретаря Московского городского комитета (МГК) КПСС. Придя на эту должность, уволил многих руководящих работников МГК КПСС и первых секретарей райкомов. Получил широкую известность в народе, благодаря многочисленным популистским шагам, таким как широко освещавшиеся московским телевидением поездки в общественном транспорте, проверках магазинов и складов. Допускал относительную свободу слова в городской прессе. Организовал в Москве популярные среди населения продовольственные ярмарки, на которых продавались по вполне приемлемым ценам овощи и фрукты из братских республик СССР. Тогда же Борис Николаевич прославился тем, что начал публично критиковать руководство партии.
На XXVII съезде КПСС в феврале 1986 года Ельцин избран кандидатом в члены Политбюро ЦК КПСС и оставался в этой должности до 18 февраля 1988 г.
После ряда конфликтов с руководством Политбюро ЦК КПСС, Ельцин 21 октября 1987 года достаточно резко выступил на Пленуме ЦК КПСС (критиковал стиль работы некоторых членов Политбюро, в частности, Е. К. Лигачёва, медленные темпы «перестройки», влияние Р. М. Горбачёвой на мужа, заявив о зарождении «культа личности» Горбачёва), после чего попросил освободить его от обязанностей кандидата в члены Политбюро. Ельцин был подвергнут жесткой критике, даже со стороны тех, кто его ранее поддерживал (среди них был «архитектор перестройки» А. Н. Яковлев). После ряда критических выступлений Ельцин покаялся и признал свои ошибки: «Кроме некоторых выражений, в целом я с оценкой согласен. То, что я подвел Центральный Комитет и Московскую городскую организацию, выступив сегодня, — это ошибка».
Пленум вынес резолюцию — считать выступление Ельцина «политически ошибочным», и предложил МГК рассмотреть вопрос о переизбрании своего первого секретаря. Стенограмма выступления Ельцина не была своевременно опубликована в печати, что породило множество слухов. В «самиздате» появилось несколько подложных вариантов текста, гораздо более радикальных, чем оригинал.
3 ноября Ельцин направил письмо Горбачёву с просьбой оставить его в прежней должности. 9 ноября 1987 года он попал в больницу. По некоторым свидетельствам (например, М. С. Горбачёва, Н. И. Рыжкова и В. И. Воротникова) — из-за попытки покончить жизнь самоубийством (или симулировать попытку самоубийства), («случай с ножницами»). 11 ноября 1987 на Пленуме МГК Ельцин повторно каялся, признавая свои ошибки, но был освобождён от должности первого секретаря МГК. Однако не был полностью разжалован и остался в рядах номенклатуры.
14 января 1988 года Борис Николаевич был назначен первым заместителем председателя Госстроя СССР — министром СССР — на должность, созданную специально для такого случая. 18 февраля 1988 — решением Пленума ЦК КПСС он был освобожден от обязанностей кандидата в члены Политбюро ЦК КПСС (но остался членом ЦК). Летом 1988 года он стал делегатом XIX Всесоюзной партконференции от Карелии. 1 июля обратился к партконференции с просьбой о «политической реабилитации»:
— Я остро переживаю случившееся и прошу конференцию отменить решение Пленума по этому вопросу. Если сочтёте возможным отменить, тем самым реабилитируете меня в глазах коммунистов. И это не только личное, это будет в духе перестройки, это будет демократично и, как мне кажется, поможет ей, добавив уверенности людям.
26 марта 1989 года он избран народным депутатом СССР по национально-территориальному округу № 1 (город Москва), получив 90 % голосов москвичей. Ельцину противостоял поддерживаемый властями генеральный директор ЗИЛа Евгений Браков. В Верховный Совет с первой попытки Ельцин не прошёл, но депутат А. И. Казанник (впоследствии назначенный Ельциным Генеральным прокурором РФ) отказался от мандата в пользу Ельцина. С июня 1989 по декабрь 1990 года Ельцин — член Верховного Совета СССР. Был избран председателем комитета ВС СССР по строительству и архитектуре, вошёл в состав Президиума ВС СССР, стал одним из руководителей Межрегиональной депутатской группы.
В 1989 году с Ельциным произошёл ряд скандалов: летом он выступал в США в пьяном виде. Перепечатка публикации об этом инциденте из итальянской газеты «Репубблика» в «Правде» была воспринята как провокация партийной верхушки против «инакомыслящего» Ельцина, и привела к массовым протестам и отставке главного редактора газеты В. Г. Афанасьева. В сентябре в Подмосковье произошло падение Ельцина с моста. А 21 сентября он попал в автомобильную аварию на автомобиле «Волга», столкнувшись с «Жигулями». Ельцин получил ушиб бедра.
16 мая 1990 года Борис Николаевич был избран народным депутатом РСФСР от Свердловска. А до этого избрания, 25 апреля во время неофициального визита в Испанию он попал в авиационную аварию, получив травму позвоночника, был срочно прооперирован. Через месяц после происшествия, во время выборов Председателя Верховного Совета РСФСР, в прессе появились намёки на то, что авария была организована КГБ. Высказывалось мнение, что многочисленные слухи, возникшие в связи с этой аварией, повлияли на исход выборов.
29 мая 1990 Ельцин был избран с третьей попытки, всего с перевесом в три голоса Председателем Верховного Совета РСФСР. В ходе оглашения своей программы деятельности на посту Председателя Верховного Совета, Ельцин коснулся вопроса о будущем Советского Союза:
«Я никогда не выступал за отделение России, я за суверенитет Союза, за равноправие всех республик, за их самостоятельность, за то, чтобы республики были сильными и этим крепили наш Союз. Только на этой позиции и стою».
В период председательства Ельцина Верховный Совет принял ряд законов, повлиявших на дальнейшее развитие страны, в том числе, 24 декабря 1990 года, Закон о собственности в РСФСР. 12 июня 1990 года Съезд принял Декларацию о государственном суверенитете РСФСР, предусматривающую приоритет российских законов над союзными. Это резко увеличило политический вес Председателя Верховного Совета РСФСР, игравшего ранее второстепенную, зависимую роль. День 12 июня позже был объявлен Ельциным главным государственным праздником Российской Федерации. А 12 июля 1990 года на XXVIII, последнем съезде КПСС, Ельцин выступил с критикой коммунистической партии и её руководителя Горбачёва, и объявил о своём выходе из партии. 19 февраля 1991 года Ельцин в выступлении по телевидению критиковал политику правительства СССР и впервые потребовал отставки Горбачева и передачи власти Совету Федерации, состоящему из руководителей союзных республик.
10 июля 1991 года Борис Ельцин избран Президентом РСФСР, за которого проголосовало 45 552 041 голосов избирателей, что составило 57,30 процентов избирателей, и значительно опередил Николая Рыжкова, который, несмотря на поддержку союзных властей, получил всего лишь 16,85 процентов голосов. Вместе с Ельциным был избран вице-президент Александр Руцкой. После избрания основными лозунгами Ельцина стали борьба с привилегиями номенклатуры и независимость России от СССР.