Начатые Басовым в 1952 году теоретические работы в области квантовой радиофизики требовали экспериментальных доказательств. Вместе с Прохоровым советский физик сконструировал генератор, который работал не только как усилитель возбудимости молекул, но и генерировал излучение с частотой, которая точно определялась энергетическими уровнями молекул.
В мае этого же года Басов и Прохоров представили на Всесоюзной конференции по радиоспектроскопии первые полученные результаты теоретического анализа эффектов усиления и генерации электромагнитного излучения квантовыми системами и предложили конструкцию оптического квантового генератора (ОКГ), основанного на инверсной заселенности.
В своей первой статье на эту тему в октябре 1954 года советские физики предложили эффективный и универсальный метод создания состояний с инверсной населенностью (метод селективной накачки электромагнитным излучением трехуровневой системы). Согласно предложенной советскими физиками «трехуровневой схеме», при переводе атомов из основного состояния на наиболее высокий из трех энергетических уровней, на промежуточном уровне размещалось больше молекул, чем на нижнем. В результате этого явления можно было получить индуцированное излучение с частотой, которая соответствовала разности энергий между двумя более низкими уровнями.
За десять месяцев до публикации этой статьи Басова и Прохорова, еще в 1953 году американский физик Чарлз Таунс в лаборатории Колумбийского университета (США) создал работающий молекулярный осциллятор, который назвал мазером (по начальным буквам английского выражения «microwave amplification by stimulated emisson of radiation» – микроволновое усиление с помощью стимулированного излучения). В своих работах американский физик использовал резонансную полость, заполненную возбужденными молекулами аммиака. В результате этих экспериментов он достиг огромного усиления микроволн с частотой в 24 000 мегагерц.
В 1955 году Николай Геннадиевич Басов возглавил группу молодых талантливых ученых, которая проводила исследования частотных характеристик молекулярных осцилляторов. В 1956 году он защитил докторскую диссертацию на тему «Молекулярный осциллятор», в которой суммировал свои теоретические и экспериментальные исследования молекулярного генератора на основе пучков аммиака. За эту работу ему была присуждена степень доктора физико-математических наук.
За период с 1955 по 1956 год Басов и Прохоров создали принципиально новые малошумные квантовые усилители и генераторы радиочастотного диапазона (мазеры), первым из которых стал мазер на основе молекул аммиака.
В 1957 году Басов начал работать над конструкцией квантовых осцилляторов в оптическом диапазоне частот. Идея о возможности распространения принципов и методов радиофизики и квантовой электроники на оптический диапазон частот пришла к ученому еще во время его первых работ над молекулярными генераторами.
Советский ученый полностью переключился на поиск путей создания оптического квантового генератора (получившего в будущем название лазера). Он подключил к своим исследованиям молодых студентов-физиков, в 1959 году организовал в ФИАНе сектор молекулярных генераторов, а в 1963 году – лабораторию квантовой физики. В 1986 году лаборатория Басова стала частью целого отдела, а с 1989 года – и отделения ФИАНа.
Также вместе со своей командой физиков-теоретиков Николай Геннадиевич изучал возможности реализации квантовых генераторов на основе полупроводников. В 1958 году вместе с соавторами Басов опубликовал статью «Квантовомеханические полупроводниковые генераторы и усилители электромагнитных колебаний», в которой высказал идею создания инверсной населенности в полупроводниках путем лавинного размножения носителей тока в импульсном электрическом поле. Эту идею ученый предложил вниманию ученых и в своем докладе на Международной конференции в США в 1959 году. Предложение Басова ознаменовало начало освоения квантовой электроникой оптического диапазона частот.
В 1959 году Николай Геннадиевич Басов и Александр Михайлович Прохоров были награждены Ленинской премией за исследования по созданию молекулярных осцилляторов и парамагнитных усилителей.
В 1960 году американский физик Теодор Меймен сконструировал прибор, в котором реализовал трехуровневый принцип усиления и генерирования красного света. Свое название «лазер» устройство получило от начальных букв английского выражения «light amplification by stimulated emission of radiation» – световое усиление с помощью индуцированного излучения.
В начале 1961 года Басов и его сотрудники предложили и обосновали методы создания полупроводниковых лазеров: с оптической накачкой, инжекционных и с электронным возбуждением. Ученые сформулировали условие инверсии в терминах квазиуровней Ферми и предсказали стационарный режим работы. Результатами дальнейших исследований стало создание инжекционных лазеров в конце 1962 года в СССР и в США.
В 1961 году Басов вместе с В. С. Зуевым, П. Г. Крюковым, В. С. Летоховым занялся вопросами получения мощного излучения. В этом же году совместно с О. Н. Крохиным ученый предложил три различных метода для достижения состояния с отрицательной температурой в полупроводниках при наличии прямых и непрямых переходов. В следующем году ученые работали над возможностью применения лазеров для получения термоядерной плазмы.
Свою идею получения термоядерных реакций при лазерном облучении мишени ученый выдвинул в 1962 году на заседании Президиума АН СССР, а затем на Международной конференции по квантовой электронике в Париже в 1963 году. Вместе с О. Н. Крохиным Басов спрогнозировал и разработал основы лазерного термоядерного синтеза (ЛTC). Хотя в те годы существовали только твердотельные лазеры с энергией импульса меньше одного джоуля и непрерывные лазеры мощностью менее одного ватта, ученый умело спрогнозировал ситуацию на несколько десятилетий вперед. Спустя шесть лет в его лаборатории в ФИАНе будут получены первые нейтроны при лазерном облучении мишени из дейтерия лития.
В то время Басов был лидером и пионером в «лазерных» исследованиях.
В 1963 году вместе с Б. Вулом и Ю. М. Поповым Басов исследовал условия образования структур с отрицательной температурой в полупроводниках.
Результатом сотрудничества Басова и Вула стало создание в этом же году первого полупроводникового лазера на основе арсенида галлия (GaAs). Эти работы стали продолжением исследований Басова по возбуждению полупроводниковых лазеров, начатых еще в 1961 году.
В том же 1963 году Басов принял активное участие в проектах по оптоэлектронике. Результатом его работ стало создание быстродействующих элементов на основе диодных лазеров.