Сразу после окончания учёбы в Тульском механическом институте Николай Фёдорович Макаров начал работать в ЦКБ-14. В конкурсе на новый пистолет для офицерского состава по ТТТ ГАУ от 1945 г. молодой конструктор принял участие наряду с такими оружейниками, как Коровин, Воеводин, Симонов, Барышев, Раков и другими.
9-мм пистолет Макарова превзошёл своих конкурентов и в январе 1949 года Министерством вооружения СССР было принято решение об изготовлении партии из 5000 пистолетов на заводе № 622 (ныне — Ижевский механический завод).
В 1951 году пистолет Макарова (ПМ) приняли на вооружение Советской армии, а в 1952 году на ИМЗ начался его серийный выпуск.
В 1990-х годах на базе ПМ разработали широкую линейку служебного и гражданского оружия. Среди наиболее популярных моделей, созданных на его основе: служебный пистолет ИЖ-71 под патрон 9×17, травматический вариант МР-79-9Т и пневматический газобаллонный пистолет МР-654, которые выпускаются на предприятии до сих пор.
Начиная с 1952 года в Ижевске изготовлено более 8 000 000 «макаровых» в различных модификациях.
В 1974 году на Ижевском механическом заводе началось производство ПТРК «Конкурс», разработкой которого в тульском ЦКБ-14 также руководил Н. Ф. Макаров.
За большие заслуги в создании образцов новой военной техники Николай Фёдорович был удостоен Сталинской премии III степени, Государственной премии СССР и звания Героя Социалистического Труда. В 2015 году на Аллее Славы знаменитых оружейников в Туле был открыт памятный бюст Николая Макарова, а в 2019 году на его родине в селе Сасово установили памятник знаменитому конструктору.