В 1930—1933 гг. А. П. Завенягин работает директором Ленинградского Гипромеза, заместителем начальника Главного управления металлургической промышленности ВСНХ, директором Днепропетровского государственного завода в городе Каменское Днепропетровской области, руководит строительством крупнейших металлургических комбинатов — Магнитогорского (1933—1937) и Норильского (1938—1941).
В 1937—1938 гг. А. П. Завенягин — первый заместитель Наркома тяжелой промышленности. В 1941—1951 гг. — заместитель наркома (министра) внутренних дел СССР. С началом Великой Отечественной войны в его подчинение переданы Главное управление лагерей горно-металлургических предприятий, Главпромстрой, Управление лагерей по строительству куйбышевских заводов и Дальстрой.
В 1953—1954 гг. А. П. Завенягин работал заместителем министра среднего машиностроения, следующие два года — заместителем председателя Совета министров СССР, министром среднего машиностроения.
А. П. Завенягин был одним из организаторов атомной промышленности СССР. Вместе с И. В. Курчатовым руководил строительством первого плутониевого завода для создания атомной бомбы, первой атомной электростанции, участвовал в создании и испытаниях атомной и водородной бомб.
В 1952—1956 гг. — кандидат в члены Центрального комитета КПСС, в 1956 г. вошел в состав ЦК КПСС. На всех занимаемых постах А. П. Завенягин проявлял незаурядный инженерный талант и выдающиеся способности организатора-хозяйственника.
Умер А. П. Завенягин в 1956 г. в Москве, похоронен у Кремлевской стены.
А. П. Завенягин награжден пятью орденами Ленина, двумя медалями «Золотая Звезда» к званию Героя Социалистического Труда, Сталинской премией.
В 1971 г. в городе Узловая Тульской области А. П. Завенягину установлен памятник.
В Норильске установлены памятная (1976) и мемориальная (2001) доски А. П. Завенягину (на зданиях по ул. Завенягина, 1, и пл. Гвардейская, 2), в фойе главного административного здания Заполярного филиала ОАО «ГМК „Норильский никель“» установлен бюст А. П. Завенягина (1993). Именем Завенягина названы улица и первая из городских площадей Норильска.