В марте 1918 г. при подавлении мятежа мусаватистов был ранен. Летом того же года вступил в Красную Армию, получил назначение комиссаром 3-й бригады. С июля 1918 г. председатель Бакинского подпольного горкома партии. 15.09.1918 г. освободил из тюрьмы бакинских комиссаров, находившихся под арестом после неудачной попытки покинуть Баку, власть в котором перешла в руки меньшевиков. По его версии, 16.09.1918 г. он с бакинскими комиссарами на пароходе «Туркмен» прибыл из Баку в Красноводск, где они были арестованы эсерами и английскими интервентами.
Через три дня арестованным сообщили, что 26 из них переведут в Ашхабадскую центральную тюрьму, где их будут судить, а остальных освободят. 20.09.1918 г. 26 бакинских комиссаров вывели из вагона поезда в пески и на 207-й версте от Красноводска расстреляли. Оставшихся, в том числе и А. И. Микояна, перевели в ноябре 1918 г. из Красноводска в арестный дом города Кизил-Арват, через три недели в Ашхабадскую тюрьму, где продержали до 27.02.1919 г. Освобожден «по требованию бакинских рабочих» и выслан из оккупированного англичанами Закаспия в ими же оккупированный Баку.
В октябре 1919 г. – январе 1920 г. находился в Москве, встречался с В. И. Лениным. Обсуждал с ним сроки вооруженного восстания в Закавказье, просил приурочить его к моменту приближения Красной Армии к Кавказу.
В январе 1921 г. в Москве познакомился с И. В. Сталиным, которому верно служил до самой его смерти в 1953 г. Один из восьми высших руководителей страны, обращавшихся к И. В. Сталину на «ты». Первым сказал: «Сталин – это Ленин сегодня». По признанию А. И. Микояна, в Политбюро у него не было близких отношений ни с кем, кроме И. В. Сталина, с которым к концу они резко ухудшились, и К. Е. Ворошилова. По рекомендации И. В. Сталина в 1922 г. был выдвинут секретарем Юго-Восточного бюро ЦК РКП(б) (г. Ростов-на-Дону).
В 1924–1926 гг. секретарь Северо-Кавказского крайкома партии. В середине работы ХIV съезда ВКПБ(б) вместе с Г. К. Орджоникидзе, Н. А. Кубяком, С. М. Кировым и Н. К. Крупской выезжал на два дня в Ленинград, чтобы прощупать подлинное настроение коммунистов и попытаться повернуть их против Г. Е. Зиновьева, пользуясь тем, что он и ленинградские делегаты находились на съезде.
С августа 1926 г. по ноябрь 1930 г. нарком внешней и внутренней торговли СССР. Сменил на этом посту Л. Б. Каменева, рекомендовавшего его вместо себя. 26.06.1930 г. написал на имя И. В. Сталина заявление, в котором ставил вопрос о своей отставке и переводе на другую должность: «Меж тем, я настолько утомился и издергался – ведь я уже два года подряд работаю без отпуска, – что не в состоянии успешно справиться с руководством НКторга. Кроме того, свежему человеку (ведь я уже четыре года нахожусь на этой работе) легче будет двинуть дело вперед. Поэтому прошу Политбюро: освободить меня от работы в НКторге; дать мне двухмесячный отпуск; назначить меня на местную работу, партийную или хозяйственную (какое-нибудь новое строительство)» (РЦХИДНИ. Ф. 84. Оп. 2. Д. 135. Л. 5–5 об.).
24.08.1930 г. И. В. Сталин не согласился и написал В. М. Молотову: «Мы все забываем об одной «мелочи», а именно о том, что Наркомторг является в данный момент одним из самых важных наркоматов (и самых сложных, если не самым сложным наркоматом). И что же? Во главе этого наркомата стоит человек, который не справляется с делом, с которым вообще трудно или даже невозможно справиться одному человеку. Либо мы должны сменить Микояна, что нельзя считать доказанным, либо надо его подпереть крупными замами, что, кажется, не вызывает разногласий… Надо лечить НКторг. Ждать дальше преступно» (Сталинское Политбюро в 30-е годы. Сборник документов. М., 1995. С. 204–205).
