Будучи выходцем из весьма интеллигентной семьи, Меркулов с детства увлекался творчеством. Он достаточно хорошо рисовал, ещё в период учебы в гимназии пробовал писать небольшие рассказы и заметки. К слову, Тифлисскую гимназию он окончил с золотой медалью и уехал учиться в Петербургский университет, куда поступил на физико-математический факультет.
В столице он подрабатывал репетиторством и благополучно окончил бы университет, если бы не война. В 1916 году, будучи студентом третьего курса, он был мобилизован в армию.
Как признавал сам Меркулов, в 1918-м он был аполитичен. В 1919-м вступил в общество «Сокол», где занимался гимнастикой, участвовал в вечерах, самодеятельных спектаклях. Здесь под влиянием мужа сестры – Цовьянова – познакомился с марксистской литературой и ко времени советизации Грузии хотел вступить в партию, «но не знал, где и как это можно осуществить».
С сентября 1921 года по май 1923 года – помощник уполномоченного, уполномоченный, старший уполномоченный Экономического отдела ЧК при СНК ССР Грузия.
«Должен сказать (сейчас, спустя 30 лет, я, полагаю, могу это сделать без риска быть обвиненным в самовосхвалении), что в тот период, несмотря на свои 27 лет, я был наивным, очень скромным и очень застенчивым человеком, несколько замкнутым и молчаливым. Речей я не произносил и так и не научился произносить их до сих пор. Язык у меня был словно чем-то скован, и я ничего с ним не мог поделать. Другое дело перо. С ним я умел обращаться. Не был я также никогда ни подлизой, ни подхалимом или выскочкой, но держал себя всегда скромно и, думаю, с чувством собственного достоинства. Таким я и предстал перед Берия, когда он меня тогда вызвал. Не надо было быть особо проницательным, чтобы понять все это, и мне думается, что Берия с первого взгляда разгадал мой характер. Он увидел возможность использования моих способностей в своих целях без риска иметь соперника или что-либо в этом роде», – вспоминал впоследствии Меркулов.
В изложении Меркулова, история его поступления на службу в ЧК проста и обыденна. Его больше не устраивала работа в школе для слепых, и он обратился к своему большевистски настроенному товарищу по гимназии Бошинджагяну. Тот обещал поговорить с кем надо и свел Меркулова с Такуевым из грузинской ЧК. В сентябре 1921-го Меркулова приняли на должность помощника уполномоченного транспортного отдела, а вскоре перевели на должность уполномоченного экономического отдела ЧК Грузии.
Через несколько месяцев после поступления Меркулова на службу в грузинскую ЧК пришёл Берия и сразу же стал заместителем председателя. Разумеется, он не мог не обратить внимание на такого подчинённого, поскольку он был в некотором роде уникумом. Чекисты в те времена не могли похвастать образованием. Образованные люди в ЧК идти не желали либо их туда не брали из-за недоверия. Так что два-три класса церковно-приходской школы уже считалось практически высшим образованием. Законченное среднее – это уже кандидат наук. А уж Меркулов с золотой гимназической медалью и тремя курсами столичного университета по местным меркам был практически академиком.
Поэтому всего за четыре года Меркулов вырос от помощника уполномоченного до начальника Экономического отдела. Правда, этот отдел всегда считался откровенно второстепенным. Но дальнейший карьерный рост был не за горами. В 1927 году Берия становится главой ГПУ, а Меркулова переводит руководить уже более значимым отделом – информации и политического контроля.
