23 июня Матвеев, отказавшись от брони, прибыл на сборный пункт военкомата и в числе первых добровольцем отправился на фронт. Волевой, смышленый и имеющий опыт работы с людьми, он сразу привлек к себе внимание военных контрразведчиков. После прохождения краткосрочных курсов специальной подготовки его зачислили на службу старшим оперуполномоченным особого отдела НКВД в 983-й стрелковый полк. Матвееву на ходу пришлось осваивать сложнейшее искусство контрразведки. Уже в августе он разоблачил своего первого вражеского агента. Им оказался бывший советский военнослужащий, попавший в плен, завербованный абвером (гитлеровская военная разведка и контрразведка) и с диверсионным заданием проникший в состав экипажа бронепоезда. Спустя месяц во время ожесточенного боя Александр Иванович заменил погибшего командира батальона, руководил организацией обороны, а когда фашисты ворвались в окопы, вступил с ними в рукопашную схватку.
Весь 1941-й и следующий, 1942 год Матвеев провел на передовой и не выходил из боя. Вместе с боевыми товарищами он вынес на своих плечах всю тяжесть обороны Сталинграда. Его жизнь не один раз подвергалась смертельной опасности. После контузии он категорически отказался отправиться в тыл, остался в строю, продолжал беспощадно бороться со шпионами, диверсантами и не позволил измене проникнуть в ряды красноармейцев.
Личное мужество, результаты оперативно-боевой деятельности, профессионализм и организаторские способности Матвеева не остались незамеченными начальником особого отдела Сталинградского фронта старшим майором госбезопасности Николаем Селивановским. В августе 1942 года его приказом Александр Иванович был назначен на должность заместителя начальника особого отдела НКВД СССР 99-й стрелковой дивизии.
В боях под Сталинградом Матвеев сформировался как руководитель. После разгрома фашистов вместе с подчиненными прошел фронтовыми дорогами по землям Украины, Белоруссии и Польши. В июле 1944 года он был назначен на должность начальника отдела контрразведки Смерш 47-й гвардейской стрелковой дивизии. К тому времени на его счету находились десятки разоблаченных вражеских шпионов, диверсантов и террористов. Несмотря на высокую должность, Александр Иванович не отсиживался в кабинете. В сложных ситуациях он брал на себя ответственность и вступал в схватку с противником.
Однажды сотрудниками Матвеева была задержана группа матерых диверсантов. Под конвоем их доставили на допрос в особый отдел. Воспользовавшись нерасторопностью конвоиров, диверсанты разоружили их. Матвеев не растерялся, в борьбе с одним из них завладел автоматом и вступил в бой. Одному из диверсантов – Грачу – удалось скрыться. Впоследствии он сыграл зловещую роль в судьбе Александра Ивановича. После окончания войны судьба так распорядилась, что Матвееву снова пришлось вступить в схватку не только с Грачом, а и с французской спецслужбой, стоящей за спиной предателя. В той полной смертельного риска операции Смерша Александр Иванович вышел победителем.
Она была еще впереди, а тогда, 16 апреля 1945 года, Матвеева и его боевых товарищей отделял всего один марш-бросок от логова фашизма – Берлина. В эти последние мгновения перед решающей схваткой Александр Иванович испытывал сложные чувства. Пьянящее чувство грядущей победы кружило голову, а леденящий холодок окатывал спину. Предстоящий бой мог стать для Матвеева последним. Он гнал прочь мысль о смерти, посматривал на часы и торопил время.
