Он подчеркивал обязательность советских законов для всех, недопустимость противопоставления законности и целесообразности, неразрывную связь законности с культурностью. Эти идеи он проводил в жизнь, конечно, в тех пределах, которые допускались руководством страны. Однако и в этой ситуации перемены к лучшему были хорошо заметны. Например, при нем в центральном аппарате появилась стабильность кадров – чехарда, свойственная предыдущим годам, исчезла.
Ранее безликие и, по существу, бесправные прокуроры стали наиболее активными проводниками социалистической законности. Слово «закон» стало наконец употребляться в связке с такими понятиями, как справедливость, порядочность, честность. Началось постепенное, пока еще медленное и нерешительное исправление недостатков и преступлений, имевших место в сталинское время.
Одной из причин произвола при расследовании преступлений, пусть не главной, был низкий уровень следственной работы, недостаточная квалификация следователей. Приказ Руденко «О мероприятиях по повышению квалификации следователей органов прокуратуры» от 14 октября 1953 г. был одной из его первых директив. По всей стране началась учеба кадров, улучшалось техническое оснащение следствия.
После июльского (1953) Пленума ЦК КПСС повеяло «оттепелью» и какой-то, пусть урезанной, ограниченной определенными рамками, но все же свободой. Прежде всесильные органы внутренних дел и государственной безопасности были поставлены в рамки закона и играли уже не ту роль, что прежде, в жизни общества. Восстанавливались в своих правах суды и прокурорский надзор. Внесудебные расправы ликвидировались.
Вскоре после назначения Генеральным прокурором Р. А. Руденко подписал первые документы, касающиеся реабилитации лиц, невинно привлеченных к уголовной ответственности. Раньше других справедливость была восстановлена в отношении высшего командного состава Красной армии. 19 марта 1954 г. Руденко, министр внутренних дел Круглов, председатель КГБ Серов и министр юстиции Горшенин направили в Президиум ЦК записку с предложением образовать Центральную комиссию по пересмотру дел осужденных за «контрреволюционные преступления», содержащихся в лагерях, колониях, тюрьмах (467 946 человек) и находящихся в ссылке на поселении (62 462 человека). Кроме Центральной предлагалось создать соответствующие комиссии в республиках, краях и областях. 4 мая 1954 г. такие комиссии были образованы и вскоре приступили к работе.
Первая кампания по пересмотру дел была довольно осторожной. Примерно каждый второй из осужденных получал отказ в реабилитации. Характерен такой пример. Поэтесса А. А. Ахматова обратилась к К. Е. Ворошилову с просьбой пересмотреть дело ее сына, Льва Николаевича Гумилева, молодого ученого-востоковеда, вторично арестованного органами МГБ СССР в 1949 г. и приговоренного особым совещанием к десяти годам лишения свободы. На письме имеется резолюция Ворошилова: «Руденко Р. А. Прошу рассмотреть и помочь». Тем не менее в своей записке на имя Ворошилова Руденко сообщил, что Гумилев занимался антисоветской деятельностью, осужден правильно и что Центральная комиссия по пересмотру дел 14 июня 1954 г. приняла решение отказать Ахматовой в ее ходатайстве.
Но тенденция к расширению процесса реабилитации была очевидной. Р. А. Руденко подчеркивал: «Всем нам придется столкнуться с тем, что оценки некоторых событий и их участников, казавшиеся неизменными, нужно будет пересмотреть. Сделать это надо во имя истины, справедливости и правды истории».
