Важно было также не делать новых ошибок. 4 августа 1955 г. Генеральный прокурор Союза издал приказ, который касался усиления прокурорского надзора за соблюдением законности при задержании, аресте и привлечении граждан к уголовной ответственности. Р. А. Руденко потребовал от подчиненных ювелирной точности при решении этих вопросов.
В приказе прямо предписывалось применять арест в качестве меры пресечения лишь при совершении тяжких преступлений, тогда как многие прокуроры прибегали к нему по незначительным поводам. Как пример Р. А. Руденко привел действия прокурора одного из районов Баку, который за единичный случай обвеса покупателя арестовал продавщицу, на иждивении которой находилось девять человек, из них семь малолетних детей. В Московской области районный прокурор арестовал трех подростков за кражу голубей.
С другой стороны, Роман Андреевич активно боролся с волокитой, которую демонстрировали некоторые прокуроры при привлечении к ответственности лиц, совершивших тяжкие преступления.
В начале 1957 г. была реформирована структура Прокуратуры СССР, а затем и прокуратур республик, краев и областей. Этими мерами руководство стремилось подчеркнуть изменения, наметившиеся в правоохранительной системе, показывая, что с прошлым покончено раз и навсегда. Менялось судопроизводство, уголовное, уголовно-процессуальное и даже гражданское законодательство. Прокуратура СССР и Р. А. Руденко как ее руководитель и одновременно депутат Верховного Совета СССР деятельно участвовали в подготовке законопроектов, обсуждая и шлифуя каждую статью новых нормативных актов.
Улучшению деятельности прокурорской системы способствовало образование в феврале 1959 г. в Прокуратуре СССР и в прокуратурах союзных республик коллегий. Коллегиальность была хорошим средством снизить число поспешных, необоснованных и субъективных решений. Первыми членами коллегии Прокуратуры Союза стали: Р. А. Руденко (председатель), A. T. Горный, П. И. Кудрявцев, В. В. Куликов, A. M. Мишутин, Г. Н. Новиков, И. Е. Савельев, Д. Ш. Салин, Г. А. Терехов.
При Руденко изменилась не только форменная одежда прокурорских работников, но и, что самое главное, содержание служебной деятельности стражей законности. Прокуроры, оставаясь главными защитниками государственных интересов, теперь были ориентированы в неизмеримо большей степени, чем раньше, на обеспечение прав и законных интересов граждан.
Занятый государственными делами, Руденко уже не так часто, как в первые годы, поднимался на судебную трибуну. Однако, как только возникло громкое уголовное дело, Генеральный прокурор взялся поддерживать по нему обвинение. Это было дело американского летчика-шпиона Ф. Г. Пауэрса, сбитого над территорией СССР 1 мая 1960 г.
Процесс над Пауэрсом показал большой прогресс, достигнутый советской правоохранительной системой, и высочайшую квалификацию Р. А. Руденко. После окончания судебного следствия и исследования всех доказательств Роман Андреевич произнес исключительно аргументированную, взвешенную и обстоятельную обвинительную речь. По оценкам западных юристов, Руденко был предельно справедлив по отношению к Пауэрсу.
«Я не думаю, что если бы Пауэрса судили в США, то к нему отнеслись бы так же вежливо и внимательно», – подчеркнул американский юрист В. Холлинен. Английский же юрист Л. Дейчес заметил, что ему было «приятно отметить вежливую, сдержанную манеру допроса обвиняемого Генеральным прокурором. Его допрос не оскорблял и не задевал Пауэрса. Именно такой стиль допроса обвиняемого любят в Англии».
