Первым делом Петр занялся реорганизацией армии. Впервые в русской истории он превратил ее в регулярную. Он осуществил переход к казенному содержанию вооруженных сил, а прежние беспорядочные наборы рекрутов заменил периодическими призывами. Рекрутов направляли к сборным пунктам, где они проходили предварительное обучение под руководством побывавших в боях офицеров, а затем обученных новобранцев отправляли на пополнение старых полков или формировали из них новые. Следовавшими один за другим регулярными наборами Петр распространил воинскую повинность на все классы общества. Прежняя по преимуществу дворянская армия получила теперь всесословный состав. Иностранных офицеров в армии сохранили, но их число уже не должно было превышать одной трети от общего офицерского состава.
В короткий срок отлили 300 новых орудий. Для этого пришлось снять часть церковных колоколов. Впервые Петр организовал интендантскую службу и его полки стали получать регулярное снабжение. Их больше не распускали по домам в месяцы затишья, а держали на казарменном положении, где они продолжали обучение. Боевой опыт уже не терялся, как было в прежние времена, а накапливался. Но что не менее важно, Петру удалось изменить боевой дух армии. Он стал упорно насаждать среди солдат понятия чести, самолюбия и воинского долга. Он сумел внушить им мысль, что они сражаются не за интересы царя, а за свою Отчизну. Он развивал в солдатах задатки, которые изначально были в них заложены – любовь к своей стране, выносливость, долготерпение и беспредельную самоотверженность. Он сумел превратить людей, прежде живших одними инстинктами, в бойцов, имеющих свой идеал и осознанную храбрость, а не одно слепое повиновение из-под палки.
Нарва настолько уронила в глазах противника русскую армию, что шведы, если верить их словам, без всякой боязни шли в бой с московитами в соотношении один к пяти, и были уверены в победе. Но Петр на место каждой разбитой армии выставлял другую. Мелкими стычками, набегами, осадами, штурмами небольших приграничных крепостей, он постепенно готовил свои войска к решающим сражениям. Его армия стала привыкать к боям, смертям и ранам. Все больше в ней появлялось опытных солдат и офицеров. Постепенно силы стали выравниваться и поражения стали чередоваться с победами.
А в это время шведский король гонялся по Польше и Саксонии за армией Августа II и наносил ему одно поражение за другим. Петровские победы и взятие царем шведских крепостей Карла XII нисколько не беспокоили. Он полагал, что как только справится с главным противником, то с русским царем покончит так же быстро, как под Нарвой. В 1706 году Август II потерпел серьезное поражение и лишился короны Речи Посполитой. Северный союз окончательно распался, и Петру пришлось воевать со шведами уже самостоятельно.
В начале 1708 года Карл XII вторгся в пределы России и направился к Москве. На пути к Смоленску он одержал победу над русскими войсками под командованием генерала Репнина, но это сражение было последним его крупным успехом. По приказу Петра местность на пути шведской армии подвергли полному опустошению, чтобы она стала испытывать недостаток в продовольствии. Карл повернул свою армию на юг на Украину, где гетман Мазепа обещал обеспечить его поставками и помочь своими казаками. Помимо этого, Карл XII рассчитывал соединиться с крымским ханом и прошведски настроенными поляками.
