В серпні 1937 Рокоссовський поїхав до Ленінграда, де був заарештований за звинуваченням у зв'язках з польською та японською розвідками, ставши жертвою помилкових свідчень. Два з половиною роки провів під слідством (слідча справа №25358-1937).
серпні 1937 р. З 1930 р. командував полком, бригадою, дивізією. Незважаючи на позитивну характеристику, Рокосовський у серпні 1937 р. був заарештовано за звинуваченням у зв'язках з японською та польською розвідкою.
З лютого 1943 Рокосовський командував військами Центрального фронту на Курській дузі. Зумів належним чином підготувати війська до майбутнього літнього наступу супротивника. Відобразивши німецький наступ, війська Центрального фронту перейшли у контрнаступ, звільнивши 5 серпня Орел.
Костянтин Рокосовський був звільнений з в'язниці у 1940 року. Його відновили у правах та направили у розпорядження командувача Київського військового округу генерала армії Жукова.