Сучасний місто виникло на піднесеному плато вододілу річок Харків та Лопань на місці зруйнованого давньоруського городища коло не менше 530 сажнів, з безліччю підземних ходів — спочатку як невелика фортеця Московської держави на території Білгородського воєводства для захисту кордонів від набігів.
Сучасний місто заснований указом російського царя Олексія Михайловича в 1654 року дома древнього городища, ідентифікованого іноді як половецьке місто XI століття Шарукань чи гуннський місто V століття Харка.
Перший раз про нього згадали літописці у 1185 р. року, саме тут після полону був князь Ігор. Але перша згадка про Харкові, за словами Сергія Куделка, було в царському указі Чугуївському воєводі Сухотіну про спорудження харківських укріплень, датоване 28 березня 1656 р. року.