Перші поховання там з'явились у роки 16 століття. Спочатку ховали лише монахинь Новодівичого монастиря, а пізніше і світських людей. На початку 19 століття було виділено додаткову територію. Неодноразово кладовище розширювалося і згодом.
Закон про цвинтарях в Російській імперії з'явився за часів Катерини II і було викладено у «Лікарському статуті» Зводу Законів. Відповідно до нього цвинтаря влаштовувалися не ближче ніж 420 метрів від кордону міста.
Походить від кладовище «укладання», далі з класти; мабуть, табуїстичне назва, первонач. «Місце для складання; поховання».