కీర్తి గిరి దుర్గ కోటను చండేలా రాజు కీర్తి వర్మన్ 1057 లో నిర్మించాడు. మరొక కధనంగా, ఈయనకు ముందు అంటే 9 వ శతాబ్దం లోనే కన్నౌజ్ కు చెందినా ప్రతీహార పాలకులు దీనిని నిర్మించినట్లు కూడా చెపుతారు. చివరకు ఇది గ్వాలియర్ పాలకులు సిందియా కుటుంబం చేతుల్లోకి వచ్చింది. కోట కు హాతి దర్వాజా, ఢిల్లీ దర్వాజా అని రెండు ప్రవేశాలు వుంటాయి. కోట లోపల , బయట అనేక జైన టెంపుల్స్ మధ్య యుగం నాటివి కనపడతాయి.
ఇక్కడ మూడు ప్రధాన స్నానపు ఘాట్లు కలవు. ఇక్కడే సిద్ధి కి గుహ అంటే ఋషులు వుండేది ఒకటి కలదు. ఈ గుహ బెట్వా నది కి చేరువవుతుంది.