ఏనుగులను ఉంచడం కోసం నిర్మించబడిన ప్రాంతం గాజ్ పూర్. ఈ ప్రాంతం ఇప్పుడు శిధిలాల్లో ఉన్నప్పటికీ చూసి తీరాల్సిన ప్రాంతాల్లో ఒకటి. ఒకప్పుడు ఈ ప్రాంతాన్ని పాలించిన రాజు తన సైనికులను 1000 ఏనుగులను పట్టుకోమని ఆదేశించాడు కనుక వాటిని ఉంచడానికి ఈ ప్రాంతాన్ని కొన్నాడు. ఒక కొత్త ప్రాంతాన్ని స్థాపించినందుకు ఈ ఆదేశాలు ఇచ్చారు. అలాగే ఈ ప్రాంతాన్ని హాతీ ఘర్ గా నామకరణం చేసారు.
అయితే రాజుగారికి 1000 ఏనుగులను పట్టుకోవాలన్న తన ప్రణాళిక సాధ్యం కాదని తెలిసి పోయింది. దాంతో ఈ ప్రాంతానికి గజ్ పూర్ అనే పేరు పెట్టారు. ఏనుగులను ఇక్కడ ఉంచకపోయినా, గజ్ అనే పేరు ఇది ఏనుగుల కోసం ఉద్దేశించినదే అని తెలియచేస్తుంది, ఎందుకంటే అస్సామీ భాషలో ‘గజ్’ అంటే ఏనుగు అని అర్ధం.
గజ్ పూర్ బిల్వేశ్వర శివాలయానికి ఉత్తరంగా వుంది. మధ్యలో వుండడం వల్ల గజ్ పూర్ కు తేలిగ్గానే చేరుకోవచ్చు. యాత్రికులు టాక్సీలు, ప్రజా రవాణా వాహనాల ద్వారా గజ్ పూర్ కు వెళ్ళవచ్చు.