ఈ గుహల సముదాయానికి, ఈ చారిత్రాత్మక ప్రదేశానికి ఒక జ్ఞానవంతుడైన పండితుడు అయిన భర్తృహరి పేరు పెట్టబడింది. భర్తృహరి రాజు, విక్రమాదిత్యుని సవతి తమ్ముడు, ఒక గొప్ప పండితుడు మరియు కవి. ఈయన మొట్టమొదట సంస్కృతాన్ని సాధారణ మానవుడికి కూడా అర్థం అయ్యే తీరులో తెలిపిన కవి. ఆయన వ్రాసిన "వాక్యపదీయ" సంస్కృత భాషా తత్వశాస్త్రం మరియు వ్యాకరణం అవగాహనకు ఒక మార్గదర్శకంగా నిలిచింది.
రాజవంశంలో, భోగాల మధ్యన పెరిగిన భర్తృహరి రాజు, జీవితంలో ఇవి అన్ని వట్టి మాయ అని తెలుసుకున్నాడు. ఆతను అన్ని భోగాలను, విలాసాలను వదిలి జ్ఞానోదయానికి మార్గం వెతికాడు. జ్ఞానోదయ మార్గం వెతుకుతూ భర్తృహరి ఈ గుహలలో ఉండటంవలన, వీటికి భర్తృహరి గుహలు అనే పేరు వొచ్చింది.
నాథ్ కమ్యూనిటీ యొక్క విగ్రహం అంకితమైన ఒక చిన్న గుడి ఈ గుహల చుట్టూ ఉన్నది. ఈయన భక్తులు ఇప్పటికి సంస్కృతాన్ని సాధారణ మానవులలో అవగాహన విప్లవం తెచ్చిన ఈ పండిత కవి పట్ల గౌరవం చూపిస్తారు.