சீதா தேவியை கவர்ந்து சென்ற ராவணனுடன் போரிட்டு தனது உயிரை நீத்த ஜடாயுவிற்கு ஸ்ரீ ராமனே நீத்தார் கடன் செய்து மோட்சத்தை அளித்தார். ஜடாயுவின் சகோதரனான சம்பாதி தன் சகோதரனுக்குச் செய்ய முடியாது போனதினால் தன்னை சண்டாளத்துவம் பற்றிக் கொண்டதே என வருந்தினான். ஸ்ரீ ராமரின் அறிவுரைப்படி, ஆம்பல் நதியில் நீராடி இங்குள்ள முருகனைப் பூஜித்து தனது தோஷத்தைப் போக்கிக் கொண்டான் என ஸ்தல வரலாறு. ஸ்ரீ ராமர், வானரப் படையுடன் இலங்கை பயணித்தபோது கழுகுமலைக்கு அருகேயுள்ள வானரம்பட்டி என்ற ஊரில் சிறிது காலம் தங்கியதற்கான சான்றுகள் காணப்படுகின்றன. சம்பாதி என்ற கழுகு அரசன் தவமிருந்தும் முருகனைப் பூஜித்தும் இருந்த ஸ்தலம் என்பதாலும், மலையின் மேல் பகுதி கழுகைப் போல உள்ளதாலும் கழுகுமலை எனப் பெயர் பெற்றது. ஒரு யானை படுத்திருப்பது போல தோற்றமளிக்கும் மலை என்பதால் கஜமுக பர்வதம் எனப் பெயர் பெற்றது. தாராகாசுரனை வதம் செய்த பின் கார்த்திகேயன் இங்கு தங்கி ஓய்வெடுத்ததாகக் கூறப்படுகிறது. அதிமதுர பாண்டியன் வேட்டையாடச் சென்றபோது, இளைப்பாற உட்கார்ந்தான். அப்போது பசு ஒன்று பாறை ஒன்றின் மீது பாலைப் பொழிவதைக் கண்ணுற்றான். மணி ஓசையும் கேட்டது. அருகே சென்று பார்த்தபோது பசுவையும் காணவில்லை, மணி ஓசையும் நின்று விட்டிருந்தது. பாறையை அகற்றிவிட்டு பார்த்ததில் புதையுண்டிருந்த குகை ஒன்று தென்பட்டது. குகைக்குள் இருந்த கந்தஸ்வாமியின் திருவுருவத்தைப் பிரதிஷ்டை செய்து மண்டபங்கள் கட்டினான் என ஸ்தல வரலாறு. பொதிகை மலை போகும் வழியில் இங்கு தங்கி முருகனைப் பூஜித்து அகஸ்திய முனிவர் உபதேசம் பெற்றார் என குறிப்பொன்று கூறுகிறது. மலையோரமாக ஆம்பல் நதியும், கோவிலுக்கு அருகே குமார தெப்பம் மற்றும் வள்ளி சுனை ஆகியன காணலாம். புத்த துறவிகள் சில காலம் வாழ்ந்த நிஜ்ஜ கூடம் எனும் பகுதி கழுகுமலையிலுள்ளது. நிஜ்ஜம் என்றால் கழுகு என்று அர்த்தம். மலை உச்சியில் ஸ்ரீ உச்சிப் பிள்ளையார் கோவிலும், போகும் வழியில் சமண படுக்கைகளையும் காணலாம்.

300 அடி உயரமும் 36 அடி நீளமும் உள்ள மலைக்குன்றின் அடிவாரத்தில் மலையைக் குடைந்து மூலஸ்தானமும், அர்த்த மண்டபமும் உருவாக்கியுள்ளனர். இது ஒரு குடைவரைக் கோவில். வெளியே ருத்ராட்ச மண்டபமும், நவகிரக மேடையும் இருக்கின்றன. இக்கோவிலுக்கு விமானமோ, வலச்சுற்றுப் பிரகாரமோ இல்லை. மலையைச் சுற்றி கிரிவலம் வரலாம். மூலஸ்தானத்தில் ஸ்ரீ கழுகாசலமூர்த்தி எனப் போற்றப்படும் கந்தஸ்வாமி அழகே உருவாகக் காட்சி தருகின்றார். ஒரு திருமுகமும் ஆறு திருக்கரங்களும் கொண்ட திருமேனி. நான்கு கரங்களில் கேடயம், வச்சிரம், சக்தியாயுதம், கத்தி ஆகிய ஆயுதங்கள் ஏந்தியும், இரண்டு கரங்களில் அபய - வரத முத்திரை கொண்டும் தரிசனம் தருகின்றார். வெற்றிவேல் சாத்தப்பட்டுள்ளது. இடது காலை மயிலின் கழுத்தில் பதித்தபடியும், வலது காலை தொங்க விட்டும் மயிலின் மீது மேற்கு முகமாக அமர்ந்த கோலம். எப்போதும் ராஜ அலங்காரம். தெற்கு வடக்காக ஒருவரை ஒருவர் பார்த்தபடி வள்ளி - தெய்வயானை தேவியர்கள் உடன் உள்ளனர். முருகனின் வாகனமான மயில் வலது புறமாக இல்லாமல் இடது பக்கம் இருப்பது வித்தியாசமானது. மேற்கு முக சந்நிதானம் சிவ ஸ்வரூபம் என்றும் கிழக்கு முக சந்நிதானம் சக்தி ஸ்வரூபம் என்றும், ஆகம நூல்களில் குறிப்பிடப்பட்டுள்ளன. இங்கு மேற்கு முகமாகக் காட்சி தருவது கூடுதல் விசேஷம் என்பர். ஸ்ரீ அகிலாண்டேஸ்வரி உடனாய ஸ்ரீ ஜம்புலிங்கேஸ்வரர் எழுந்தருளி அருள்பாலிக்கின்றார். ஏழடி உயரம் கொண்ட நெடிந்துயர்ந்த திருமேனியுடன் பைரவர், விநாயகர் மற்றும் நடராஜப் பெருமானை தரிசிக்கலாம். முயலகன் இடப்புறமாகத் தலை வைத்திருப்பது வித்தியாசமானது. தேவியர்களுடன் ஸ்ரீ ஆறுமுக நயினார், அஸ்திர தேவர், சோமாஸ்கந்தர், பிட்சாடனர், வீரபாகு, கங்காளநாதர், சண்டேஸ்வரர் ஆகிய உற்சவ மூர்த்தங்கள் அழகாக இருக்கின்றன.