ஆதியில் சிறுவாச்சூரின் எல்லைத் தெய்வமாக இருந்து மக்களைக் காத்து வந்தவள் செல்லியம்மனே. பில்லி - சூன்ய மந்திரங்களறிந்த கொடியவன் ஒருவன், செல்லியம்மனை பக்தியால் தன் வயப்படுத்தி மந்திர சக்தியால் கட்டிப் போட்டு விட்டான். பின்னர் பில்லி - சூன்ய மந்திரங்களைக் கையாண்டு பலரைக் கொன்று, ஊரைத் துவம்சம் செய்து வந்தான். இதைக் கண்ட மதுரகாளி அனல் வடிவத்தினளாய் வந்து, இங்கிருந்த பெரிய ஆய்ச்சியான செல்லியம்மனை அருகே உள்ள பெரியசாமி மலைக்கு அனுப்பிவிட்டு, சிறிய ஆய்ச்சியாக இங்கமர்ந்து அருளாசி வழங்குகிறாள். கோவிலுக்குள் நுழைந்த அந்தக் கொடியவனை அனல் வடிவம் கொண்டு சம்ஹாரம் செய்து பக்தர்களைக் காப்பாற்றினாள் மதுர காளி. சிறிய ஆய்ச்சி, ஆட்சி செலுத்தும் இடம் என்பதால் சிறுவாச்சூர் என்றானது. ஆதி சங்கரருக்கு அன்னை நீருற்றாய் காட்சி தந்த இடத்தில் மூலஸ்தானம் அமையப் பெற்றுள்ளது. திருக்குளத்தின் மத்தியில் தீர்த்தக் கிணறு தோன்றுவதற்கு காஞ்சி மகா பெரியவர் வழி வகுத்துள்ளார். மாதுர மலையில் காளி வடிவில் காட்சி தந்ததால் மாதுரக் காளி என்றிருந்து, பின்னர் மதுரக்காளி என ஆகியிருக்கக் கூடும். சித்தர்கள் தேனீக்கள் வடிவில் இவளை வழிபடுவதால் மதுர காளி என்றானாள். மதுரையை எரித்த கண்ணகியே இங்கு மதுர காளியாக வீற்றிருப்பதாகக் கூறுவோரும் உண்டு. ஏராளமான பக்தர்களுக்கு குல தெய்வமாகவும், இஷ்ட தெய்வமாகவும் இருப்பவள் இந்த மதுர காளி. காஞ்சி மகாமுனி மகா பெரியவாளின் குலதெய்வம். மதுரகாளிக்கு இடம் தந்த செல்லியம்மனுக்கே முதல் பூஜை. திங்கள் - வெள்ளி ஆகிய தினங்களில் செல்லியம்மன் இடம் பெயர்ந்த மலையடிவாரத்தை நோக்கி தீபாராதனை காட்டுகின்றனர். சக்தி ஸ்தலம்.

மூலஸ்தானத்தில் மூலவராக எழுந்தருளியுள்ள ஸ்ரீ மதுரகாளியம்மன் மிகுந்த வரப்பிரசாதி. பல்வேறு ஆயுதங்கள் ஏந்தியும், அபய - வரத திருக்கரங்களுடனும் வீராசனத்தில் அமர்ந்த கோலத்தில் தரிசனம் தருகின்றாள். ஸ்ரீ சதாசிவ பிரம்மேந்திரர் மூல விக்ரஹத்திற்கு ஸ்ரீ சக்கர ஸ்தாபனம் செய்துள்ளார். விநாயகப் பெருமான் எழுந்தருளி ஆசி வழங்குகின்றார். கோவிலின் பக்க மேடையில் பெரியசாமி உள்ளிட்ட தேவதைகளின் சிலைகளும், வேல்களும், சூலங்களும் காணப்படுகின்றன. வடகிழக்கு மூலையிலுள்ள அஷ்டலட்சுமி மண்டபத்தில் பக்தர்கள் உண்ணவும், உறங்கவும், ஓய்வெடுக்கவும் வசதிகள் செய்யப்பட்டுள்ளன. கோவில் வளாகத்தில் கிழக்கு பிரகாரத்தில் நிறைய உரல்களும் உலக்கைகளும் வைக்கப்பட்டுள்ளன. இதில் நெல்லைக் குத்தி அரிசியாக்கி, பின்னர் மாவாக்கி, மாவிளக்குப் போடும் சம்ப்ரதாயம் இங்கு கடைப்பிடிக்கப்படுகின்றது. திங்கள் மற்றும் வெள்ளிக் கிழமைகளில் மட்டுமே ஆலயம் திறக்கப்படும். உச்சிகால பூஜை மட்டுமே நடக்கும். மதுரகாளி இங்கு வந்தமர்ந்த கதையை கோடங்கி அடித்து பாட்டாகப் பாடிவிட்டு, தீபாராதனை காட்டுவார்கள். செல்லியம்மன் இடம் பெயர்ந்த மலையடிவாரத்தை நோக்கி தீபாராதனை காட்டுவார்கள். மற்ற நாட்களில் தீபாராதனை பெரியசாமி மலையில் நடைபெறும். மதுரகாளியம்மன் கோவிலின் நேர்வடக்கே சோலை முத்தையா ஆலயம் உள்ளது. குதிரையில் அமர்ந்த சோலை முத்தையாவின் சிலைகள் ஏராளமாக நேர்த்திக் கடனாக வைத்துள்ளனர். சோலை கண் அம்மாயி, சோலை பெரிய கன்னியம்மன் திருவுருவங்களைக் காணலாம். பெரிய பாம்பு புற்றும், ஐயனார் கோவிலும் வடக்கே உள்ளன. மதுரகாளியம்மன் கோவிலுக்கு மேற்கே 5 கி.மீ. தொலைவில் உள்ளது பெரியசாமி மலை. மலையடிவாரத்து காட்டிற்குள் கம்பீரமாக அமர்ந்துள்ளார் பெரியசாமி. மிரட்டும் விழிகளும், பெரிய மீசையுடனும் காட்சி தரும் பெரிய திருமேனி. எதிரே அமர்ந்துள்ள செல்லியம்மன் மிக்க சக்தி வாய்ந்தவள். பெரிய ஆய்ச்சி எனப் போற்றப்படும் இவள் மதுரகாளி அம்மனின் சகோதரி. பெரியகன்னி ஐயா, லாட சாமிகள், கிணத்தடியார் சாமிகள், பெரிய கன்னியம்மன் ஆகிய கிராம தேவதைகளை வணங்கி வழிபடலாம். சற்றுத் தள்ளி ஆத்தடி குருசாமி கோவிலில் 14 சித்தர்கள் சிம்மத்தின் மீது அமர்ந்துள்ளனர். அடுத்து நாககன்னியம்மன், செங்கமல ஐயா, பொன்னு ஐயா, சிரிமுத்தையா, அரிகண்ட ஐயா, சீராப்புலியார் ஆகிய பரிவார தேவதைகள் எழுந்தருளியுள்ளனர். சற்றுத் தள்ளி கம்ப பெருமாள் கோவில் உள்ளது. பெரியசாமி மலைக்கருகே மாதிரமலை உள்ளது. குங்கும மரத்தடியில் தவக்கோலத்துடன் காணப்படும் தேவி சூலத்துடன் தரிசனம் தருகின்றாள். சம்புநி சித்தர், நேமிநாதர் ஆகிய சித்தர்கள் தேனீக்கள் வடிவில் வழிபடுவதாக ஐதீகம். பெரியசாமி மலை கோவில்களுக்கு ஆண்கள் மட்டுமே செல்கின்றனர். பெண்கள் போவதில்லை. இங்கு தரப்படும் பிரசாதங்களையும் அங்கேயே சாப்பிட வேண்டும் என்று கூறப்படுகிறது.