நிலப்பரப்பை சரிசமன் செய்ய தென் பகுதிக்கு வந்த அகஸ்திய முனிவர், பார்வதி - பரமேஸ்வர திருக்கல்யாணக் காட்சியைப் பார்க்க முடியாமல் போனதே என்று வருந்தியதால், இத்தலத்திற்கு முனிவரை வரவழைத்து, பார்வதி - பரமேஸ்வரராக தரிசனம் தந்து, அகஸ்தியருக்கு ஆனந்தம் தந்ததால், இவ்விறைவனுக்கு சிவாநந்தீஸ்வரர் என்ற பெயரும், அம்பிகைக்கு ஆனந்தவல்லி என்ற பெயரும் ஏற்பட்டன.
சிவபெருமானை மட்டும் வழிபடும் ப்ருகு முனிவர், சிவ - சக்தி வடிவம் கண்டால், வண்டு ரூபம் எடுத்து, துளைத்து, நடுவே புகுந்து, சிவனை மட்டும் வலம் வருபவர்.
இத்தலத்திற்கு வந்த பிருகு முனிவர் நீண்ட தவம் இயற்றி ஆயிரம் கள்ளில் மலர்களால் சிவாநந்தேஸ்வரரை அர்ச்சித்து வழிபட்டார். இதனால் மகிழ்ந்து நேரில் பிரத்யட்சமான அம்பிகையோடு தட்சிணாமூர்த்தி கோலத்தில் வந்து, ப்ருகு முனிவருக்கு உபதேசம் செய்தார் என ஸ்தல வரலாறு தெரிவிக்கின்றது.
குசன் தனது தலையை மூழ்கச் செய்து குளித்த ஆறு என்பதால் குசஸ்தலை ஆறு எனப் பெயர் கொண்டதாகக் கூறுவர்.
ஞானசம்பந்தர் குசஸ்தலை ஆற்றில் நீராடிக்கொண்டிருந்த போது, அவரது விபூதிப் பையை திருக்கள்ளில் ஊரின் ஆற்றின் கரையில் வைத்தார்.
படிக்கட்டுக்களைக் கொண்ட, ததும்ப ததும்ப தண்ணீர் நிறைந்த அழகிய குளம் ஆலயத்தின் முன்பாக உள்ளது. தைப்பூசத்தன்று தெப்பத்திருவிழா நடைபெறும்.
இது ஒரு தேவாரத் திருத்தலம்.