இத்தலம் பனைமரக்காடாக இருந்தமையால் "பனங்காடு" எனப் பெயர் கொண்டது. பனைமரத்தை ஸ்தல விருட்சமாகக் கொண்ட ஐந்து ஸ்தலங்களுள் இதுவும் ஒன்று. பிரம்மாவின் மானஸ புத்ரர்களில் ஒருவரான புலஸ்தியர், தன் மகனான அகஸ்தியர் வழிபட்ட இத்தலத்திற்கு வந்து, சுயம்புலிங்கத்தைத் தேடி, தரிசனம் கிடைக்காது போனதால் தாமே ஒரு லிங்கம் அமைத்து பிரதிஷ்டை செய்து பூஜித்தார். அந்த லிங்கமே கிருபாநாதேஸ்வரர்.
சுயம்புவான தாலபுரீஸ்வரரை - புலஸ்தியருக்கு காட்சி தரவேண்டுமென்று அம்பிகை கேட்டுக் கொண்டதால், அம்பிகைக்கு "கிருபா நாயகி" என்று பெயர் வந்ததாக ஸ்தல வரலாறு கூறுகிறது.
நண்பகல் வேளையில் நடந்து வந்த களைப்பும், பசியும் கொண்ட சுந்தரர் இத்தலமருகே வந்தபோது, முதியவர் வடிவில் வந்த இறைவன் அவருக்கு கட்டமுது படைத்தார் என்றும், தண்ணீர் பருக நீர்ச்சுனை ஒன்றை உண்டாக்கினார் என்றும் ஸ்தல வரலாறு கூறுகிறது.
தாலபுரீஸ்வரருக்கு மாசி மகம் விசேஷம். கிருபாநாதேஸ்வரருக்கு கார்த்திகை சோமவாரம் விசேஷம். அகஸ்தியர் பூஜித்த பொழுது பனம்பழத்தை நைவேத்யம் செய்ததால், இப்போதும் (கிடைக்கும் காலங்களில்) அதே நைவேத்யம் தொடர்கிறது.
ஜடாகங்கை குளத்தருகே கங்கா தேவியின் சிலை உள்ளது. இங்கு எதிரொலி கேட்கின்றது.
ஸ்தல விருட்சங்களான ஆண்பனை மற்றும் பெண்பனை இரண்டும் ஒரே மரத்தின் விதைகளிலிருந்து முளைத்தவை என்பது கூடுதல் விசேஷம்.
