'கா' என்றால் சோலை என்று பொருள். 'வனம்' என்றால் வயல் சூழ்ந்த காடு. சோலைகளும், வயல்களும் மிகுந்திருந்த பகுதியாக இருந்ததால் 'காவனம்' எனப் பெயர் கொண்டது.
சதுர்வேத விற்பன்னர்கள் உள்ள சின்னக் காவனம் எனும் இவ்வூருக்கு, காசி யாத்திரை போகும் வழியில், அகஸ்திய மாமுனிவர் வந்து, சிறிது காலம் இங்கு தங்கினார். இங்குள்ள ஏறிழிஞ்சி மரத்தடியில் 108 சிவலிங்கங்களை அமைத்து வழிபட்டால், காசிக்கு போவதற்கு சமம் என்று எண்ணினார். அவரது கனவில் சிவபெருமான் தோன்றி கூறிய யோசனைப்படி 108 லிங்கங்களை பிரதிஷ்டை செய்யலானார்.
தினமும் ஆரணி நதியில் நீராடி, ஒரு பிடி மணல் கொண்டு வந்து, ஏறிழிஞ்சி மரத்தடியில் மணலால் சிவலிங்கம் அமைத்தார். விநாயகரை மறந்ததினால், 108ஆம் நாள் அமைத்த சிவலிங்கம் விநாயகர் உருவெடுத்தது. அகஸ்தியருக்கு 108வது லிங்க பிரதிஷ்டை விநாயகராக உருவெடுத்ததாலும், இத்தலத்திற்கு நூற்றெட்டீஸ்வரர் என்று பெயர்.
இத்தலத்தின் ஸ்தல விருட்சமான ஏறிழிஞ்சி மரம் ஒரு அதிசயமான மரம். இந்த மரத்திலிருந்து கீழே விழும் விதைகள், தாமே ஊர்ந்து சென்று, மீண்டும் மரத்தில் ஒட்டிக் கொள்ளும் இயல்புடையவை. பார்ப்பதற்கு பவழக் கூடு போல இருக்கும்.
வள்ளலாரின் தாயார் சின்னம்மையார் பிறந்த இவ்வூரில், வள்ளலார் வாழ்ந்துள்ளார். தாயும் மகனும் இத்தலத்தில் நூற்றெட்டீஸ்வரரை வழிபட்டுள்ளனர்.
நந்திவர்மன் எனும் அரசன் இந்த ஆலயத்தை கட்டியதாக குறிப்பு ஒன்று கூறுகிறது.