மாபலி சக்ரவர்த்தியின் கொட்டத்தை அடக்கவும், தேவர்களின் குறைகளை தீர்க்கவும், ஸ்ரீமந் நாராயணன் வாமன வடிவம் கொண்டு காஞ்சியை அடைந்தார். ஒரு சிவலிங்கம் பிரதிஷ்டை செய்து அபிராமம் எனும் திருநாமம் சூட்டி வழிபட்டார். பின்னர் மாபலியிடம் மூன்றடி கேட்டு அவனை பாதாளத்தில் அழுத்தியதாலும், தடுக்க வந்த சுக்கிரனின் கண் பார்வையைப் பறித்ததாலும் மீண்டும் காஞ்சி வந்து, வாமன குண்டம் எனும் தீர்த்தம் அமைத்து அபிராமேஸ்வரரைப் பூஜித்தார். உலகளந்த கோலத்தைக் காட்டி வணங்கிச் சென்றதாக ஸ்தல வரலாறு.

மூலஸ்தானத்தில் சிவலிங்க வடிவினராக எழுந்தருளி அருள் புரிபவர் அபிராமேஸ்வரர். சுயம்பு லிங்க மூர்த்தம். சிறியத் திருமேனி என்றாலும் அழகாக இருக்கின்றது. முகப்பில் கணபதியும், வள்ளி-தெய்வயானை உடனாய முருகனும் எழுந்தருளியுள்ளனர்.