यह जगत विदित है कि समुद्र मन्थन के समय भगवान श्री हरि ने मन्दराचल पर्वत को सम्हालने के लिए स्वयं कूर्म रूप धारण किया था। भगवान श्री हरि को उस अवस्था में स्थैर्य शक्ति प्रदान करने का कार्य भगवती श्री पीताम्बरा ने किया था। इस प्रसंग को मूर्त रूप देने के लिए पीठ में हरिद्रा सरोवर निर्मित किया गया है जिसके चारों ओर भगवती के मन्त्र के द्रष्टा नारद आदि ऋषियों के विग्रह भी स्थापित है। आदि काल में इन ऋषियों ने ही देवी के महान उपकार का साक्षातकार कर भगवती कि कृपा से उनके मन्त्र को प्रत्यक्ष प्राप्त किया था।