एक छोटे झील के ऊपर स्थित, मंदिर में एक शंकुधारी गुंबद के साथ विशिष्ट बंगाली-झोपड़ी शैली के निर्माण का एक वर्ग प्रकार का अभयारण्य है। यह माना जाता है कि यह मंदिर सम्राट कनिष्क से पहले बनाया गया था, जो यहां शासन करते हैं। इसके निर्माण की सही तारीख अभी तक ज्ञात नहीं है। ऐसा कहा जाता है कि हिंदुओं की शक्तिपीठों में से एक शक्तिशाली दिव्य शक्ति है। लेकिन यह माना जाता है कि कुशाण सम्राट कनिष्क के शासनकाल से लगभग पहले मंदिर ईश्वर का निर्माण हुआ था जो कि पहली शताब्दी ईस्वी में शासन करता था। त्रिपुरा सुंदर मंदिर को कुर्म पिथ के रूप में भी जाना जाता है क्योंकि मंदिर का आकार कछुए के समान है।
मंदिर गर्मी के दौरान सुबह 5.00 बजे और सर्दियों के दौरान 5.30 बजे शुरू होता है। यह गर्मी के दौरान 9.00 बजे और सर्दियों के दौरान 8.30 बजे बंद रहता है।