칠갑산 남쪽 기슭에 자리잡고 있는 절로, 신라 문성왕 3년(841)에 혜조국사가 지었다고 전한다. 이후, 517년경 전각이 모두 불타고 삼존불상만 화를 면했다. 16년 후 마곡사의 인명선사가 다시 짓고 여러 차례 보수·중건하였다.
1907년 큰 화재로 소실되었는데, 1908년 월파스님이 다시 지었다.현재 절 안에는 삼존불상을 모시고 있는 대웅전과 산신각, 석굴암, 중암, 서암 등 암자가 있다. 정혜사의 현판은 3·1운동의 33인 중 한 분인 오세창 선생이 직접 쓴 것이다. 이 정혜사는 대사원으로 소속 암자도 많았던 것으로 추정된다. 지금도 혜림암, 석굴암, 서전암 등이 남아있다.
대웅전은 자연석으로 쌓은 기단 위에 자연석으로 주춧돌을 놓고 네모기둥을 세웠다. 정면 5칸, 측면 1칸의 팔작지붕 건물로, 앞뒤에 툇간이 있다. 가운데 3칸은 뒤쪽 툇간까지 방을 넓혀 불전으로 사용하고, 동쪽 방은 승방, 서쪽 1칸은 부엌이다. 불전과 승방 앞에는 툇마루를 깔았다. 대웅전 안에는 목조로 된 석가여래불좌상·아미타여래불좌상·약사여래불좌상의 삼존불이 봉안되어 있는데, 조선시대에 조성된 것으로 보인다.