대한불교법화종에 소속된 사찰이다. 1321년(고려 충숙왕 8) 창건 당시에는 대흥사라고 하였으며, 조선 영조 때 승려들이 힘자랑을 하다가 살인을 하는 일이 벌어져 폐사되었다고 한다.
1930년에 하장우가 초막 네 칸을 짓고 백운사라고 하였으며, 1933년 봉국사 승려 송운재가 법당을 지었다. 1956년 법당을 중수하고, 1960년 불에 탄 것을 곧 중창하여 오늘에 이른다. 현존하는 건물로는 대웅전과 요사채 등이 있고, 유물로는 사찰 입구에 모셔진 5기의 부도가 유명하다.
이들 부도는 괴산 백운사 승탑군으로 1997년 6월 27일에 충청북도 문화재자료로 지정되었다. 1기는 1955년에 세운 송운재의 것이고, 나머지 4기는 대흥사터 산제당골에 있던 것을 옮겨온 것으로 모두 조선시대에 세운 것이라 한다. 이 승탑들은 조선시대에 유행하던 전형적인 승탑의 원형을 갖추었으며 밑에서부터 기단부, 탑신부, 상륜부 순서로 구성되어 있다.
한편 1941년 금동여래입상이 발견되었으나 1965년 12월 증평에 주둔한 군 부대장이 가지고 갔다고 하며, 1952년 10cm의 철제여래좌상이 발견되었으나 1953년 분실하였다고 전한다.