วัดชมภูเวกสันนิษฐานว่าสร้างขึ้นเมื่อ พ.ศ. 2300 โดยกลุ่มชาวมอญ โดยเริ่มจากการสร้างมุเตา(เจดีย์)ขึ้นบนเนินอิฐเก่าซึ่งอาจเป็นซากโบราณสถานมาก่อน เพื่อประดิษฐานพระพุทธรูปและสิ่งศักดิ์สิทธิ์ที่นำติดตัวมาจากเมืองมอญ แล้วจึงสร้างวัดขึ้นมาภายหลังและให้ชื่อตามลักษณะที่ตั้งว่า "วัดชมภูวิเวก" ซึ่งมีความหมายว่า ขอสรรเสริญ บริเวณที่เป็นเนินสูง มีความเงียบสงบ ต่อมานามวัดได้เหลือเพียง "วัดชมภูเวก" วัดชมภูเภกอาจมีที่มาจากผู้นำกลุ่มชาวมอญ ได้แก่ พ่อปู่ศรีชมภู หรืออาจตั้งขึ้นตามลักษณะภูมิประเทศที่มีต้นหว้าขึ้นอยู่มากมาย ซึ่งต้นหว้าในภาษาบาลีใช้คำว่า "ชมพู" จึงตั้งชื่อวัดนี้ว่า วัดชมพูวิเวก

ขึ้นทะเบียนเป็นโบราณสถานตามราชกิจจานุเบกษา เล่ม 91 ตอน 82 วันที่ 4 พ.ค. 2517